
인공지능(AI)은 이제 질문에 단순히 답하는 단계를 넘어, 여러 단계의 추론과 외부 도구를 스스로 활용해 복잡한 업무를 처리하는 ‘AI 에이전트’ 단계로 빠르게 진화하고 있다. 하지만 이러한 발전이 실제로 얼마나 많은 자원과 전력을 추가로 요구하는지는 그동안 제대로 규명되지 않았다.
우리 학부 유민수 석좌교수 연구팀은 AI 에이전트의 계산 비용과 응답 지연, 에너지 소비, 나아가 데이터센터 전력 수요까지를 처음으로 정량 분석한 결과를 발표했다. 해당 연구 결과는 컴퓨터 아키텍처 분야 최고 권위 학회인 IEEE HPCA 2026에서 공개돼 학계의 주목을 받았다.
연구팀은 AI 에이전트가 단순히 ‘연산량이 늘어나는’ 문제를 넘어, 데이터센터 인프라 전반에 이전과는 다른 새로운 부담을 준다는 점에 주목했다. 기존의 ‘단계별 추론(Chain of Thought)’이 사람의 사고 과정처럼 한 단계씩 순차적으로 이어지는 것과 달리, AI 에이전트는 대형언어모델(LLM)을 여러 차례 되풀이해 호출하는 방식으로 작동하기 때문이다.
분석 결과 AI 에이전트는 기존 방식보다 평균 9.2배 많은 LLM 호출을 일으켰으며, 처리가 지연되는 시간은 최대 153.7배까지 늘어났다. 또 도구를 사용하는 동안 GPU가 놀게 되는 시간이 불가피하게 발생했는데, 그 비중이 전체 실행 시간의 최대 54.5%에 달했다. 작업이 복잡해질수록 값비싼 GPU를 온전히 활용하지 못하는 비효율이 커지는 셈이다.
이를 데이터센터 규모로 확대하면 전력 소비의 격차는 한층 뚜렷해진다. 현재 상용 AI 서비스 수준인 700억 개 매개변수 규모의 LLM을 사용하는 AI 에이전트는 질문 한 건을 처리하는 데 평균 348.41Wh의 전력을 썼다. 이는 기존의 단발성 질의응답 방식이 소비하는 2.55Wh보다 약 136.6배 높은 수치다.
데이터센터가 감당해야 할 전력 부담도 기하급수적으로 커진다. 최소 7,140만 명에 이르는 챗GPT의 일일 활성 사용자가 기존 질의응답을 AI 에이전트로 전환한다고 가정하면, 필요한 전력은 7.6MW에서 1GW로 껑충 뛴다. 하루 약 137억 건에 달하는 구글 검색이 앞으로 AI 에이전트를 통해 이뤄진다고 가정할 경우에는 하루 198.9GW의 전력이 필요한 것으로 계산됐다. 이는 미국 전체 평균 전력 부하(476.9GW)의 절반에 해당하는 막대한 규모다.

연구팀은 “AI 에이전트의 성능 향상은 더 많은 연산을 요구하는 데 그치지 않고 데이터센터 인프라 전반에 새로운 부담을 유발한다는 점을 확인한 데 이번 연구의 의의가 있다”고 밝혔다. 이어 “앞으로의 AI 에이전트 연구는 더 똑똑한 에이전트를 만드는 것은 물론, 제한된 인프라와 전력 예산 안에서 이를 얼마나 효율적으로 운영할 수 있을지까지 함께 고려해야 한다”고 강조했다.
최기영 전 서울대 전기정보공학부 교수(전 과학기술정보통신부 장관)는 AI 데이터센터와 반도체·자재 부족에 더해 전력 공급 역시 만만치 않은 과제라고 지적하며, AI 에이전트의 요구대로 데이터센터의 규모와 비용을 무작정 늘리는 것은 지속 가능하지 않을 수 있다는 경종을 울렸다는 점에서 이번 논문의 의미가 크다고 평가했다.
이번 연구에는 신병준 석사과정, 정진하 석·박사통합과정, 김지인 박사과정 학생이 참여했다.
※ 논문명: The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective
※ GitHub(기술 오픈소스): https://github.com/VIA-Research/AgentBench
한편 이 기술은 과학기술정보통신부 및 정보통신기획평가원의 SW컴퓨팅산업원천기술개발(SW스타랩(Starlab)) 사업 및 삼성전자 미래기술육성센터로 연구개발한 결과물이다.
주요 언론 보도
- 이데일리: “AI 에이전트, 질문 한 번에 전력 136배 더 쓴다”…KAIST, 세계 첫 정량 분석 (2026.7.5)
- 헤럴드경제: “챗GPT보다 전력소모 136.5배↑”…KAIST, AI 에이전트 ‘숨은 전력 비용’ 첫 규명 (2026.7.5)
- 파이낸셜뉴스: 똑똑하다는 ‘AI 비서’, 알고 보니 전기먹는 하마? 전력 소모량 136배 많아 (2026.7.5)
- 디지털데일리: 에이전트AI, 생성AI보다 전력 소모 ‘136.5배’↑…”에너지 인프라 중요성 부각” (2026.7.5)
- 한국일보: AI 에이전트는 전기 먹는 하마? “생성형 AI보다 136배 더 써” (2026.7.5)
- 한겨레: ‘답변’ 아닌 ‘과제’ 수행하는 AI, 에너지 소비 136.6배 많아 (2026.7.5)















