AI 에이전트 비용 논란

최근 인공지능(AI) 업계의 화두는 스스로 생각하고 판단해 행동하는 'AI 에이전트(AI Agent)'입니다. 하지만 AI가 똑똑해지는 만큼 우리가 감당해야 할 '에너지 청구서'도 상상을 초월할 정도로 무거워진다는 연구 결과가 나왔습니다.

AI 에이전트, 왜 이렇게 에너지를 많이 쓸까?

지피지기면 백전백승인데 AI 에이전트란 무엇일까요? AI 에이전트는 이제 LLM이 점차 발전해가면서 스스로 문제를 여러 툴을 활용해서 해결해가는 것 이라고 생각하면 됩니다. 기존에는 단순한 답변만 생성하는 LLM이었다면 여러가지 데이터와 상황을 스스로 분석해서 해결하는 것이죠.

즉 기존의 생성형 AI는 질문을 던지면 한 번에 답을 내려는 방식(단순 질의응답 또는 CoT 단계별 추론)이었습니다. 반면, AI 에이전트는 복잡한 문제를 해결하기 위해 대형 언어 모델(LLM)을 내부적으로 수없이 반복 호출하기 때문에 많은 에너지가 필요합니다.

이에 따라 질문 한 건당 답변 처리 시간이 최대 153.7배 늘어났습니다. 거기다가 AI 에이전트가 외부 도구를 사용해 작업을 수행하는 동안, 고가의 GPU는 전체 실행 시간의 최대 54.5%를 아무 계산도 하지 못한 채 대기(Idle) 상태로 낭비했습니다.

게다가 메타가 AI 사업을 포기하고 남는 AI 연산자원을 외부에 파는 클라우드 사업에 진출한다고 하면서 AI 서비스의 비용에 대한 논란이 커지기 시작했습니다.

메타가 망한이유?

연간 최대 1,450억 달러라는 천문학적인 금액을 쏟아부으며 AI 하드웨어를 끌어모으던 메타가 왜 갑자기 '임대업'에 나선 걸까요?
지난 2년간 메타가 겪은 세 가지 전략적 좌절과 클라우드 부재라는 태생적 한계가 맞물린 '전략적 재정비'의 결과입니다. 

메타가 직면한 3대 좌절

① 오픈소스 패권 전략의 실패 (라마의 퇴장과 뮤즈 스파크)
당초 전략: 메타는 오픈소스 모델인 '라마(Llama)'를 무료로 풀어 구글·오픈AI의 폐쇄형 진영에 맞서고, 생태계의 사실상 표준(안드로이드 방식)이 되려 했습니다.
결과: 성능과 가격, 업데이트 속도 면에서 딥시크(DeepSeek), 큐원(Qwen) 등 중국발 오픈소스 모델에 완전히 밀렸습니다. 결국 메타는 올해(2026년) 4월, 첫 폐쇄형 모델 '뮤즈 스파크'를 발표하며 2년 만에 오픈소스 노선을 사실상 철회했습니다.

② 에이전트 기업(마누스) 인수 전략의 좌초
당초 전략: 뒤처진 AI 에이전트 분야에서 단숨에 도약하기 위해, 지난해 12월 스타트업 '마누스(Manus)'를 20억 달러에 인수했습니다.

결과 (지정학적 리스크): 마누스가 본사를 싱가포르로 옮겼음에도 불구하고, 중국 정부는 창업자와 기술의 '중국 기원'을 문제 삼아 사후에 거래 철회 명령을 내렸습니다. 결국 메타는 데이터 공유를 차단하며 서비스 종료 수순을 밟게 되었고, '돈으로 시간을 사는' 인수 공식이 지정학적 장벽에 막히는 전례 없는 실패를 맛보았습니다.

③ 기하급수적 비용 대비 미완의 인재 영입 효과
당초 전략: 스케일AI에 143억 달러를 투자해 알렉산더 왕을 영입하고 스타 연구자들에게 수억 달러를 제시하며 프런티어 모델 개발에 총력을 기울였습니다.
결과 (성능의 한계): 야심 차게 내놓은 '뮤즈 스파크'는 종합 4위에 그쳤고, 차기 모델 '워터멜론'은 이전보다 10배 많은 컴퓨팅 자원을 투입했음에도 GPT-5.5와 동률을 기록하는 데 그쳤습니다. 막대한 자원을 쏟아부어 겨우 경쟁사의 이전 세대를 따라잡는 수준에 머문 것입니다.

이러한 결과가 결국 메타가 AI 산업에서 메타버스처럼 포기하는 결과를 가져오게 되었습니다.

수치로 보는 충격적인 전력 소비량

다시 원래 내용으로 돌아와서 AI에이전트의 전력 소비량을 살펴보겠습니다. 연구팀이 현재 상용 서비스 수준인 70억 개(70B) 매개변수 기반의 LLM을 사용해 분석한 구체적인 수치입니다.
질문 1건당 평균 348.41와트시(Wh)나 사용한다고 하는데요. 이는 기존 생성형 AI의 단순 질의응답 방식보다 136.5배나 높은 수준입니다.

미래에 AI 에이전트 사용이 보편화되어 현재 수준으로 하루 137억 건의 요청이 발생한다고 가정하면, 데이터센터 전력 수요는 약 198.9기가와트(GW)에 달할 것으로 추정됩니다.

이 198.9GW는 현재 세계 각국이 구축 중인 초대형 AI 데이터센터들의 규모(수 GW)를 아득히 뛰어넘는 수준입니다. 24년 기준으로 국내의 전체 전기는 2GW에 불과하다고 합니다. 약 100배에 달하는 수치입니다.

거기다가 전 세계 전력 소비 1위 국가인 *미국 전체 평균 전력 소비량의 약 절반(50%)에 해당하는 엄청난 규모입니다.

 

'더 똑똑한 AI'에서 '더 효율적인 AI'로

이번 연구는 AI 시대의 진정한 경쟁력이 단순히 지능을 높이는 것에 있지 않음을 경고합니다.

연구팀은 앞으로 AI 에이전트가 보편화되는 시대에는 AI 모델, AI 반도체, 데이터센터, 그리고 전력 인프라까지 전 과정을 통합적으로 최적화하는 '공동 설계(Co-design)'가 필수 전략이 될 것이라고 강조했습니다.

앞으로는 무조건 똑똑한 AI보다, 한정된 자원 안에서 효율적으로 돌아가는 인프라 기술을 쥔 기업이 시장을 주도할 것으로 보입니다.

즉 최근에 LLM이 아니라 SLM으로 돌아가는 형태와 비슷한데요.

특히 온디바이스 AI가 대세가 되면서 SLM에 대한 관심도 더 커진 상황입니다. 과연 AI 에이전트 시대에는 어떻게 변화하게 될지 궁금합니다.