데이터센터가 바뀐다, AI 에이전트가 전기를 먹는다

서울 여의도 한 자산운용사의 AI 시스템은 요즘 잠을 자지 않는다. 사람이 퇴근한 뒤에도 리포트를 읽고, 데이터를 분석하고, 다음 날 아침 브리핑을 스스로 준비한다. 질문 한 번에 답하고 끝나는 게 아니라, 목표를 받으면 스스로 계획을 세우고 실행한다. 이것이 '에이전트형 AI'다.

문제는 이 AI가 전기를 어마어마하게 먹는다는 것이다.

에이전트 AI, 왜 데이터센터를 뒤흔드나

기존의 AI, 이른바 '추론형 AI'는 질문을 받으면 한 번 계산하고 답을 낸다. 대화 한 번에 연산 한 번. 하지만 에이전트형 AI는 다르다. 하나의 목표를 달성하기 위해 수십, 수백 번의 추론 단계를 반복하고, 외부 도구를 호출하고, 다른 AI 에이전트와 협력하며 작업을 이어간다. 연산량이 단순 비교로 10배에서 100배 이상 늘어난다는 게 업계의 추산이다.

골드만삭스는 2025년 보고서에서 데이터센터의 전력 수요가 2030년까지 160% 증가할 것으로 전망했다. 이 수요 증가의 핵심 동인으로 에이전트 AI를 지목했다. 단순히 서버를 더 많이 꽂는 문제가 아니다. 에이전트 AI는 지연 시간(latency)에 민감하고, 작업이 끊기지 않아야 하며, 대규모 메모리를 실시간으로 참조해야 한다. 데이터센터의 설계 철학 자체가 달라져야 한다는 뜻이다.

냉각 방식도 바뀐다. 기존 공랭식(air cooling)으로는 GPU 클러스터가 내뿜는 열을 감당하기 어렵다. 엔비디아의 최신 블랙웰(Blackwell) 아키텍처 기반 GPU 한 장의 열설계전력(TDP)은 1,000W를 넘는다. 데이터센터 업체들은 액체냉각(liquid cooling), 나아가 직접 액침냉각(direct liquid immersion) 방식으로 전환을 서두르고 있다. 이 전환 비용만 해도 기존 시설 대비 30~50% 추가 투자가 필요하다는 분석이 나온다.

전력망이 버텨줄까

에이전트 AI가 요구하는 전력의 규모를 체감하려면 이 숫자를 보면 된다. 마이크로소프트는 2026년까지 데이터센터에 800억 달러(약 110조 원)를 투자하겠다고 밝혔다. 아마존과 구글도 각각 연간 600억~700억 달러 규모의 인프라 투자를 예고했다. 이 돈의 상당 부분은 전력 확보와 냉각 인프라에 쓰인다.

광고

광고주 모집

[email protected]

광고

문제는 전력망이다. 미국 에너지부(DOE)에 따르면 데이터센터의 전력 소비는 2023년 미국 전체 전력 소비의 약 4%를 차지했고, 2030년에는 9~12%까지 오를 수 있다. 버지니아주 '데이터센터 골목(Data Center Alley)'에는 이미 신규 전력 연결 대기 기간이 5~7년에 달한다. 데이터센터를 짓고 싶어도 전기를 제때 못 받는 상황이다.

이 병목 현상은 새로운 투자 기회를 만들고 있다. 소형모듈원전(SMR)에 대한 빅테크의 관심이 갑자기 커진 이유가 여기 있다. 마이크로소프트는 쓰리마일 아일랜드 원전 재가동 계약을 맺었고, 구글은 카이로스파워와 SMR 전력 구매 계약을 체결했다. 데이터센터 업계가 에너지 업계를 직접 재편하고 있다.

삼성전자와 SK하이닉스 입장에서 이 흐름은 직접적인 수혜로 연결된다. 에이전트 AI의 대규모 메모리 요구는 고대역폭메모리(HBM) 수요를 끌어올리는 핵심 동인이다. SK하이닉스는 엔비디아의 최신 GPU에 들어가는 HBM3E의 사실상 독점 공급자 위치를 유지하고 있으며, 삼성전자도 HBM4 양산 경쟁에서 뒤처지지 않으려 사활을 걸고 있다.

누가 이기고 누가 지는가

이 구조 변화에서 승자와 패자는 비교적 선명하다.

승자 쪽에는 전력 인프라 기업, 냉각 솔루션 업체, HBM 제조사, 그리고 부지를 선점한 데이터센터 운영사가 있다. 버티브(Vertiv), 이튼(Eaton) 같은 전력관리 기업의 주가가 지난 2년간 3~5배 오른 것은 우연이 아니다.

패자 혹은 압박을 받는 쪽은 기존 방식으로 데이터센터를 운영하는 중소 클라우드 사업자들이다. 액체냉각 전환 비용, 전력 확보 경쟁, GPU 조달 우선순위에서 빅테크에 밀리는 구조적 불리함이 있다. 이 격차는 에이전트 AI 시대로 갈수록 더 벌어질 가능성이 높다.

독자의 지갑과 연결해 보면: 데이터센터 전력 비용 급등은 결국 클라우드 서비스 이용료 인상으로 이어질 수 있다. 기업 고객이 먼저 체감하겠지만, AWS, 애저, 구글 클라우드를 쓰는 스타트업과 중소기업의 IT 비용 구조도 달라질 수 있다. 한국 기업들이 클라우드 비용을 '고정비'로 인식하기 시작한 지금, 이 변화는 예산 계획에 직접 영향을 미친다.

반론도 있다. 에이전트 AI가 소비하는 전력이 늘어나더라도, AI가 에너지 그리드 효율화, 산업 공정 최적화 등에서 절감하는 에너지가 더 클 수 있다는 주장이다. 국제에너지기구(IEA)는 AI의 에너지 소비와 절감 효과를 동시에 추적하고 있으며, 순효과는 아직 불확실하다고 밝혔다.