따뜻한 쉘이 연결되지 않아요
마이크로소프트 CEO 사티아 나델라(Satya Nadella)는 OpenAI CEO 샘 알트만(Sam Altman)과 함께한 인터뷰에서 AI 산업의 문제는 컴퓨팅 자원(compute)의 과잉 공급이 아니라, 그 모든 GPU를 수용할 수 있는 전력 부족에 있다고 밝혔다. 나델라 CEO는 현재 회사에 재고로 보유한 AI GPU 중 일부를 연결할 충분한 전력이 부족한 실정이라고 구체적으로 언급했다. 이 발언은 나델라와 알트만이 엔비디아 CEO 젠슨 황(Jensen Huang)의 "향후 2~3년 동안 컴퓨팅 과잉 공급 사태는 없을 것"이라는 의견에 동의하는지 묻는 브래드 게르스터너(Brad Gerstner, Bg2 Pod 진행자)의 질문에 대한 유튜브 답변이었다.
나델라 CEO는 해당 팟캐스트에서 "이 특정 사례에서의 수요와 공급 사이클은 실제로 예측하기 어렵다고 생각합니다. 핵심은 세속적 추세(secular trend)입니다. 세속적 추세는 샘(OpenAI CEO)이 말했듯이, 결국 가장 큰 문제는 컴퓨팅 과잉 공급이 아니라 전력입니다. 전력 공급 능력을 확보하여 건설 작업을 충분히 빠르게 완료할 수 있는지 여부와 관련이 있습니다"라고 말했다. 그는 이어 "만약 전력이 확보되지 않는다면, 실제로 제가 연결할 수 없는 장비가 재고로 쌓일 수 있습니다. 사실 그것이 제가 오늘 직면한 문제입니다. 칩 공급 문제가 아니라, 연결할 따뜻한 쉘(warm shells)이 없다는 것입니다."라고 강조했다.
나델라가 언급한 '쉘(shells)'은 데이터 센터 쉘을 의미하며, 이는 전력과 물 등 생산을 즉시 시작하는 데 필요한 모든 요소들이 갖춰진 사실상 빈 건물(empty building)을 뜻한다.
Anthropic, AI 데이터 센터 운영에 따른 전기 요금 인상 비용 부담 약속
엔비디아 기반 시험 운영, AI 데이터 센터가 전력 사용량을 근실시간(near real time)으로 유연하게 조정할 수 있음을 입증, 전 세계 에너지 소비에 영향을 미칠 것으로 전망
AI의 전력 소비 문제는 작년부터 여러 전문가들이 논하는 핵심 주제가 되었다. 이 문제는 엔비디아가 GPU 부족 사태를 해결하자마자 더욱 중요하게 부각되었으며, 이에 따라 많은 기술 기업들이 데이터 센터를 점점 더 대규모로 건설하면서 전원 공급원을 확장하기 위해 소형 모듈 원자로(SMR) 연구에 투자하고 있다.
그 결과 이미 가정용 에너지 요금이 급등하는 등, 건설 중인 AI 인프라가 일반 미국 소비자에게도 부정적인 영향을 미치고 있다는 증거가 나타났다. OpenAI는 나아가 연간 100기가와트(gigawatts)의 발전 설비 구축을 연방 정부에 촉구하며, 이는 미국이 중국과의 AI 경쟁에서 주도권을 확보하기 위한 전략적 자산이라고 주장했다. 이러한 주장은 일부 전문가들이 중국이 수력 및 원자력에 대한 대규모 투자 덕분에 전력 공급 면에서 미국보다 크게 앞서 있다고 분석한 데 따른 것이다.
전력 부족 문제 외에도, 더욱 발전된 소비자용 하드웨어의 시장 출현 가능성 역시 논의되었다. 알트만 CEO는 "언젠가 GPT-5나 GPT-6급 모델을 낮은 전력 소모로 완전히 로컬에서 실행할 수 있는 혁신적인 소비자 기기가 나올 것입니다. 이는 정말 상상하기 어려운 일입니다."라고 말했다. 게르스터너는 이에 대해 "그것은 엄청날 것이며, 당연히 이처럼 거대한 중앙 집중식 컴퓨팅 스택을 구축하는 일부 사람들에게는 공포스러운 시나리오입니다"라고 논평했다.
이는 기업들이 거대한 AI 데이터 센터에 수십억 달러를 투자하며 감수해야 할 또 다른 위험 요소를 보여준다. 새로운 모델을 훈련하는 데 필요한 인프라는 여전히 필수적이지만, 반도체 발전으로 모델을 로컬 환경에서 구동할 수 있게 된다면, 많은 전문가들이 예측하는 광범위한 AI 사용에서 발생하는 데이터 센터 수요 자체가 실현되지 않을 수도 있다.
이러한 시나리오는 Pat Gelsinger와 같은 일부 전문가들이 여전히 몇 년이나 남았다고 보는 AI 거품의 붕괴를 가속화할 수 있다. 하지만, 만약 붕괴가 현실화된다면, 비기술 분야 기업들마저 충격파를 맞아 약 20조 달러에 달하는 시가총액이 노출되는 등 심각한 시장 혼란에 직면할 가능성이 높다.
최신 뉴스, 분석, 리뷰를 피드에서 받아보시려면, Google News에서 Tom's Hardware를 팔로우하거나 즐겨찾는 출처로 추가해 주십시오.