새 배인(Bain) 보고서에 따르면, AI 인프라 구축은 성장세 자체를 유지하기 위해서도 연간 2조 달러의 수익이 필요하며, 이러한 부족분은 2030년까지 GPU 부족과 에너지 그리드 과부하를 초래할 수 있습니다.
AI의 끝없는 전력 수요는 막대한 비용을 초래하며 지속 가능성이 낮은 구조라는 것이 본질적인 결론입니다. 베인앤컴퍼니(Bain & Company)의 새 보고서는 이 같은 사실을 강조하며, AI의 컴퓨팅 수요를 지속적으로 충족하는 데 필요한 비용이 천문학적이라고 밝히고 있습니다. 보고서에 따르면, 2030년까지 전 세계 데이터센터에 연간 5,000억 달러 이상의 투자가 필요하며, 이러한 설비투자(Capex)를 실현 가능하게 하려면 매년 2조 달러의 매출이 필수적입니다. 설사 관대한 가정하에서도 베인은 AI 산업이 8,000억 달러가 부족할 것으로 추정하고 있습니다.
이는 현재 AI를 둘러싼 낙관적인 서사에 대한 냉철한 현실 점검이며, 조 단위 파라미터로 대표되는 과대광고를 걷어내고 인프라의 물리적, 경제적 근본 원리로 돌아가게 합니다. 베인의 예측이 정확하다면, 업계는 전력 제약, 제한적인 GPU 가용성, 그리고 자본 병목 현상이 동시에 겹치는 위기로 직면하고 있습니다.
베인 보고서의 핵심 논지는 컴퓨팅 수요가 이를 공급하는 도구의 확장 속도를 앞지르고 있다는 점입니다. 무어의 법칙(Moore’s Law)은 둔화되었으나 AI 워크로드는 그렇지 않았습니다. 베인은 추론 및 훈련 요구 사항의 증가 속도가 트랜지스터 밀도 증가 속도보다 두 배 이상 빨라졌기 때문에, 데이터센터 운영자들은 칩당 효율성 개선에 의존하기보다는 무작정(brute-force) 확장에만 집중하도록 강요받고 있다고 분석합니다. 그 결과, 2030년까지 글로벌 AI 컴퓨팅 규모가 200GW에 달할 수 있으며, 그 절반가량이 미국 단독에서 발생할 수 있습니다.
[헤드라인] OpenAI, IPO를 앞두고 투자자 우려 완화를 위한 컴퓨팅 및 매출 성장의 청사진 제시
이러한 폭증은 지역 전력망의 근본적이고 상상하기 어려울 정도의 업그레이드를 요구하며, 전기 장비는 수년간의 납기 지연을 초래할 것이고, 수천 톤에 달하는 첨단 냉각 시스템이 필수적입니다. 더욱 심각한 문제는 HBM이나 CoWoS 같은 핵심 구동 실리콘 자체의 공급이 이미 제약 상태에 있다는 점입니다. 엔비디아(Nvidia)가 올해 스스로 언급했고 베인 보고서에서도 재확인하듯이, 현재의 수요는 가격 책정 외 모든 축에서 업계의 공급 역량을 초과하고 있습니다.
자본이 고갈되거나 정체되면, 하이퍼스케일러(hyperscalers)들은 와트당, 평방피트당 최적의 수익을 제공하는 시스템에 투자할 것입니다. 이는 엔비디아의 GB200 NVL72나 AMD의 Instinct MI300X 같은 풀랙(full-rack) GPU 플랫폼의 가치를 높이는데, 해당 플랫폼에서는 열 밀도와 인터커넥트 효율이 자재 명세서(BOM)를 좌우합니다. 또한, 주류 워크스테이션 부품 기반의 낮은 볼륨 구성은 우선순위에서 밀려나며, 이는 고성능 데스크톱으로 활용될 수 있었던 칩의 공급 부족을 야기합니다.
PC 측면에도 영향이 예상됩니다. 훈련 비용이 제약되고 데이터센터 추론이 전력 한계에 부딪히면서, 더 많은 워크로드가 엣지(edge) 장치로 이동하게 됩니다. 이는 현재 40~60 TOPS(Tera Operations Per Second) 범위의 NPU를 탑재한 노트북 및 데스크톱 OEM들에게 직접적인 기회 요인입니다. 베인의 분석은 그 이유를 명확히 설명하는데, 엣지에서의 추론은 단순히 빠를 뿐만 아니라 비용 효율적이며 자본 집약도가 낮기 때문입니다.
한편, 빅테크 간의 경쟁은 계속되고 있습니다. 마이크로소프트(Microsoft)는 최근 위스콘신 AI 데이터센터 지출 규모를 70억 달러 이상으로 상향 조정했습니다. 아마존(Amazon), 메타(Meta), 구글(Google) 역시 각각 수십억 달러 규모의 투자를 이어가고 있습니다.
[결론] 이 모든 추세는 AI 인프라에 대한 막대한 투자를 뒷받침합니다.
(출처: [이하 생략])
[출처:] https://www.tomshardware.com/tech-industry/bain-says-compute-demand-is-outpacing-capital