크리슈나의 비용 모델이 다중 기가와트 규모 AI 캠퍼스의 경제성에 의문을 제기한다.
IBM CEO 아르빈드 크리슈나(Arvind Krishna)는 The Verge의 팟캐스트 '디코더(Decoder)'에 출연해 AGI(범용 인공지능)를 추구하며 진행되는 현 자본 지출이 과연 스스로 회수될 수 있을지에 대해 의문을 제기했다. 크리슈나는 오늘날 대규모 AI 데이터센터를 건설하고 운영하는 데 필요한 수치를 제시하며, 현재 업계는 자본 비용을 감당하기 위해서만도 누적 약 8조 달러 규모의 자본 지출이 연간 약 8,000억 달러의 영업이익을 필요로 하는 궤도에 놓여 있다고 밝혔다.
이 주장은 명확한 장기 예측보다는 현재의 하드웨어, 감가상각, 에너지 비용에 대한 가정에 기반한 것이지만, 최근 여러 기업들이 전례 없는 다년(多年) 인프라 프로젝트를 앞세우며 서로를 능가하는 양상을 보이던 시점에 나왔다.
크리슈나는 컴퓨팅 하드웨어로 1기가와트(GW)급 AI 시설을 채우는 데 약 800억 달러가 필요하다고 추정했다. 문제는 이러한 규모의 구축이 설계 단계에서 벗어나 실제 계획 단계로 접어들고 있다는 점이며, 선도적인 AI 기업들은 각기 수십 기가와트, 일부 사례에서는 100기가와트를 초과하는 규모의 구축을 제안하고 있다. 크리슈나는 공적 및 사적 발표를 종합적으로 분석했을 때, 현재 AGI급 워크로드에 전용된 계획된 용량은 총 100기가와트에 달한다고 말했다.
- 중국의 주요 칩 제조사, 서두른 AI 데이터센터 용량이 유휴 상태로 남을 수 있다고 경고
- OpenAI, 기업의 IPO 준비와 함께 명확한 컴퓨팅 및 매출 규모 확대로 투자자 우려 완화
- 분석 그룹, AI 데이터센터 건설 현장의 40%에서 가능한 지연 시사
기가와트당 800억 달러를 기준으로 계산하면, 총액은 8조 달러에 이른다. 그는 이 수치들을 가속기 클러스터 전반에 걸쳐 일반적인 5년의 교체 주기와 연결 지으며, 이 기간 내에 데이터센터 내부 하드웨어 대부분을 교체해야 하는 필요성이 장기적인 자본 지출(Capex) 요구에 복합적인 영향을 미친다고 주장했다. 또한 새로운 형태의 지식 통합 없이는 현재의 LLM(거대 언어 모델) 중심 아키텍처가 AGI에 도달할 가능성은 0%에서 1% 사이라고 언급했다.
크리슈나는 투자자들이 가장 간과하는 부분이 감가상각이라고 강조했다. AI 가속기는 통상 5년에 걸쳐 가치가 하락하며, 그는 아키텍처 변화의 속도를 고려할 때 단순히 하드웨어 양을 늘리는 것(확장)이 아니라 주기적인 교체(Replacement)가 필수적이라고 주장했다. 그는 "5년이라는 시간 안에 모든 것을 사용해야 한다. 왜냐하면 그 시점에서는 쓸모없게 되어 버리고 새로 채워 넣어야 하기 때문이다"라고 설명했다.
최근 금융 시장의 비판 역시 유사한 우려에 초점을 맞추고 있다. 예를 들어, 투자자 마이클 버리는 성능 향상과 모델 규모의 증대가 구형 GPU의 조기 퇴역을 강요할 경우, 하이퍼스케일러가 계속해서 사용 수명 가정을 늘릴 수 있는지에 대해 의문을 제기한 바 있다.
IBM 최고 경영자는 궁극적으로 현행 생성형 AI 도구가 상당한 수준의 기업 생산성을 이끌 것이라고 예상하지만, 핵심 우려는 차세대 AI 인프라의 물리적 규모와 이를 뒷받침하는 경제성 사이의 관계에 있다. 따라서 이렇게 거대한 다중 기가와트급 캠퍼스를 구축하고 압축된 교체 주기를 가져가는 기업들은 크리슈나가 제시한 전례 없는 규모의 자본 지출에 상응하는 수익을 반드시 입증해야 한다.
Tom's Hardware를 Google News에서 팔로우하거나 즐겨찾기 출처로 추가하여 최신 뉴스, 분석 및 리뷰를 피드에서 받아보세요.