AI GPU가 정말 많이 보이네요.
블룸버그 통신에 따르면, HPE가 과거 트위터로 알려졌던 X 소셜 플랫폼을 위한 AI 서버 구축 계약을 10억 달러가 넘는 금액으로 수주했습니다. 이를 통해 HPE는 주요 AI 서버 공급업체인 Dell과 Supermicro를 제치고 계약을 따내는 데 성공했습니다. 해당 거래는 기밀리에 진행되고 있어 HPE 측은 블룸버그의 요청에 코멘트하지 않았습니다.
이 계약은 Dell과 Supermicro가 참여한 경쟁 입찰 과정을 거쳐 2024년 말에 최종 확정된 것으로 알려졌습니다. 역사적으로 AI 서버 시장에서 Dell과 Supermicro에 비해 열세였던 HPE에게 이번 계약은 자사 기술력에 대한 매우 중요한 인정으로 해석될 수 있습니다. 10억 달러라는 금액이 AI 산업의 기준치로 볼 때 거액임은 분명하지만, 이는 HPE에게는 큰 승리이며 업계에서 어려움을 겪는 Dell과 Supermicro에게는 상당한 타격이 될 전망입니다.
블룸버그는 HPE가 마이크로블로깅 플랫폼에 공급할 서버의 구체적인 사양은 공개하지 않았습니다. 하지만 대규모 기업들은 대체로 Nvidia AI GPU에 의존하는 추세입니다. 일반적으로 GPU는 AI 서버 전체 비용의 절반을 차지한다고 알려져 있으므로, GPU 기반 서버를 가정한다면 10억 달러 규모의 계약은 약 5억 달러 상당의 GPU를 의미합니다.
HPE와 X가 Blackwell GPU를 개당 5만 달러에 수급한다고 가정할 경우(실제 GPU 비용은 변동 가능), X는 10,000개의 Blackwell GPU가 포함된 AI 서버 클러스터를 갖게 됩니다. 이 클러스터는 최대 90 FP4 ExaFLOPS, 45 INT8/FP8 ExaTOPS에 달하는 막대한 연산 능력을 제공할 것입니다. X가 이 강력한 컴퓨팅 파워를 어떻게 활용할지는 주목할 지점입니다. 물론, 해당 기기 내부의 실제 사양은 알 수 없기에 현재로서는 추측에 근거한 분석임을 밝힙니다.
참고로, 트위터는 이전에 MiTAC(Tyan), Supermicro, Wiwynn 등 여러 회사로부터 커스텀 서버를 구매해 왔습니다. 일론 머스크가 2022년 트위터를 인수한 후, 회사는 MiTAC(Tyan)과 Wiwynn으로부터의 서버 구매는 중단했지만 Supermicro와의 비즈니스 관계는 유지했습니다. 흥미로운 점은, 머스크의 AI 벤처인 xAI가 인공지능 전용 Colossus 슈퍼컴퓨터 구축을 위해 Dell과 계약했으며, 여기에는 Nvidia H100 GPU 10만 개가 탑재된다는 사실입니다.