마이크로소프트(Microsoft) CEO 사티아 나델라(Satya Nadella)는 목요일, 자사에서 최초로 배치한 대규모 AI 시스템, 즉 엔비디아(Nvidia)가 명명한 AI "공장(factory)"의 영상을 트윗으로 공개했습니다. 그는 이 시스템이 OpenAI 워크로드를 구동하기 위해 마이크로소프트 애저(Microsoft Azure)의 글로벌 데이터 센터 전반에 배포될 수많은 사례 중 "첫 번째"라고 밝혔습니다.
각 시스템은 높은 수요를 자랑하는 블랙웰 울트라(Blackwell Ultra) GPU 칩을 탑재한 4,600대 이상의 엔비디아 GB300 랙 컴퓨터 클러스터로 구성되며, 엔비디아의 초고속 네트워킹 기술인 인피니밴드(InfiniBand)로 연결되어 있습니다. (한편, AI 칩 외에도 엔비디아 CEO 젠슨 황(Jensen Huang)은 2019년 회사가 멜라녹스(Mellanox)를 69억 달러에 인수하면서 인피니밴드 시장을 선점하는 안목을 보여주었습니다.)
마이크로소프트는 이러한 시스템을 전 세계적으로 확대 구축하며 "수십만 개의 블랙웰 울트라 GPU"를 배치할 것이라고 약속했습니다. 이 시스템의 규모 자체가 압도적이며 (회사는 하드웨어 애호가들을 위해 더 많은 기술적 세부 정보를 공유했습니다), 이번 발표의 시점 또한 주목할 만합니다.
이는 파트너이자 잘 알려진 라이벌인 OpenAI가 엔비디아 및 AMD와 연이어 두 건의 주요 데이터 센터 계약을 체결한 직후입니다. OpenAI는 일부 추산에 따르면 자체 데이터 센터 건설을 위해 2025년까지 총 1조 달러 규모의 약속을 확보했으며, 샘 알트만(Sam Altman) CEO는 이번 주에 더 많은 프로젝트가 진행될 것이라고 전했습니다.
마이크로소프트는 이미 34개국에 300개 이상의 데이터 센터를 보유하고 있다는 점을 부각하며, 오늘날의 프론티어 AI 수요를 "독보적으로 충족시킬 수 있는" 위치에 있음을 알리고자 하는 것으로 풀이됩니다. 자사는 또한 이 거대 AI 시스템들이 "수백조 개의 매개변수"를 가진 차세대 모델 구동에도 충분하다고 언급했습니다.
마이크로소프트가 AI 워크로드를 지원하기 위해 역량을 어떻게 강화하고 있는지에 대한 더 자세한 내용은 이달 말에 공개될 것으로 예상됩니다. 마이크로소프트 CTO 케빈 스콧(Kevin Scott)은 오는 10월 27일부터 10월 29일까지 샌프란시스코에서 열리는 테크크런치 디스럽트(TechCrunch Disrupt)에서 연설할 예정입니다.