AI 기업의 최신 하드웨어 계약으로 10 기가와트의 용량을 추가 확보하며, 자체 개발 가속기 설계에 나선다.
OpenAI는 Broadcom과 다년 계약을 체결하고, 총 10기가와트 규모의 맞춤형 AI 가속기 및 랙 시스템을 공동 개발 및 배치할 것이라고 지난 10월 13일 양사가 발표했다. 구체적으로, OpenAI가 가속기와 시스템 설계 전반을 담당하며, Broadcom은 2026년 하반기부터 개발 및 시장 출시를 주도한다. 전체 배치는 2029년 말까지 목표로 하고 있다.
이번 계약은 OpenAI의 지속적인 공격적인 하드웨어 확장의 일환이다. 기존의 Nvidia GPU 의존 방식과 달리, 이번에 구축되는 시스템은 Broadcom의 네트워킹 및 하드웨어 IP와 결합된 자체(in-house) 가속기를 기반으로 한다. 이로써 OpenAI는 학습(training) 및 추론(inference) 워크로드에 최적화된 고도로 통합된 실리콘 아키텍처로 전환하며, 전통적인 GPU 중심의 클러스터에서 탈피하려는 움직임을 보이고 있다.
두 회사는 이미 18개월 이상 협력해 왔으며, 이번 공식 합의는 이러한 기존 협력을 기반으로 한다. 비록 구체적인 기술 세부 사항은 거의 공개되지 않았으나, 공동 발표에 따르면 해당 시스템은 이더넷(Ethernet) 기반 네트워킹을 사용할 것으로 예상된다. 이는 확장성과 공급업체 중립성을 염두에 둔 데이터센터 아키텍처를 시사한다. OpenAI에 따르면, 배치는 수년에 걸쳐 단계적으로 이루어질 예정이며, 첫 번째 랙은 2026년 하반기에 가동을 시작할 예정이다.
OpenAI, 데이터센터 자금 확보 대신 하드웨어 통제력 확보
이 새로운 합의로 OpenAI는 기존의 Nvidia 및 AMD 파트너십을 강화하며, 하드웨어 투입 규모를 추산 26기가와트로 늘린다. 이 규모에는 약 10기가와트 규모의 Nvidia 인프라와, 아직 공개되지 않은 AMD의 차기 MI 시리즈 지분이 포함된다.
흥미로운 점은, OpenAI가 Broadcom이 예상하는 100억 달러 규모의 주요 고객사는 아니라는 점이다. CNBC와의 인터뷰에서 Broadcom 반도체 사장 찰리 카와스(Charlie Kawwas)는 OpenAI의 그렉 브록먼(Greg Brockman)과 함께 출연하며, “내 좋은 친구 그렉에게서 100억 달러 규모의 구매 주문서(PO)를 받고 싶다”고 농담하며, “아직 나에게 그 PO를 건네지 않았다”고 덧붙였다. WSJ 보도에 따르면 이 거래 규모는 수십억 달러에 달할 것으로 알려졌다.
OpenAI는 Broadcom을 통해 ASIC 설계 분야의 심층 전문 지식과 검증된 공급망 성숙도를 확보할 수 있게 된다. 이 회사는 이미 구글의 TPU 인프라를 포함하여 초거대 고객들을 위한 맞춤형 AI 실리콘을 제작하고 있기 때문이다. Broadcom의 이더넷 및 칩렛(chiplet) IP를 활용함으로써, OpenAI는 자체적으로 실리콘 팀을 처음부터 구축할 필요 없이 차별화된 하드웨어를 개발할 수 있는 경로를 확보하게 된다.
한편, Nvidia에게 이 계약은 자체 실리콘을 모색하는 주요 AI 고객들 사이에서 나타나는 '부분적 분산(partial defections)' 현상에 또 하나의 사례를 추가한다. 아마존, 구글, 메타, 마이크로소프트 등 주요 기업들이 자체 가속기 개발에 박차를 가하고 있다. 하지만 이러한 맞춤형 솔루션이 대규모에서 얼마나 성능을 발휘할 수 있을지, 그리고 Broadcom 같은 공급업체가 CUDA가 구축해 온 생태계의 성숙도에 필적할 수 있을지는 아직 미지수다.
두 회사 모두 이번에 도입될 가속기의 파운드리 파트너, 패키징 공정, 또는 메모리 선택지에 대해서는 구체적으로 공개하지 않았다. 이러한 결정들이 웨이퍼 용량만큼이나 실제 납품 일정을 좌우할 핵심 요소가 될 전망이다.
[출처:] https://www.tomshardware.com/openai-broadcom-to-co-develop-10gw-of-custom-ai-chips