엔비디아발(發) 공급망 통합 심화세?
내년 출시될 엔비디아의 AI 및 HPC용 베라 루빈(Vera Rubin) 플랫폼은 AI 하드웨어 공급망에 중대한 변화를 예고할 수 있습니다. J.P. Morgan(출처: @Jukanlosreve)에 따르면, 엔비디아는 파트너들에게 모든 컴퓨팅 하드웨어, 냉각 시스템, 인터페이스가 사전 설치된 완전 조립형 레벨-10(L10) VR200 컴퓨팅 트레이를 출하할 계획입니다. 이러한 움직임은 주요 ODM(Original Design Manufacturers)들의 설계 및 통합 부담을 획기적으로 줄여주는 장점이 있지만, 역설적으로 엔비디아의 마진에 유리하도록 파트너들의 마진을 축소시킬 가능성이 높습니다. 단, 현재 이 정보는 공식적으로 확인되지 않은 비공식적인 내용입니다.
엔비디아는 VR200 플랫폼을 기점으로, 하이퍼스케일러와 ODM 파트너들이 자체 마더보드와 냉각 솔루션을 구축하는 방식 대신, 베라 CPU, 루빈 GPU, 냉각 시스템이 모두 사전 장착된 형태의 완전 구축형 L10 컴퓨팅 트레이를 직접 생산하는 체제를 구축할 준비를 하고 있는 것으로 알려졌습니다. 이는 회사가 파트너들에게 부분적으로 통합된 서버 서브 어셈블리를 공급한 첫 사례는 아닙니다. 과거 GB200 플랫폼에서도 핵심 부품이 미리 장착된 전체 비앙카(Bianca) 보드를 공급한 적이 있기 때문입니다. 다만, 당시의 통합 수준이 L7~L8 수준으로 간주될 수 있었다면, 현재 엔비디아는 가속기, CPU, 메모리, NIC, 전원 공급 하드웨어, 미드플레인 인터페이스, 액체 냉각 콜드 플레이트까지 모두 포함된 전체 트레이 어셈블리를 사전 테스트된 모듈 단위로 판매하는 L10 수준까지 진화하는 것을 고려하고 있습니다.
만약 이 정보가 사실이며 엔비디아가 실제로 파트너들에게 L10 컴퓨팅 트레이(서버 비용의 약 90%를 차지할 것으로 추정됨)를 출하한다면, 엔비디아는 파트너들에게 서버의 핵심 설계 단계 대신 '랙 레벨 통합'만을 남기게 됩니다. 파트너들은 여전히 외부 섀시를 제작하고, 요구 사항에 따른 전원 공급 장치(PSU)를 통합하며, 랙 레벨 냉각을 위한 사이드카 또는 CDU(Coolant Distribution Unit)를 설치하고, 자체 BMC(Baseboard Management Controller) 및 관리 스택을 추가하는 등의 최종 조립 및 테스트 작업을 수행하게 됩니다. 이러한 작업들은 운영상 중요하지만, 하드웨어 자체의 차별성을 부여하는 핵심적인 요소는 아닙니다.
이러한 변화는 VR200의 시장 도입(ramp) 속도를 단축시킬 것으로 기대됩니다. 엔비디아 파트너사들은 모든 부품을 자체적으로 설계할 필요가 없어지며, 엔비디아와 EMS(Electronic Manufacturing Services) 업체 간의 직접 계약을 통해 확보되는 규모의 경제 덕분에 생산 비용을 절감할 수 있기 때문입니다. 예를 들어, 젠슨 황이 최근 시연한 베라 루빈 슈퍼칩(Vera Rubin Superchip) 보드는 매우 복잡한 설계와 두꺼운 PCB, 그리고 솔리드 스테이트 부품만을 사용합니다. 이러한 보드를 자체적으로 설계하는 것은 많은 시간과 비용이 소요되므로, 전문 EMS 제공업체에 맡겨 구축하는 것이 가장 합리적인 방법입니다.
J.P. Morgan은 루빈 GPU 하나당 전력 소비량이 1.4 kW (Blackwell Ultra)에서 1.8 kW (R200)로, 나아가 2.3 kW까지 급증할 수 있다는 점과 이로 인한 냉각 요구 사항 증가를 개별 부품 공급 대신 전체 트레이 공급으로 전환하는 동기 중 하나로 언급했습니다. 하지만 업계 보고된 공급망 출처에 따르면, 마이크로소프트와 같은 하이퍼스케일러뿐만 아니라 다양한 OEM 및 ODM들은 침지식(immersion) 및 임베디드 냉각을 포함한 매우 발전된 냉각 시스템을 실험하고 있으며, 이는 그들의 기술적 숙련도를 방증합니다.
결과적으로 엔비디아의 파트너들은 '시스템 설계자'에서 '시스템 통합자(system integrators)', '설치업체', '기술 지원 제공자'로 역할이 변화하게 됩니다. 이들은 여전히 엔터프라이즈급 서비스와 맞춤형 애플리케이션 구축을 위한 서비스를 담당하겠지만, 핵심 하드웨어 설계와 제작은 엔비디아의 영역이 될 것입니다.
이러한 변화는 엔비디아가 고도의 복잡성을 가진 추상화된 칩 설계 및 제작에 집중하고, 파트너사는 통합 및 상용화 서비스에 집중하는 구조를 완성하려는 전략으로 해석됩니다.
당사는 엔비디아의 강력한 중앙집중화된 공급망과 기술력을 기반으로 한 파트너사 모델이 시장의 폭발적인 수요를 충족시키며 성공적으로 자리매김할 것으로 전망하며, 관련 서비스 생태계 구축에 주력할 계획입니다.