기업 고객들은 2U 폼 팩터의 블랙웰 AI 기반 서버를 구매 및 배포할 수 있게 됩니다.
이번 주 SIGGRAPH 컨퍼런스에서 엔비디아(Nvidia)는 자사의 RTX Pro 6000 Blackwell Server Edition GPU가 글로벌 시스템 파트너사들을 통해 'Enterprise AI factory-validated design initiative(엔터프라이즈 AI 공장 검증 설계 이니셔티브)'를 거쳐 더욱 컴팩트한 2U 랙 마운트 서버로 출시된다고 발표했다. 기존에는 고객들이 해당 카드를 자체 클라우드 환경에 배포하려면 냉각 및 전력 요구 사항이 높은 4U 서버를 위한 공간 확보가 필요했다. 하지만 이제 이 카드가 온프레미스 데이터센터에서 가장 대중적인 랙 마운트 폼 팩터 중 하나로 제공되면서 배포의 유연성이 크게 높아졌다.
시스코(Cisco), 델(Dell), HPE, 레노버(Lenovo), 슈퍼마이크로(Supermicro) 등 주요 업체들은 RTX Pro 6000 Blackwell GPU 2개를 탑재한 2U x86 기반 서버를 다양한 구성으로 제공할 예정이다. 대표적으로 델은 SIGGRAPH에서 새로운 2U 서버인 Dell PowerEdge R7725 2U를 발표했는데, 이 제품은 엔비디아의 AI Data 플랫폼을 기반으로 구축된 RTX Pro 6000 GPU 2개로 구성되었다.
새로 출시되는 2U 서버들은 기존에 엔비디아가 제공하는 RTX 6000 Blackwell GPU 기반의 4U, 6U, 8U RTX Pro 서버 라인업을 보완한다. 이 서버들에는 엔비디아의 BlueField-3 DPU와 ConnectX-8 SuperNIC 통합, 그리고 내장 PCIe Gen 6 스위치를 포함하여 AI 워크플로우 가속화에 필요한 모든 기능을 제공한다.
엔비디아에 따르면, 2U RTX Pro 서버는 CPU 전용 2U 시스템 대비 최대 45배의 성능 향상과 18배 높은 에너지 효율성을 제공할 것으로 예상된다. 이는 AI 처리가 CPU 중심에서 GPU 가속 중심으로 전환되기 때문이다. 엔비디아는 이러한 성능 개선을 통해 고객사들이 서버 플릿을 더 밀집되고 고성능의 시스템으로 통합(consolidation)할 수 있을 것으로 기대한다.
RTX 6000 Pro Server Edition은 엔비디아의 최신 데이터센터 GPU 제품이며, 본질적으로 데스크톱용 RTX 5090의 기능을 데이터센터 환경에 맞게 최적화한 버전이다. RTX 6000 Pro는 24,064개의 CUDA 코어, 600W TBP, 512비트 메모리 인터페이스와 96GB의 28Gbps GDDR7 메모리를 탑재하고 있다.
서버 시장 관점에서 볼 때, RTX 6000 Pro Server Edition은 전력 소모가 큰 엔비디아의 B200 및 B300 Blackwell GPU에 비해 훨씬 경제적인 대안이다. 특히 B200과 B300은 사실상 액체 냉각(liquid cooling)이 필수적일 정도로 전력 소모가 커 배포가 복잡하고 비용이 많이 드는 것과 달리, RTX 6000 Pro Server Edition은 공랭식(air-cooled)으로 냉각되어 AI GPU를 지원하는 서버 구축 비용을 크게 낮출 수 있다는 이점이 있다.
2U 랙 마운트를 지원하는 RTX 6000 Pro Server Edition GPU는 기업 및 데이터센터 고객에게 현장(on-site) 엣지 컴퓨팅 배포에 가장 컴팩트하고 효율적인 AI GPU 배포 방식을 제공한다. 2U 메인스트림 RTX Pro 서버는 올해 하반기부터 시장에 출시될 예정이다.