로켓 7638D 스위치 카드를 만나보세요
하이포인트(HighPoint)는 목요일, Nvidia의 GPUDirect 기능을 활용하여 AI GPU와 NVMe 스토리지 장치 간의 상호 연결성을 구현하도록 설계된 Rocket 7638D PCIe 5.0 스위치 카드를 출시했습니다. 이 장치는 GPUDirect를 완벽하게 지원하는 소프트웨어 환경에서 AI 훈련 및 추론 워크로드를 가속화하는 데 중점을 두고 설계되었습니다.
Nvidia의 최신 GPU(A100부터 시작)에 탑재된 GPUDirect 기술은 CPU 및 시스템 메모리를 우회하여 GPU와 SSD 또는 네트워크 인터페이스와 같은 다른 장치 간에 데이터를 직접 전송할 수 있게 함으로써 성능을 극대화하고 CPU 리소스를 다른 워크로드에 활용할 수 있도록 합니다. 하지만 GPUDirect를 활용하기 위해서는 GPU 자체의 지원뿐만 아니라 P2P DMA(Peer-to-Peer Direct Memory Access) 기능을 지원하는 PCIe 스위치 장치가 필수적입니다. 모든 PCIe Gen5 스위치가 이 기능을 지원하지 않기 때문에, 스위치 카드가 핵심적인 역할을 담당합니다.
하이포인트의 Rocket 7638D 스위치 카드는 Broadcom PEX 89048 스위치를 탑재하여 시스템 통합업체(SI)가 GPUDirect 기능을 갖춘 시스템을 구축할 수 있도록 합니다. 이 어댑터는 총 48개의 PCIe 5.0 레인을 갖추고 있습니다. 구체적으로, 호스트 연결용 16개 레인, CDFP CopprLink 커넥터를 사용한 외부 GPU 박스 연결용 16개 레인, 그리고 MCIO 8i 커넥터를 활용하여 내부 NVMe 스토리지 장치에 전용된 16개 레인으로 구성되어 있습니다. 이 MCIO 포트는 최대 16개의 NVMe 드라이브를 지원하며, 이를 통해 최대 2PB에 달하는 고성능 스토리지를 갖춘 시스템 구성이 가능합니다.
Rocket 7638D 어댑터는 호스트 CPU와 RAM을 완전히 우회하는 GPUDirect Storage 워크플로를 구현하며, 운영 체제, GPU 드라이버, 파일 시스템 등 호환 가능한 소프트웨어와 결합할 때 예측 가능한 대역폭(최대 64 GB/s)과 낮은 지연 시간을 제공합니다. 이 장치는 특히 대용량 스토리지를 필요로 하는 대규모 훈련 데이터 세트 관련 시나리오에서 그 진가가 발휘됩니다.
Broadcom PEX 89048 스위치 칩이 Arm 기반 CPU를 내장하고 있어, 장치 자체가 완전히 독립적이며 자가 관리(self-managed)됩니다. 따라서 Arm 플랫폼과 x86 플랫폼 모두에서 호환성이 보장됩니다. 게다가 별도의 드라이버나 추가 소프트웨어 설치 없이 주요 운영 체제에서 즉시(out of the box) 작동합니다.
Rocket 7638D에는 하드웨어 및 펌웨어 매칭을 위한 VPD(Vital Product Data) 추적 기능과, 시스템의 건강 상태 및 PCIe 링크 성능을 모니터링하는 유틸리티 등 다양한 필드 서비스 기능이 통합되어 있습니다. 이러한 기능들은 특히 하드웨어 추적이 중요한 멀티노드 또는 하이퍼스케일 환경에서 문제 해결 및 교체 작업을 대폭 간소화합니다.
하이포인트는 Rocket 7638D 스위치 카드의 가격은 공개하지 않았으며, 이는 예상되는 물량 및 기타 요인에 따라 달라질 전망입니다.
최신 뉴스, 분석, 리뷰를 원하시면 Tom's Hardware를 Google News에서 팔로우하거나 즐겨찾는 소스로 추가해 주십시오. 팔로우 버튼을 클릭하는 것을 잊지 마세요!