전문가들은 RTX 5090 탑재 AI 서버에 고액을 지불할 의향을 보인다.
엔비디아의 RTX 5090은 Blackwell 아키텍처의 개선과 저정밀도 데이터 형식 지원 덕분에 AI 워크로드에 있어 압도적인 성능을 발휘하는 것이 공공연한 비밀입니다. 최근 베트남의 상점 Nguyencongpc는 (I_Leak_VN을 통해) 고객을 위해 구축한 AI 시스템 사진을 공유했는데, 이 시스템에는 개방형 GPU 프레임에 7개의 RTX 5090이 장착되었으며, 여러 킬로와트(kW)급 파워 서플라이(PSU)로 전력이 공급되고 있습니다. 평균 RTX 5090 가격이 거의 4,000달러에 달함에도 불구하고, 전문가들은 이 카드의 성능이 투자 가치가 높다고 평가하며, 이는 엔비디아가 이 제품들을 워크스테이션 솔루션으로 공식 포지셔닝하고 있지는 않음에도 불구하고 나온 의견입니다.
RTX 5090은 일반 소비자에게는 구입 난이도가 매우 높아, 상당한 비용을 지불할 의사가 없는 한 매대에서 찾아보기 어렵습니다. 이는 주로 엔비디아의 수익 마진이 일반 GeForce 제품군보다 서버 중심의 Blackwell B100/B200/B300 GPU에서 월등히 높기 때문입니다. 따라서 엔비디아 입장에서는 TSMC로부터 확보하는 제한된 웨이퍼를 이러한 AI 가속기에 할당하는 것이 경제적으로 훨씬 더 유리합니다.
이 AI 시스템은 팬데믹 기간의 마이닝 리그와 유사한 형태를 띱니다. 개방형 GPU 프레임에는 Gigabyte RTX 5090 Gaming OC 유닛 7개가 PCIe 라이저 케이블로 연결되어 있으며, 여러 Super Flower Leadex 2000W PSU로 전력이 공급되고 있습니다. 이 시스템은 GPU 개당 가격이 좋은 날 $3,500~$4,000에 형성된다는 점을 고려할 때, 가치만으로 30,000달러를 초과하는 금액으로 평가할 수 있습니다.
nguyenviet009이 게시함
이 단일 프레임은 AI 훈련 및 추론 작업에 필요한 224GB에 달하는 거대한 메모리 풀을 제공합니다. 물론, 이는 통합 메모리가 아니기 때문에, 개발자들은 워크로드를 다수의 GPU에 효율적으로 분산시키기 위해 모델 병렬 처리(model parallelism)와 같은 전문 기법에 의존해야 합니다. 이와 관련하여, 엔비디아가 출시 예정인 Blackwell 워크스테이션 카드는 최대 96GB의 VRAM을 탑재하며 가격대는 8,000달러에서 9,000달러 사이입니다.
RTX Pro 6000 Blackwell이 더 많은 메모리를 제공하지만, 여러 대의 RTX 5090은 특히 제한된 예산 하에서 순수 컴퓨팅 성능이 필수적인 AI 작업에 더 나은 성능 이점을 제공합니다. 그러나 예산 제약이 없고 AI를 더욱 효과적으로 확장하고자 할 때는, 수천억 개의 파라미터를 가진 복잡한 모델을 처리하기 위해 개별 GPU당 더 많은 VRAM이 필수적입니다.
AI의 등장에 따라 엔비디아는 메모리 용량별로 GPU 제품군을 차별화하기 시작했고, 이는 높은 메모리 구성을 찾는 사용자들에게 가파른 가격 상승 곡선으로 작용하고 있습니다. 실제로 중국 커뮤니티에서는 48GB 메모리를 탑재한 블로어 스타일 RTX 4090을 사용하는 임시적인 대안 사례가 흔하게 관찰되기도 했습니다.
사실상 신형 GPU가 즉시 매진되어 정식 권장 소비자 가격(MSRP)으로 보기 매우 어려워졌기 때문에, 가격 정상화까지는 몇 달이 소요될 수 있습니다. 따라서 작년 세대 GPU의 중고 시장을 확인해 보는 것이 현명할 수 있습니다. 이 경우, 해당 모델의 출시 MSRP 근처 또는 그 이하의 가격으로 제품을 찾을 수 있습니다.