작지만 강력한 플랫폼도 발표와 출시 사이에 1,000달러 가격 인상을 겪었다
Nvidia의 DGX Spark AI 미니 PC는 올해 CES에서 첫선을 보였으며, 당초 5월 출시가 예정되었으나 시장 출하 과정에서 지연을 겪기도 했습니다. 하지만 마침내 출시에 걸림돌이 되었던 문제점들이 해결된 것으로 알려졌습니다. Nvidia는 DGX Spark 시스템을 10월 15일부터 Nvidia 자체 제품은 물론, Dell, Asus, MSI, HP를 포함한 주요 파트너사들로부터 구매할 수 있다고 공식 발표했습니다.
참고로, DGX Spark는 로컬 AI 추론 및 개발 요구사항에 맞게 특화된 Grace Blackwell GB10 기반의 미니 PC 플랫폼입니다. 오늘날의 최첨단 AI 모델을 구동하는 추론 작업은 RTX 5090이 제공할 수 있는 32GB보다 훨씬 더 많은 GPU 로컬 메모리를 필요로 합니다. (물론 RTX Pro 6000 Blackwell은 최대 96GB의 GPU 로컬 메모리를 제공하지만, 이는 호스트 서버나 워크스테이션 비용이 추가되기 전의 $8000 이상의 고가 제품입니다.)
DGX Spark(과거 명칭 Project DIGITS)는 20개의 Arm 코어를 갖춘 Nvidia Grace CPU와 최대 1 petaFLOP의 AI 추론 성능(모델이 FP4 양자화 및 희소성 처리를 거쳤다고 가정)을 제공하는 Blackwell GPU 사이에 128GB의 LPDDR5X 메모리가 통합적이고 일관되게 공유되는 구조를 갖추고 있습니다.
회사는 DGX Spark 단일 시스템만으로도 최대 2,000억 개 파라미터 모델을 로컬에서 지원할 수 있다고 밝히고 있습니다(이 역시 FP4 양자화 기준입니다). 만약 한 대의 Spark로 충분하지 않다면, 내장된 Nvidia ConnectX 7 NIC를 통해 이 유닛 두 대를 연결함으로써 메모리와 컴퓨팅 자원을 두 배로 확장할 수 있습니다.
DGX Spark는 Nvidia 자체 운영체제인 DGX OS(Ubuntu의 포크)를 구동하며, AI 개발자들에게 필수적인 CUDA 소프트웨어 스택을 지원합니다. 다양한 휴대용 기기에서 (고가) 게이밍 칩으로 입지를 다진 Strix Halo와 달리, DGX Spark는 Arm 및 Linux 우선의 아키텍처 특성상 범용적인 '완제품 게이밍 플랫폼'으로는 매력도가 다소 떨어지지만, 숙련된 애호가들이 시간과 노력을 투자하면 게이밍 용도로 활용할 여지는 있습니다.
지금까지 시장에서는 AMD의 Ryzen AI Max+ 395 SoC(별칭 Strix Halo)를 탑재한 미니 PC 및 노트북이 "대용량 메모리와 합리적인 추론 성능을 겸비한 비교적 합리적인 가격대의 칩"이라는 시장을 독점해 왔습니다. Strix Halo는 최대 112GB의 GPU 메모리(128GB의 온보드 RAM 가능 용량 중)를 지원합니다. 하지만 이러한 시스템은 광범위하게 사용되는 CUDA 스택을 네이티브로 지원하지 못한다는 단점이 있어, AI 프로젝트를 구동하려는 개발자나 애호가들에게 기술적 허들로 작용해 왔습니다.
한편, Nvidia는 Anaconda, Cadence, ComfyUI, Docker, Google, Hugging Face, JetBrains, LM Studio, Meta, Microsoft, Ollama, Roboflow 등 광범위한 소프트웨어 파트너들과 협력하여 이들의 도구들이 DGX Spark와 원활하게 작동하도록 지원해왔습니다. 따라서 사용자가 로컬에서 구동하려는 LLM(대규모 언어 모델)이 있다면, DGX Spark가 매우 강력한 기반이 될 것으로 보입니다.
Nvidia는 원래 DGX Spark 시스템이 1월에 $3,000부터 시작할 것이라고 공언했으나, 현재 첫 번째 공식 제품은 $3,999에 소매 판매됩니다. 그럼에도 불구하고, 그 작은 크기, 비교적 낮은 240W 전력 소비 전력 제한, 그리고 완벽한 CUDA 스택을 제공하는 '완벽한 제품(Turn-key)' 지원은 급성장하는 AI 영역에서 많은 관심을 받을 것으로 예상됩니다. 다만, 이 제품이 오랜 기간 개발 과정에 있었던 것이, 단 몇 시간 또는 며칠 만에 모든 것이 바뀔 수 있는 시장 환경에서 혹여나 약점으로 작용할지 귀추가 주목됩니다.
(Tom's Hardware의 최신 뉴스, 분석 및 리뷰를 피드에서 받아보시려면 Google News에서 팔로우하거나 즐겨찾는 소스로 추가해 주세요.)