오늘 Blackwell Ultra와 호환되는 드롭인 방식으로, 내일 Feynman에도 바로 사용할 수 있습니다.
Frore Systems는 Nvidia의 Blackwell과 같은 기존 AI GPU를 지원하고 열 설계 전력(TDP)이 1,400W인 LiquidJet이라는 콜드플레이트를 출시했습니다. 이 제품은 총 전력 4,400W를 소비하는 Nvidia의 Feynman과 같은 차세대 프로세서의 성능에 맞춰 확장성이 뛰어나다는 특징을 가집니다. 새로운 콜드플레이트는 3D 쇼트 루프 제트 채널 미세 구조를 특징으로 하며, 이를 통해 핫스팟 전력 밀도를 무려 600 W/cm²까지 높였고, 기존 콜드플레이트 대비 압력 손실을 네 배까지 줄였습니다. 결과적으로 Frore의 LiquidJet은 앞으로 몇 년 내에 출시될 다중 킬로와트 AI GPU에도 대응할 준비를 마쳤습니다.
Nvidia의 Blackwell AI 시스템 온 칩(SoC)과 같은 최신 AI GPU는 막대한 양의 전력을 소비하기 때문에 액체 냉각이 필수적입니다. 기존의 구리 콜드플레이트는 고순도 구리 블록에서 CNC 가공되거나 스키브(skived) 방식으로 제작된 비교적 긴 2D 미세 채널을 사용합니다. 그러나 이 미세 채널들이 길수록 액체가 이동하는 거리가 길어지고 표면 마찰 면적이 늘어나, 유압 저항이 증가하고 압력이 낮아져 성능에 악영향을 미칩니다. 이에 대해 Frore는 3D 쇼트 루프 제트 채널 미세 구조를 채택한 LiquidJet 콜드플레이트가 유압 저항을 낮게 유지하여 높은 내부 압력을 확보함으로써 성능 향상을 달성했다고 설명합니다.
Frore는 '반도체 제조 공정을 금속 웨이퍼에 적용하는 방식'(금속 웨이퍼 식각 및 본딩을 포함할 가능성이 높음)에 적응하여, 특정 프로세서의 핫스팟 맵에 최적화된 3D 쇼트 루프 제트 채널 미세 구조를 제작할 수 있다고 밝혔습니다. 이는 성능과 효율성을 대폭 개선시키지만, 기존 생산 방식 대비 높은 비용이 따른다는 단점도 있습니다. 또한, 반도체 팹(fab) 스타일의 생산 방식을 채택하고 있어, 필요에 따라 LiquidJet은 마이크론 크기의 구조물까지 구현할 수 있습니다.
[관련 기사 제목 요약]
- 중국의 AI 구축 열풍, 액체 냉각으로의 급속한 전환 가속화
- 3D 프린팅 팬리스 및 펌프리스 액체 쿨러, 데이터 센터에 600W 냉각 제공
Frore에 따르면, 그 결과는 매우 인상적입니다. LiquidJet은 40°C의 유입 온도에서도 600 W/cm²의 핫스팟 밀도를 유지하는데, 이는 표준 콜드플레이트의 두 배에 달하는 수치입니다. LiquidJet은 유량당 열 제거율을 50% 높이는 동시에, 압력 손실을 기존의 약 0.94 psi에서 0.24 psi로 네 배 가까이 낮추었습니다. 그 결과, LiquidJet은 최대 부하 상태에서도 Nvidia Blackwell Ultra 프로세서가 더 낮은 온도와 예측 가능한 성능을 발휘하도록 지원합니다. 이 장치는 기존 설계에도 손쉽게 적용할 수 있는 드롭인(drop-in) 호환성을 갖추고 있습니다.
한편, LiquidJet은 확장성이 뛰어나 Nvidia의 향후 프로세서인 Rubin(1,800 W), Rubin Ultra(3,600 W), Feynman(4,400 W) 등에도 적용할 수 있습니다. Frore의 생산 방식은 특정 핫스팟 맵에 대한 적응성이 워낙 뛰어나 다른 모든 프로세서에 맞춰 조정하는 것이 가능합니다. LiquidJet은 단순히 고열의 차세대 GPU를 냉각하는 것 외에도 여러 이점을 제공합니다. 예를 들어, 냉각 효율이 높아지면 클럭 주파수(frequency)를 더 안정적으로 유지할 수 있어, 동일 전력 예산 내에서 더 많은 AI 토큰을 초당 처리할 수 있게 됩니다. 또한, 낮은 압력 요구 사항은 펌프 에너지를 절감하여 전력 사용 효율성(PUE)과 전체 총소유비용(TCO)을 개선합니다.
Frore Systems의 CEO 겸 창립자인 Seshu Madhavapeddy는 "LiquidJet의 고유한 3D 아키텍처와 맞춤형 쇼트 루프 제트 채널 미세 구조는 콜드플레이트 열 성능의 새로운 기준을 제시한다"고 강조하며, "AirJet이 소비자 및 엣지 디바이스용 액티브 냉각을 재정의했듯이, LiquidJet은 콜드플레이트를 AI 팩토리(AI Factory)를 위한 미래 대비 플랫폼으로 변모시킬 것"이라고 말했습니다.
선도적인 한국 연구기관인 KAIST의 추정치에 따르면, AI 가속기의 전력 소비량과 발열은 향후 10년도 안 되는 짧은 기간에 10배 증가할 것으로 예상됩니다. 그 결과, 다수의 컴퓨트 칩렛과 수십 개의 HBM 메모리 스택으로 구성되는 차세대 AI 가속기는 컴퓨트 칩렛과 메모리 칩렛 모두에 내장 냉각 구조를 갖춘 완전히 새로운 냉각 방식이 필요할 것입니다. 이로 인해 LiquidJet처럼 고도로 최적화된 콜드플레이트가 단순한 호환 액세서리가 아닌, 프로세서 패키징 자체의 필수 구성 요소가 될 가능성이 높아졌습니다. 다만, 이는 완전히 다른 차원의 이야기라 할 수 있습니다.