NVIDIA가 후원하는 SOCAMM은 양산(생산) 준비를 위해 더 많은 정교화가 필요했다.
SOCAMM2가 SOCAMM 표준의 최종 버전으로 곧 자리매김할 전망입니다. JEDEC은 SOCAMM2의 설계가 거의 완료 단계에 이르렀으며, 이전 버전과 동일한 LPDDR5X 메모리 타입을 활용할 것이라고 발표했습니다. SOCAMM2에는 두 가지 주요 업그레이드가 추가되는데, 하나는 SPD 프로파일(일반적으로 'JEDEC 프로파일'로 알려진 것)이고 다른 하나는 최대 9600 MT/s까지 향상된 LPDDR5X 전송 속도입니다.
JEDEC에 따르면, 이 새로운 메모리 타입은 차세대 AI 서버에 통합될 예정입니다. 공식적인 발표는 없었지만, 엔비디아(Nvidia)는 차세대 루빈(Rubin) 플랫폼에서 자체 베라(Vera) CPU와 함께 SOCAMM2를 선보일 가능성이 높다고 보입니다. 과거 SOCAMM 메모리 모듈을 통합했던 서버는 기술적인 문제로 인해 엔비디아에 의해 사실상 중단된 것으로 알려졌습니다.
수조 달러 규모의 AI 산업 거대 기업은 SOCAMM이 온도 제한 범위 내에서 안정적으로 작동하는 것을 확보하지 못해, 블랙웰 울트라 GB300 "코델리아(Cordelia)" 플랫폼에서 과열 문제를 겪었습니다. 이에 따라 엔비디아는 해당 제품의 출시를 위해 "코델리아"를 기존 LPDDR 메모리를 사용하는 방식으로 재구성했습니다.
참고로, SOCAMM은 데이터센터, 특히 AI 서버를 목표로 하는 새로운 메모리 설계입니다. SOCAMM은 기존 DRAM DIMM보다 더욱 작고 전력 효율적인 버전을 지향합니다.
예를 들어, 마이크론(Micron)의 SOCAMM 128GB 모듈은 동등한 128GB RDIMM 대비 전력 소비량이 단지 3분의 1 수준에 불과하다고 알려졌습니다. 메모리 전력 소비는 메모리 전력 소비가 연결된 CPU의 전력 소비를 능가할 수 있는 데이터센터 환경에서 매우 중요한 요소입니다.
이 새로운 폼 팩터는 CAMM2에서 영감을 받았으며, SOCAMM과 CAMM 모두 기존 DIMM 대비 단위 면적당 메모리 용량을 개선하는 데 중점을 둡니다. 예를 들어, 마이크론의 초기 SOCAMM 모듈은 네 개의 16-die LPDDR5 메모리 스택을 탑재했음에도 불구하고 크기는 단지 14x90mm에 불과했습니다.
엔비디아의 초기 버전은 완전히 독점적이었으며 자체 하드웨어와만 호환되었습니다. 또한 최대 8533 MT/s까지의 LPDDR5X 전송 속도만 지원했습니다. SOCAMM2는 이보다 더 빠른 LPDDR5X를 지원하며, JEDEC과의 협력을 통해 엔비디아를 포함하지 않은 다른 하드웨어 제조업체도 채택할 수 있을 전망입니다.
SOCAMM2의 공식 출시일은 아직 없으나, 앞으로 몇 달 내에 설계가 마무리될 가능성이 높습니다. 이는 SK하이닉스, 삼성, 마이크론에게 생산 SOCAMM2 모듈을 제작할 시간을 벌어주고, 무엇보다 엔비디아가 내년부터 시작할 루빈(Rubin) 배포에 필요한 모듈 테스트 시간을 확보할 수 있게 할 것입니다.
최신 뉴스, 분석 및 리뷰를 받으시려면 Google News에서 Tom's Hardware를 팔로우하거나 즐겨찾기 출처로 등록해 주십시오.