추정되는 B200A는요?
엔비디아(Nvidia)가 멀티-칩렛 기반의 블랙웰(Blackwell) 시리즈 제품 생산을 확대함에 따라, 자사 CoWoS-L 패키징 용량 사용은 늘리고 CoWoS-S 패키징 용량 사용은 줄일 것이라고 젠슨 황(Jensen Huang) 최고경영자가 대만에서 열린 기자회견을 통해 밝혔다.
황 CEO는 로이터 통신에 "블랙웰로 넘어가면서 우리는 주로 CoWoS-L을 사용할 것"이라며, ASE 테크놀로지(ASE Technology)의 자회사인 실리콘웨어 프리시전 인더스트리즈 리미티드(Siliconware Precision Industries Limited, SPIL)의 첨단 패키징 시설 공식 개소 기념 기자회견에서 말했다. 그는 이어 "물론 우리는 여전히 호퍼(Hopper)를 제조하고 있으며, 호퍼는 CoWoS-S를 사용할 것이다. 또한 CoWoS-S 용량은 CoWoS-L로 전환된다. 따라서 이는 단순히 용량 축소에 관한 것이 아니라, 실제로는 CoWoS-L로의 용량 확대에 관한 것이다"라고 덧붙였다.
TSMC의 CoWoS-S는 실리콘 인터포저를 이용하여 칩렛을 시스템인패키지(system-in-package)로 연결하는 고급 2.5D 패키징 기술이다. 이 기술은 고대역폭 메모리(HBM)와 연결되는 엔비디아의 앰퍼(Ampere) 기반 A100 및 호퍼(Hopper) 기반 H100 GPU(및 그 파생 모델)에 충분한 성능을 보여주었다. 그러나 블랙웰 아키텍처를 기반으로 하는 엔비디아의 B100 및 B200 GPU는 10 TB/s의 대역폭으로 상호 연결되는 두 개의 컴퓨트 칩렛을 필요로 한다. 이는 로컬 실리콘 인터커넥트(LSI) 브리지와 재분배층(RDL) 역할을 하는 유기 인터포저를 사용하는 TSMC의 CoWoS-L 기술을 통해 구현된다.
Intel의 EMIB-T 패키징 기술, 올해 공장(fab)에 도입 예정
AI 칩 설계가 첨단 칩 패키징의 한계에 도전하다
엔비디아의 B100 및 B200 GPU는 이전에 생산 수율을 저해하는 디자인 문제(yield-killing design issue)가 있었으며, 회사는 이를 상위 글로벌 라우팅 금속층 재설계 및 블랙웰 GPU 실리콘 텅(bumping out) 작업을 통해 해결한 것으로 알려졌다. 그 결과, 현재는 예측 가능한 수율로 두 개의 컴퓨트 다이(compute dies)를 갖춘 GPU를 생산할 수 있게 되었다.
하지만 범용 시장 공략을 위해 엔비디아는 144GB(4스택)의 HBM3E를 갖춘 모놀리식 B102 실리콘을 특징으로 하며, 검증된 CoWoS-S 기술로 패키징된 B200A 제품 개발에 착수한 것으로 알려졌다. 이 제품은 B100 및 B200 대비 성능은 현저히 낮을 것으로 예상되지만, 상대적으로 저렴할 것으로 전망된다. 다만, 비확정적인 소식에 따르면 엔비디아는 B200A보다 듀얼 컴퓨트 칩렛 B100, B200, 그리고 궁극적으로 B300 GPU에 우선순위를 둘 계획인 것으로 보인다.
ASE의 자회사인 SPIL은 TSMC의 CoWoS-S 기술을 라이선스받았고, H100, H200, 그리고 추정되는 B200A 같은 시스템인패키지를 구축하는 데 필요한 장비를 갖춘 소수의 아웃소싱 반도체 조립 및 테스트(OSAT) 공급업체 중 하나라는 점에 주목해야 한다. 황 CEO가 SPIL 개소식에 참석한 것은 회사가 이 시설의 용량을 자사 제품에 활용할 계획을 가지고 있음을 시사하며, 현재 세대 제품보다는 미래 제품에 중점을 둘 가능성을 암시한다. 만약 이것이 추정되는 B200A를 가리킨다면, 해당 제품이 SPIL의 CoWoS-S 용량을 사용할 유력한 후보가 될 수 있다. 물론, 이는 현재로서는 추측에 머무른다.