이 공학적 경이(기술)는 맞춤형 사용자 공간 GPU 드라이버와 아마도 패치된 어댑터 펌웨어 또한 필요하게 만들었다.
Apple Silicon Mac 및 MacBook에서 외장 GPU(eGPU)를 지원하는 것은 AI/ML 개발자들에게 오랜 난제였습니다. Tiny Corp은 일종의 '마술'이라 할 수 있는 방식으로, 본질적으로 PCIe 기능을 지원하지 않는 USB3를 통해 AMD eGPU를 Tiny Grad에서 구동하는 데 성공했습니다. libusb를 활용했기 때문에 이 기능은 Windows, Linux는 물론, Apple Silicon 장치를 포함한 macOS 환경까지 확장됩니다.
전통적으로 GPU는 PCIe 슬롯이나 PCI Express 터널링을 지원하는 Thunderbolt/USB4 인터페이스를 통해 연결됩니다. 따라서 외부 GPU 솔루션은 앞서 언급된 인터페이스에 의존할 수밖에 없어, 구형 시스템이나 노트북에 대한 지원이 제한적이었습니다. 특히 인텔 기반 Mac/MacBook과 달리, Apple Silicon 기반 장치는 주로 드라이버 지원 부재와 아키텍처적 차이로 인해 외부 GPU를 지원하지 않습니다. 이 때문에, 기존 x86 기반 시스템에 비해 효율적임에도 불구하고, 사용자들은 특히 프롬프트 처리와 같은 AI 워크로드에서 어려움을 보고하고 있습니다.
"세계 최초로 USB3를 통해 구동되는 AMD GPU입니다. Mac에서도 가능합니다! Linux와 Windows에서도 작동할 것이며, 그 비결은 libusb입니다. 오늘 tinygrad master에서 사용 가능하며, ADT-UT3G 어댑터를 사용하여 GPU를 USB 포트에 연결하십시오. 이 과정에 투입된 엔지니어링 수준은 상상 이상입니다. pic.twitter.com/V6trNwcGXt 2025년 5월 9일"
현재 시점에서 USB3 인터페이스를 통해 eGPU를 구동하려면 ASM2464PD 기반 어댑터와 AMD GPU가 필요합니다. 테스트를 위해 Tiny Corp은 동일한 ASM2464PD 칩이 적용된 ADT-UT3G 어댑터를 사용했지만, 이 장비는 순정 상태에서는 Thunderbolt 3, Thunderbolt 4 또는 USB 4 인터페이스에서만 작동합니다. 팀은 아마도 직접적인 PCIe 통신 없이 작동하도록 USB3 모드를 활성화하기 위해 커스텀 펌웨어를 적용했을 가능성이 높습니다. 기술적 세부 사항은 아직 불분명하지만, 컨트롤러가 PCIe 명령을 USB 패킷으로, 그리고 그 역으로 변환하는 방식으로 작동하는 것으로 보입니다.
이 솔루션은 커널 수준의 GPU 드라이버를 우회해야 하며, 특정 하드웨어를 요구하고, 원래 GPU 통신 목적으로 설계되지 않은 USB3를 사용한다는 점에서 매우 독특하고 임시적인 해결책입니다. 이는 본질적으로 시스템의 계산 작업(커널 실행을 의미)을 eGPU로 오프로드하는 방식입니다. 다만, 사용된 USB3 표준 때문에 데이터 전송 속도가 10 Gbps로 제한되므로, 모델을 GPU에 로드하는 데는 표준 PCIe 연결을 사용할 때보다 훨씬 긴 시간이 소요됩니다.
사용자 공간 드라이버를 사용하여 커널 수정을 피했기 때문에, 이 기능은 AMD의 RDNA 3/4 GPU로 제한되지만, 향후 RDNA 2 지원 가능성도 언급되었습니다. USB3 eGPU 기능은 이미 Tiny Grad의 master 브랜치로 업스트림되었으므로, AMD GPU와 지원되는 어댑터를 보유하고 있다면 자유롭게 사용해 볼 수 있습니다. 개발자들이 코드 정리를 완료하는 대로 Tiny Corp에서 더 상세하고 기술적인 분석을 제공할 것으로 기대됩니다.
Tom's Hardware를 Google News에서 팔로우하시면 최신 뉴스, 분석, 리뷰를 피드를 통해 받아보실 수 있습니다. 팔로우 버튼을 클릭하는 것을 잊지 마세요.