GPU 가용성에 대해 또 한 번 걱정해야 할 이유.
좋은 AI 시스템의 핵심은 잘 훈련된 모델입니다. 하지만 이를 위해서는 막대한 자원과 연산 능력이 필요하며, 이는 투자자 및 관련 주체 모두에게 상당한 비용 부담으로 작용합니다. 한 스타트업이 저렴한 하드웨어만을 이용해 모델을 훈련하는 새로운 접근 방식을 제시하며 업계의 주목을 받고 있습니다. Fastino는 훈련에 필요한 연산 요구 사항을 처리하기 위해 10만 달러(USD) 미만의 게이밍 그래픽 카드를 사용하는 것으로 알려졌습니다. 이는 막대한 전력 소모가 수반되는 엘론 머스크의 xAI와 같은 대형 상업적 운영과는 확연히 대비되는 지점입니다. TechCrunch가 Fastino의 저가형 게이밍 칩 활용을 최초로 보도한 바 있습니다.
Fastino에 따르면, 이러한 성과는 AI 모델을 "작업별(task-specific)"로 설계하고 이에 맞는 아키텍처를 개발한 덕분입니다. 이러한 설계 변경을 통해 정확도가 눈에 띄게 향상되면서도 더 빠른 모델을 구축할 수 있었습니다. 가장 주목할 만한 점은 저렴한 게이밍 하드웨어를 사용하여 시스템을 훈련함으로써 얻는 높은 비용 효율성입니다.
Fastino가 GPU에 10만 달러 미만을 투자했음에도 불구하고, 이미 이 잠재력을 인지한 투자자들로부터 자금을 확보하기 시작했습니다. 최근에는 Fastino가 M12와 Microsoft의 벤처 캐피털 펀드는 물론, Insight Partners로부터 작년 말 각각 700만 달러를 유치하는 데 이어, Khosla Ventures로부터 1,750만 달러를 투자 유치했습니다.
Fastino만이 비교적 저렴한 개발 옵션으로 AI 하드웨어 분야에 혁신을 가져오는 유일한 기업은 아닙니다. Tiny Corp 역시 작년에 AI 처리에 특화하여 재활용한 AMD Radeon 7900 XTX 그래픽 카드 6개로 구성된 'TinyBox'를 출시한 바 있습니다.
다만 현재까지 Fastino가 구체적인 성능 데이터를 공개하지 않아, 그들이 개발한 새로운 아키텍처가 다른 AI 시스템과 얼마나 우수한 성능을 보이는지 검증하기는 어렵습니다. 해당 팀은 주목할 만한 성능을 시사하는 성명을 내놓으며, 단 몇 밀리초 만에 복잡한 답변을 제공할 수 있는 역량을 내세우고 있습니다. 더 많은 정보가 공개되어야만 이 시스템이 AI 분야의 거대 플레이어들과 비교하여 실제 어느 정도의 성능을 낼지 판단할 수 있을 것입니다.
최신 뉴스, 분석 및 리뷰를 피드에서 받아보려면 Google News에서 Tom's Hardware를 팔로우하십시오. '팔로우' 버튼을 클릭했는지 확인해 주세요.