AI 개발 플랫폼
Hugging Face는 SambaNova를 포함한 여러 제3자 클라우드 벤더와 파트너십을 체결하고, 'Inference Providers(추론 제공업체)'라는 기능을 출시했습니다. 이 기능은 개발자들이 원하는 인프라를 활용하여 Hugging Face 플랫폼에서 AI 모델을 더욱 손쉽게 실행할 수 있도록 설계되었습니다.
이번 협력에 참여하는 다른 파트너사로는 Fal, Replicate, Together AI 등이 있습니다.
Hugging Face에 따르면, 파트너들은 각자의 데이터 센터를 Hugging Face 플랫폼에서 모델 구동에 사용할 수 있도록 접근성을 구축하는 데 협력했습니다. 이제 Hugging Face 개발자들은 예를 들어, Hugging Face 프로젝트 페이지에서 단 몇 번의 클릭만으로 SambaNova의 서버 위에서 DeepSeek 모델을 실행할 수 있습니다.
Hugging Face는 오랫동안 자체적인 내부 AI 모델 실행 솔루션을 제공해왔지만, 지난 화요일 게시된 블로그 포스팅을 통해 그 초점을 협업, 스토리지, 모델 배포 역량으로 전환했음을 설명했습니다.
(Hugging Face 프로젝트 페이지에 나타나는 추론 제공업체 옵션)
이 포스팅에서 회사는 "서버리스(Serverless) 제공업체의 성장이 두드러졌으며, Hugging Face가 여러 뛰어난 제공업체들을 통해 서버리스 추론에 쉽고 통합적인 접근성을 제공하기에 적절한 시기였다"고 밝혔습니다. 또한, "[저희는 모델 중심의 서버리스 추론을 위해 차세대 서버리스 추론 제공업체와 파트너십을 맺는 것이 자연스러운 과정이었습니다.]"라고 덧붙였습니다.
서버리스 추론은 개발자가 기초 하드웨어를 구성하거나 관리할 필요 없이 AI 모델을 배포하고 확장할 수 있게 해줍니다. SambaNova와 같은 제공업체는 사용량에 따라 필요한 컴퓨팅 리소스를 자동으로 할당하고 확장/축소합니다.
Hugging Face는 현재로서는 자체 플랫폼을 통해 제3자 클라우드 제공업체를 이용하는 개발자에게 표준 제공업체 API 요금이 부과될 것이라고 밝혔습니다. (향후 Hugging Face가 제공업체 파트너와 수익 공유 계약을 체결할 수 있다고 언급했습니다.) 모든 Hugging Face 사용자에게는 추론에 사용할 수 있는 소량의 크레딧 할당량이 제공되며, Hugging Face의 프리미엄 등급인 Hugging Face Pro 구독자는 매월 추가로 $2 상당의 크레딧을 받게 됩니다.
(Inference Providers의 설정 메뉴)
2016년 챗봇 스타트업으로 설립된 Hugging Face는 현재 전 세계 최대 규모의 AI 모델 호스팅 및 개발 플랫폼 중 하나로 성장했습니다. 현재까지 Hugging Face는 Salesforce, Google, Amazon, Nvidia를 포함한 투자자들로부터 약 4억 달러에 가까운 자본을 조달했으며, 수익성 확보를 목표로 하고 있습니다.
(TechCrunch에서 AI 중심 뉴스레터를 받아보세요!)
(여기에서 가입하여 매주 수요일에 받은 편지함으로 받아보세요.)