테크 대기업들이 막대한 규모의 값비싼 GPU 클러스터를 필요로 하는 수조 개 매개변수(trillion-parameter) AI 모델을 선보이는 경향이 있습니다. 하지만 파로알토에 본사를 둔 한 스타트업은 이와는 다른 접근 방식을 취하고 있습니다.
이 스타트업은 의도적으로 작고 특정 작업에 특화된 새로운 유형의 AI 모델 아키텍처를 개발했다고 밝혔습니다. Fastino에 따르면, 이 모델들은 매우 작아 총액 10만 달러가 채 안 되는 저사양 게이밍 GPU만으로도 훈련이 가능합니다.
이러한 방식이 업계의 주목을 받고 있습니다. Fastino는 유명 OpenAI의 최초 벤처 투자사인 Khosla Ventures가 주도한 시드 펀딩 1,750만 달러를 유치했습니다. 이는 Fastino가 TechCrunch에 단독으로 보도한 내용입니다.
이번 투자로 이 스타트업의 누적 투자금은 거의 2,500만 달러에 달합니다. 앞서 지난 11월 M12와 Insight Partners가 주도한 프리시드 라운드에서 700만 달러를 유치하기도 했습니다.
Fastino의 CEO 겸 공동 창업자인 애시 루이스(Ash Lewis)는 "저희 모델들은 더 빠르고, 더 정확하며, 훈련 비용이 극히 저렴함에도 불구하고 특정 작업에서는 기존의 플래그십 모델들을 능가합니다"라고 말합니다.
Fastino는 기업 고객들을 대상으로 하는 일련의 소형 모델들을 구축해 판매하고 있습니다. 각 모델은 민감 데이터 삭제(redacting sensitive data)나 기업 문서 요약처럼 기업이 필요로 하는 특정 작업에 중점을 둡니다.
Fastino는 현재 초기 지표나 사용자 수를 공개하지 않고 있지만, 초기 사용자들로부터는 "놀라운" 성능을 보여주고 있다고 전했습니다. 루이스는 TechCrunch 인터뷰에서 예를 들어, 모델들이 작기 때문에 단일 토큰(single token)만으로 전체 응답을 처리할 수 있다고 언급하며, 기술이 밀리초(milliseconds) 단위로 상세한 답변을 한 번에 제공하는 것을 시연하기도 했습니다.
Fastino의 접근 방식이 과연 성공할지는 아직 지켜봐야 할 문제입니다. 엔터프라이즈 AI 시장은 Cohere, Databricks와 같은 기업들이 특정 작업에서 뛰어난 AI 모델을 앞세우는 등 이미 경쟁이 치열합니다. 또한 Anthropic과 Mistral을 비롯한 엔터프라이즈 중심의 소형 모델 제작사들 역시 시장에 진출해 있습니다. 게다가 엔터프라이즈용 생성 AI의 미래가 더 작고, 목적에 집중된(focused) 언어 모델에 있을 것이라는 전망 또한 공공연한 사실입니다.
시간만이 증명해 주겠지만, Khosla로부터의 초기 투자는 분명 긍정적인 신호입니다. 현재 Fastino는 최첨단 AI 팀을 구축하는 데 역량을 집중하고 있다고 밝혔습니다. 이 회사는 단순히 가장 큰 모델을 만들거나 벤치마크를 뛰어넘는 데 집착하기보다는, 최고의 AI 연구소 소속의 연구원들을 영입하는 것을 목표로 하고 있습니다.
루이스는 "저희의 채용 전략은 현재 언어 모델이 구축되는 방식에 대해 반(contrarian) 사고방식을 가질 수 있는 연구원들에게 초점을 맞추고 있습니다"라고 설명했습니다.