애나 패터슨은 실리콘밸리에서 화려한 경력을 쌓아왔습니다. 그녀는 검색 엔진 스타트업 Xift와 [회사 이름 생략], 그리고 인터넷 아카이브(Internet Archive)가 된 recall.archive.org를 포함해 세 개의 스타트업을 설립했습니다. 또한 구글에서 엔지니어링 부사장으로 재직했으며, 이후 AI 중심의 시드 펀드인 그래디언트 벤처스(Gradient Ventures)를 설립했습니다. 그리고 그녀는 여전히 창업가로서의 열정을 거두지 않고 있습니다.
패터슨은 TechCrunch와의 인터뷰에서 몇 년 전 새로운 것을 시작하고 싶은 충동을 느꼈지만, 자신이 또 다른 스타트업을 만들 수 있을지는 확신하지 못했다고 전했습니다. 하지만 2023년 유방암 진단을 받은 후, 그해 상당 기간 일을 쉬게 되면서, 그녀는 예전의 삶으로 돌아갈 수도 있고, 아니면 새로운 도전을 시작할 수도 있다는 깨달음을 얻었습니다.
그녀는 후자를 선택한 것이 분명합니다. 그녀의 새 스타트업인 세라믹닷에이아이(Ceramic.ai)는 기업들이 현재 최고 수준(current state-of-the-art) 인프라보다 적은 GPU 자원을 이용해 대규모 언어 모델(LLMs)을 더욱 빠르게 훈련할 수 있도록 기초적인 AI 훈련 인프라를 제공한다고 밝혔습니다. 세라믹은 자사 모델이 긴 컨텍스트를 처리하고 모든 클러스터 환경과 연동될 수 있다고 주장하며, 모델의 확장성을 100배까지 높이는 것을 목표로 합니다.
패터슨에 따르면, 이 회사에 대한 아이디어는 LLM을 구축하는 기존 인프라가 지나치게 많은 변수를 가지며, 대규모 기업 채택(enterprise adoption at scale)에 너무 복잡하다는 사실을 깨달으면서 얻게 되었습니다.
그녀는 "인프라를 10배 확장하려고 할 때는 보통 큰 문제 없이 작동하지만, 100배 이상으로 확장하려 할 때는 종종 한발 물러서서 근본적으로 다시 생각해야 합니다. 그래서 저는, 만약 이것이 향후 10년간 운영될 인프라라면, 내가 직접 어떻게 설계할까?"라고 설명했습니다.
이러한 고민 끝에 세라믹AI(Ceramic AI)가 2024년 1월에 탄생했으며, 패터슨은 이 회사에서 최고 과학자인 톰 코스텔로(Tom Costello)와 함께 공동 창업했습니다. 이 스타트업은 그 이후로 비밀리에(stealth) 운영되어 왔으며, AWS와 Lambda를 포함한 주요 파트너들과 이미 계약을 체결했으나 아직 매출은 발생하지 않고 있습니다. 패터슨은 판매에 집중하기에 앞서 잠재 고객들에게 회사의 신뢰성, 인지도, 믿음을 구축하는 것이 중요했다고 말했습니다.
이 회사는 최근 NEA가 주도하고 IBM, Samsung Next, Earthshot Ventures가 참여한 1,200만 달러 규모의 시드 라운딩을 유치했습니다. 패터슨은 NEA가 업계 최고의 기술적 역량을 가진 회사였기에 이번 라운드를 주도하기에 가장 자연스러운 선택이었다고 밝혔습니다. 이 자금은 주로 영업 활동과 지속적인 제품 개발에 투입될 예정입니다.
하지만 세 개의 스타트업을 거쳤고, 한 경력에 걸친 고위직을 거쳤으며, 몇 년간 투자자로 활동한 그녀에게, 이번에는 무엇이 다를까요? 패터슨은 VC 투자자로서 상대방 자리에 앉아 시간을 보내면서부터 스타트업을 구축하는 접근 방식이 변했다고 말합니다. 그녀는 몇 개의 초기 회사를 직접 만들었을 때와 비교했을 때, 지금은 시간적 압박을 훨씬 더 크게 느끼는 것이 오히려 좋다고 말합니다.
그녀는 "예전에 회사를 만들 때는, 솔직히 조금 슬픈 이야기일 수도 있지만, 순수하게 엔지니어링만 담당하고 영업은 전혀 하지 않아도 되는, 정말 여유로운 시간을 느꼈습니다. 반면 이제는 몇 년간 VC를 경험하면서, 확실히 시간적 압박을 더 크게 느낍니다."라고 말했습니다.
이러한 시간적 압박을 긍정적으로 여기며, 제품을 더 일찍 고객 앞에 내놓아 피드백을 받고 반복적으로 개선하는 것이 가장 중요하다고 강조했습니다.
이는 세라믹AI에게 매우 중요한 부분인데, 왜냐하면 기업들이 자체 기반 모델을 확장하는 것을 돕는 유일한 회사가 아니기 때문입니다.
가장 큰 경쟁사 중 하나는 Together AI로, 이 회사 역시 기업들이 모델 구축 작업을 '터보차지(turbocharge)'하도록 돕는 것을 목표로 하며 5억 3,000만 달러 이상의 벤처 캐피털을 유치했습니다.
또한 모시아크엠엘(MosiacML) 같은 회사도 가속화된 LLM 구축을 목표로 했으며, 2023년 데이터브릭스(Databricks)에 13억 달러에 인수되기 전 3,700만 달러를 유치한 바 있습니다.
현재 세라믹은 이처럼 빠르게 움직이는 시장에서 자신만의 입지를 확보하기 위해 매우 힘든 과제를 안고 있습니다.