...는 AI의 다음 거대한 흐름입니다. 일부에서는 이 '에이전트'를 다르게 정의하기도 하지만, 기본 개념은 자체적으로 작업을 수행할 수 있는 AI 기반 도구라는 점에 수렴합니다.
에이전트 열풍이 뜨겁지만, 이 분야에 비교적 일찍 진출한 스타트업이 있습니다.
LlamaIndex
전직 우버(Uber) 연구 과학자 출신 제리 리우(Jerry Liu)와 사이먼 수오(Simon Suo)는 2023년 LlamaIndex를 개발했습니다. 이 도구는 개발자들이 비정형 데이터를 기반으로 맞춤형 에이전트를 구축할 수 있도록 합니다.
리우는 TechCrunch에 "LlamaIndex는 2022년 11월에 초기 단계의 오픈소스 프로젝트로 시작했습니다. 저는 대규모 언어 모델(LLMs)을 훈련 데이터셋 외부의 독점 데이터에 어떻게 활용할 수 있는지에 깊이 관심을 가지게 되었고, 개발자가 LLM 애플리케이션에서 데이터를 색인하고 포함할 수 있는 초기 도구 세트를 구축했습니다"라고 설명했습니다.
깃허브(GitHub)에서 수백만 건의 다운로드를 기록한 LlamaIndex의 오픈소스 소프트웨어를 사용하면, 개발자는 정보 추출, 보고서 및 인사이트 생성, 특정 액션 수행이 가능한 맞춤형 에이전트를 만들 수 있습니다. LlamaIndex는 비정형 데이터를 특정 AI 애플리케이션에 사용할 수 있는 구조화된 형식으로 변환하는 LlamaParse와 같은 데이터 커넥터 및 유틸리티를 제공합니다.
리우에 따르면, 현재 AI 에이전트 구축을 위한 다른 오픈 소스 프레임워크들이 존재하지만, LlamaIndex는 데이터 수집(data ingestion), 데이터 관리(data management), 데이터 색인화 및 검색(data indexing and retrieval) 솔루션까지 아우르는 통합 솔루트 세트를 통해 차별화됩니다. 이 솔루션은 에이전트가 PDF나 PowerPoint 프레젠테이션 같은 파일은 물론, Notion이나 Slack과 같은 앱 데이터와도 연결할 수 있게 합니다.
리우는 Salesforce, KPMG, Carlyle 등이 현재 LlamaIndex를 활용하는 기업 사례에 포함된다고 전했습니다.
LlamaIndex 공동 창립자 제리 리우의 사진.
LlamaIndex
리우는 "이러한 경쟁 솔루션들은 생성형 AI 스택(generative AI stack)의 각기 다른 부분에서 특정 문제를 해결합니다. 하지만 결국 작동하는 에이전트를 구현하기 위해서는 개별적이고 파편화된 솔루션들을 조합해야 하는 것이 개발자의 책임입니다. 이는 에이전트를 실제 운영 환경에 배포하는 것을 저해하는 중대한 병목 현상입니다. LlamaIndex는 엔드투엔드(end-to-end) 지식 에이전트 구축을 위해 가장 안전하고, 정확하며, 사용하기 쉬운 플랫폼을 제공하는 것을 사명으로 삼았습니다."라고 덧붙였습니다.
LlamaIndex의 다음 개발 단계는 회사의 오픈 소스 자원을 기반으로 구축된 엔터프라이즈 서비스인 LlamaCloud입니다. 이 서비스는 고객이 다양한 형식의 비정형 데이터를 처리하고 조작할 수 있는 클라우드 기반 에이전트를 구축할 수 있게 합니다.
리우에 따르면, LlamaCloud는 소프트웨어 서비스(SaaS) 설치 방식이나 가상 개인 클라우드(Virtual Private Cloud) 환경에 배포될 수 있으며, 역할 기반 접근 통제(role-based access control)와 싱글 사인온(single sign-on) 등의 기능을 포함하고 있습니다.
LlamaCloud 개발 자금 마련을 위해, LlamaIndex는 최근 Norwest Venture Partners가 주도하고 Greylock이 참여한 시리즈 A 펀딩 라운드를 통해 1,900만 달러를 유치했습니다. 이번 자금 유치로 LlamaIndex의 총 유치 금액은 2,750만 달러가 되었으며, 리우는 이 자금이 LlamaIndex의 20명 규모 팀 확장 및 제품 개발에 사용될 것이라고 밝혔습니다.
리우는 "저희는 플랫폼의 초기 상업적 확장 단계까지 충분한 운영 자금(runway)을 확보했습니다. 저희는 개발자들이 기업 환경에서 GenAI 애플리케이션을 구축하고 배포하는 데 핵심적인 역할을 할 미래에 베팅하고 있습니다."라고 말했습니다.