프랑스의 한 스타트업은 AI 음성 에이전트가 고객과 기업 간 상호작용의 기본 방식이 될 것이라고 믿고 있습니다. 이에 따라 이 회사는 당장 사용할 수 있는 AI 음성 에이전트를 직접 구축하기보다는, 기업들이 자신만의 음성 에이전트를 만들 수 있도록 지원하는 '오케스트레이션 플랫폼'을 구축하는 데 주력하고 있습니다.
라운디드(Rounded)는 원래 웹3 관련 제품을 개발하다가 2023년 6월에 초점을 AI 음성 에이전트 탐색으로 전환했습니다. 공동 창업자인 아이메릭 보델랭(Aymeric Vaudelin)(사진 상단, 왼쪽부터 첫 번째)은 테크크런치에 "저희의 초기 아이디어는 전사기(transcriber)를 거친 데이터를 ChatGPT에 넣고, 그 결과를 합성기(synthesizer)로 보내면 큰 가치가 있을 것이라는 것이었습니다"라고 설명했습니다.
하지만 팀은 곧 전형적인 제품-시장 적합성(product-market fit)의 난관에 부딪혔습니다. 보델랭은 "몇 달 동안 작업하면서 시장이 음성 에이전트라는 개념을 받아들일 준비가 아직 되지 않았다는 것을 깨달았습니다. 그래서 저희는 실제로 제품을 만들어 모든 것을 패키징하여 최초의 에이전트를 선보였습니다"라고 덧붙였습니다.
그 결과 탄생한 것이 마취과 의사를 위한 AI 음성 에이전트인 [제품명 공백]입니다. 다소 뜬금없어 보일 수 있지만, 이 스타트업은 마취과 비서들이 다수의 환자들을 처리하며 주로 단순하고 거래적인(transactional) 경험을 다루는 시장을 선택했습니다.
프랑스에서 수술을 예약할 경우, 환자는 마취제 관련 알레르기 여부나 잠재적인 합병증이 없는지 확인하기 위해 사전에 마취과 의사와의 통화가 필수적입니다.
마취과 비서들은 매우 단순한 문의가 오가는 대량의 전화를 처리합니다. 주로 환자들은 마취과 의사의 진료 가능 시간 문의, 예약 확정, 또는 날짜 변경 등 기본적인 업무를 요청합니다.
게다가 이러한 통화들은 판매(sales) 목적의 통화가 아니므로, AI 에이전트가 설득력이 높거나 지나치게 복잡한 효율성을 가질 필요가 없었습니다. 보델랭은 "초기에는 지연 시간이 때때로 4, 5, 6초에 달해 어려움을 겪기도 했습니다"라고 말했습니다.
그럼에도 불구하고, 라운디드는 'Donna'를 통해 15개 사립 병원으로부터 AI 음성 에이전트가 전화를 응대하도록 하는 데 성공했으며, 현재까지 해당 에이전트가 수십만 건의 통화를 처리했다고 밝히고 있습니다. 시간이 지나면서 라운디드는 제품을 개선하여 정확도를 높이고, 다른 제품들과의 통합성을 강화했으며, 가장 중요하게는 처리 속도를 향상시켰습니다.
보델랭은 "예를 들어 웹 통화의 경우, 이제 700밀리초(ms) 미만의 지연 시간을 얻습니다. 600ms에 가깝습니다. 여기에 전화 연결에 들어가는 200ms 정도를 합치면 대략 이 정도입니다"라고 설명했습니다.
더 최근에는 라운디드가 영역을 확장하여, 다른 회사들이 자체 음성 에이전트를 구축하는 데 사용할 수 있는 오케스트레이션 제품을 출시했습니다.
라운디드 플랫폼은 스피치-투-텍스트 모델, LLM, 음성-투-텍스트 모델 등 다양한 기성 AI 모델 중에서 사용자가 원하는 것을 선택할 수 있도록 합니다. 예를 들어, 첫 번째 음성 에이전트 구축 시, Azure를 사용하여 통화를 전사하고, GPT-4o mini를 LLM으로, ElevenLabs를 음성 합성 엔진으로 활용할 수 있습니다.
이 플랫폼은 나아가 LLM이 특정 사용 사례에 맞춰 작동하도록 지침 트리와 프롬프트를 정의하는 작업을 지원합니다. 보델랭은 "에이전트를 구현한다는 것은 올바른 프롬프팅, 올바른 매개변수, 그리고 프롬프트 내의 적절한 변수를 찾는 과정을 의미합니다"라고 말했습니다.
보델랭은 "저희의 강점은 모든 사람이 훌륭한 프롬프트나 훌륭한 에이전트를 만들 수 있도록 지원하며, 저희 제품은 이러한 반복적인 과정을 거쳐 초신뢰성 에이전트를 만들 수 있도록 도움을 줄 것이라는 점입니다"라고 강조했습니다.
라운디드는 현재까지 UC 버클리의 딥테크 액셀러레이터인 스카이덱(SkyDeck) 및 다수의 비즈니스 엔젤들로부터 600,000 유로(약 620,000 달러)를 모금했습니다. 하지만 인공지능 분야는 여전히 매우 주목받는 산업이기에, 이 스타트업이 앞으로 몇 달 안에 더 많은 자금을 유치할 것이라고 확신합니다.
(테크크런치 AI 중심 뉴스레터는 매주 수요일 받은 편지함으로 수신 신청하실 수 있습니다.)