대부분의 기업들은 데이터로부터 실질적인 가치를 추출하는 데 어려움을 겪고 있습니다. 포레스터(Forrester)의 보고서에 따르면, 몇 년 전 일반 기업이 보유한 데이터 중 60%에서 73%가 분석에 활용되지 못하고 있습니다. 그 원인은 데이터가 기술적, 보안적 고려 사항으로 사일로화되거나 격리되어 있어, 분석 도구를 적용하기가 어렵거나 사실상 불가능하기 때문입니다.
이전에 Y Combinator가 지원한 스타트업인 데이터 동기화 플랫폼 Hightouch와 건강 보험 도구 Fair Square 등에서 근무했던 엔지니어 안나 포야비스(Anna Pojawis)와 타일러 마란(Tyler Maran)은, 수많은 기업이 엔지니어링 구조적 문제로 인해 분석 전략에서 "제외(locked out)"되어 왔다는 사실을 발견하고 데이터 가치 문제를 해결하는 데 도전하게 되었습니다.
마란은 TechCrunch과의 인터뷰에서 "특히 헬스케어 및 금융과 같은 규제 산업의 상당 부분이 데이터 분석에 어려움을 겪는 것을 발견했습니다. 현재 기업의 데이터 대부분은 데이터베이스에 포함되지 않습니다. 예를 들어, 영업 통화 내용, 문서, Slack 메시지 등이 그렇습니다. 게다가, 이러한 대규모 기업들의 경우 기성 데이터 모델만으로는 충분하지 않습니다"라고 전했습니다.
이에 포야비스와 마란은 비정형 엔터프라이즈 데이터를 데이터 분석 애플리케이션과 AI가 이해할 수 있는 형태로 변환하는 일련의 도구인 OmniAI를 설립했습니다.
OmniAI는 기업의 데이터 저장 서비스 및 데이터베이스(예: Snowflake, MongoDB 등)와 동기화되어 데이터를 전처리하고, 기업들이 원하는 모델(예: 대규모 언어 모델, LLM)을 해당 데이터에 실행할 수 있도록 합니다. 마란에 따르면, OmniAI는 모든 작업을 고객사의 클라우드 환경, OmniAI의 프라이빗 클라우드, 또는 온프레미스 환경에서 수행함으로써, 높은 수준의 보안성을 제공합니다.
마란은 "저희는 대규모 언어 모델이 향후 10년 동안 기업 인프라에 필수적인 요소가 될 것이며, 모든 것을 단일한 곳에 호스팅하는 것이 가장 논리적이라고 생각합니다"라고 설명했습니다.
OmniAI는 초기 버전으로, 데이터를 자동으로 마스킹하는 사용 사례나 AI 기반 애플리케이션 구축에 활용할 수 있도록 Meta의 Llama 3, Anthropic의 Claude, Mistral의 Mistral Large, Amazon의 AWS Titan 등 다양한 모델 통합 기능을 제공합니다. 고객들은 자체 인프라에서 모델을 관리할 수 있도록 OmniAI와 소프트웨어 서비스 계약(SaaS contract)을 체결합니다.
이제 막 시작 단계에 있는 Omni는 최근 FundersClub의 주도 아래 320만 달러의 시드 라운드를 유치하고 기업 가치 3,000만 달러를 기록했다고 밝힌 바 있습니다. 이들은 이미 Klaviyo와 Carrefour를 포함하여 10개 고객사를 확보했다고 주장합니다. 마란에 따르면, 연간 반복 매출(ARR)은 2025년까지 100만 달러에 도달할 것으로 예상됩니다.
마란은 "저희는 빠르게 성장하는 산업 분야에서 운영 효율성이 높은 소규모 팀입니다. 저희의 예측은 시간이 지남에 따라 기업들이 기존 인프라와 모델을 결합하여 실행하는 방식을 선호하게 될 것이며, 모델 제공업체들 역시 모델 가중치 라이선스를 기존 클라우드 제공업체에 제공하는 데 더욱 집중할 것이라는 것입니다"라고 덧붙였습니다.
[출처:] https://techcrunch.com/2024/06/22/omniai-transforms-business-data-for-ai