최근 메킨지(McKinsey) 보고서에 따르면, 대부분의 조직은 생성형 AI를 안전하고 책임감 있게 활용할 준비가 되어 있지 않다고 합니다. 가장 큰 우려 중 하나는 '설명 가능성(explainability)', 즉 AI가 특정 결정을 어떻게, 그리고 왜 내렸는지 이해하는 문제입니다. 보고서는 응답자의 40%가 이를 중대한 위험 요소로 지적했으나, 실제로 이를 적극적으로 다루는 곳은 17%에 불과하다고 밝혔습니다.
서울을 거점으로 하는 [회사명]은 원래 AI 데이터 라벨링 전문 기업으로 시작했습니다. 현재는 기술적 전문 지식이 없더라도 누구나 더 안전한 AI를 구축할 수 있도록 테스트, 모니터링, 모델 개선을 돕는 도구와 데이터를 제공하는 것을 목표로 하고 있습니다. 이 스타트업은 지난 월요일에 세일즈포스 벤처스(Salesforce Ventures), KB 투자, ACVC 파트너스, SBI 투자 등으로부터 1,550만 달러를 유치하며, 누적 유치금액을 약 2,800만 달러로 늘렸습니다.
데이터모(Datumo)의 CEO이자 한국 국방과학연구소(Agency for Defense Development) 출신 AI 연구원인 김 대표는 기존 데이터 라벨링 과정이 시간 소모적이고 비효율적이라는 한계에 직면했습니다. 이에 발맞춰 누구나 여가 시간에 데이터를 라벨링하며 수익을 얻을 수 있는 보상 기반 앱 개발 아이디어를 구상했습니다. 이 스타트업은 KAIST(한국과학기술원)에서 열린 스타트업 경진대회를 통해 아이디어를 검증했습니다. 김 대표는 2018년 KAIST 출신 동문 5명과 함께 'SelectStar'라는 이름으로 설립되었던 데이터모를 공동 창업했습니다.
실제 앱이 완전히 구축되기 전에도 데이터모는 대회 참가자들, 특히 KAIST 출신 기업 및 스타트업으로부터 수만 달러에 달하는 선계약 판매금을 확보하며 시장의 높은 관심을 증명했습니다.
스타트업은 첫해에 100만 달러가 넘는 매출을 기록하며 여러 핵심 계약을 수주했습니다. 현재 이 회사의 고객사 명단에는 삼성, 삼성SDS, LG전자, LG CNS, 현대, 네이버와 같은 국내 주요 기업과 서울에 본사를 둔 통신 대기업 SK텔레콤 등이 포진해 있습니다. 다만, 몇 년 전부터 고객사들은 단순 데이터 라벨링을 넘어선 고도화된 서비스를 요구하기 시작했습니다. 현재 7년의 역사를 가진 데이터모는 대한민국 내에 300개 이상의 고객사를 보유하고 있으며, 2024년에는 약 600만 달러의 매출을 기록했습니다.
데이터모의 공동 창업자인 황민철은 테크크런치(TechCrunch)와의 인터뷰에서 "고객사들이 자사 AI 모델의 출력값을 점수 매기거나 다른 출력값과 비교 분석해달라고 요청했습니다."라고 말했습니다. 이어 "그때 저희는 이미 AI 모델 평가라는 영역을 수행하고 있었다는 사실을 깨달았습니다. 자신들조차 인지하지 못했던 평가 활동이었습니다."라고 덧붙였습니다. 황 대표는 데이터모가 이 분야에 역량을 집중하여 AI 신뢰성 및 안전성(trust and safety)에 초점을 맞춘 국내 최초의 벤치마크 데이터셋을 출시했다고 설명했습니다.
김 대표는 테크크런치와의 인터뷰에서 "데이터 주석(data annotation)으로 시작하여, LLM 생태계가 성숙함에 따라 사전 훈련 데이터 및 종합적인 평가 영역으로 서비스를 확장해왔습니다."라고 언급했습니다.
업계에서는 경쟁 우위를 확보하기 위해 정교한 데이터 평가가 필수적이라고 강조합니다.
서울의 한 투자 컨퍼런스에서는 고성능 데이터 평가의 필요성이 큰 화두로 떠올랐습니다.
투자자들은 특히 데이터의 질과 신뢰성을 확보하는 것이 AI 서비스의 성패를 가르는 핵심 요소라고 평가했습니다.
데이터 모델의 신뢰성을 높이는 과정이 이제 필수적인 경쟁력이라는 분석이 나왔습니다.
새로운 기술이 적용된 서비스가 대거 등장할 것이라는 전망입니다.
이 같은 기술적 진보가 산업 전반에 걸친 혁신을 가져올 것으로 기대됩니다.