2024년 미국 대통령 선거 이후, 하나의 사실이 분명해졌습니다. 바로 허위 정보가 온라인상에서 놀라운 속도로 확산되면서 공중 보건, 기후 변화, 이민 등 다양한 주제는 물론, 각 후보에 대한 미국인의 견해까지도 왜곡하고 있다는 것입니다. 특히 딥페이크를 단 몇 초 만에 생성하고 사실을 환각(hallucinate)하는 경향이 있는 생성형 AI는 이러한 문제점을 더욱 악화시킬 수 있습니다.
지난 10월 TechCrunch Disrupt의 Startup Battlefield 200에 참가한 한 스타트업이 이러한 홍수 속에서 대비하고 있습니다. 이 회사는 보안(Security), 개인정보 보호(Privacy), 소셜 네트워킹(Social Networking) 부문에서 최고의 피치로 수상했으며, 텍스트, 비디오, 오디오에 대한 라이브 팩트 체크를 제공하는 B2B(기업 간 거래) 도구를 개발했습니다. 이 회사의 비전은 기업들이 방대한 연구 시간을 절약하고 평판 위험이나 법적 책임으로부터 보호받도록 돕는 것입니다.
노르웨이에 본사를 둔 이 스타트업은 아직 초기 단계입니다. Factiverse는 2020년 출범 이후 약 145만 달러의 프리시드(pre-seed) 자금을 조달했습니다. 하지만 Factiverse의 CEO 겸 공동 창립자인 마리아 아멜리(Maria Amelie)에 따르면, 이미 노르웨이의 주요 은행을 포함한 여러 미디어 및 금융 파트너들과 협력하고 있습니다.
아멜리는 Factiverse가 여러 미디어 파트너들에게 사용된 미국 대통령 토론회 실시간 팩트 체크 서비스도 제공했다고 밝혔습니다.
아멜리는 TechCrunch과의 인터뷰에서 "저희는 LLM(대규모 언어 모델)이 아닙니다. 저희는 정보 검색(information retrieval)에 기반한 완전히 다른 유형의 모델을 구축했습니다"라고 강조했습니다.
전직 기술 저널리스트이자 작가인 아멜리는 정보의 진실성을 검증하는 과정에서 직접적인 경험을 쌓았습니다. 그녀는 Factiverse의 공동 창립자이자 CTO인 비나이 세티(Vinay Setty)와 함께 이 스타트업을 B2B에 초점을 맞춰 설립했습니다. 비나이는 스타방게르 대학교(University of Stavanger)에서 머신러닝 분야의 부교수입니다.
아멜리에 따르면, Factiverse의 모델은 전 세계의 신뢰도 높은 출처와 팩트체커들이 제공하는 고품질의 정제된 데이터를 기반으로 훈련되었으며, 생성형 AI가 학습하는 "쓰레기 데이터(junk food data)"와는 근본적으로 다릅니다.
아멜리는 "저희는 AI 모델이 마치 정보 조사에 오랜 경험을 가진 사람처럼 직관적으로 생각하도록 훈련시킵니다"라고 설명했습니다.
머신러닝과 자연어 처리에 기반을 둔 이 모델은 주장(claim)을 식별하고 웹을 실시간으로 검색할 수 있습니다. 구글(Google)이나 빙(Bing) 같은 검색 엔진은 물론, You.com 같은 AI 검색 엔진, 학술 논문에 이르기까지 광범위한 영역을 아우릅니다.
아멜리는 "가장 흥미로운 부분은 단순히 검색 엔진에서 가장 먼저 나오는 모든 것을 보여주는 것이 아니라는 점입니다. 저희는 사용자의 주제와 관련하여 가장 신뢰도가 높거나, 역사적으로 가장 신뢰할 수 있었던 출처들을 실제로 제안해 드립니다. … 주제와 연관된 도메인(domain)까지 심층적으로 분석하고, 때로는 기사에 인용된 인물까지 추적합니다"라고 설명했습니다.
Factiverse에 따르면, 현재 이 모델은 114개 언어에서 팩트 체크가 필요한 주장을 식별하는 능력 면에서 GPT-4, Mistral 7B, GPT-3를 능가합니다. 또한, 주장의 진위 여부를 판단하는 데 있어서도 LLM보다 우수한 성능을 보여줍니다. 아멜리는 Factiverse의 성공률이 약 80%에 달하며, 전 세계적으로 신규 고객을 온보딩하며 지속적으로 개선해 나가는 것이 목표라고 전했습니다.
아멜리는 TechCrunch에게 "최고가 되기에는 충분한 자금력을 갖추고 있지만, 저희는 미국에 와서 가장 빠르게 성장하기 위해 여기에 있습니다"라고 말했습니다. 그녀는 또한 회사가 2025년에 시드 라운드(seed round)를 유치할 계획이라고 덧붙이며, "저희는 신뢰와 신용에 투자하고자 하는 고객과 투자자들을 찾고 있습니다"라고 덧붙였습니다.
[출처:] https://techcrunch.com/2024/11/17/norwegian-startup-factiverse-wants-to-fight-disinformation-with-ai