구글 역시 자체 AI 요약 기능(AI Overviews)에 대해 난처해하고 있다. 지난주 동안 거대 기술 기업의 미숙한 신규 AI 기반 검색 기능에서 발생한 낮은 품질과 명백한 허위 정보에 대한 조롱과 밈(memes)의 홍수 끝에, 구글은 목요일쯤 일종의 사과 성명을 발표했다. '정보 검색'과 동의어이며 "세상의 정보를 정리하여 사용자 손끝에 가져다준다"는 브랜드에 집중하는 구글이 블로그 게시물을 통해 "일부 이상하고, 부정확하거나 도움이 안 되는 AI 요약 기능들이 실제로 나타났다"고 스스로 언급했다.
이는 실패를 인정한 매우 완화된 표현이다. 구글 VP 겸 검색 책임자인 리즈 리드(Liz Reid)가 작성한 이 글은 AI 기술을 모든 분야에 무리하게 통합하려는 시도가 오히려 구글 검색의 품질을 저해했음을 역설적으로 입증하는 듯하다.
리드는 '지난주에 관하여(About last week)'라는 제목의 게시물에서 AI 요약 기능이 잘못된 결과를 도출하는 여러 가지 경우를 구체적으로 설명했다. 그녀는 이 기능이 다른 대규모 언어 모델(LLMs)처럼 '환각(hallucination)'을 일으키는 방식은 아닐지라도, "쿼리 오해석, 웹상의 언어적 뉘앙스 오해석, 또는 이용 가능한 충분한 정보 부족" 등 "다른 이유"로 인해 오류를 범할 수 있다고 설명했다.
리드는 또한 지난주 소셜 미디어에 공유된 스크린샷 중 일부는 조작되었으며, 다른 일부는 "내가 먹어야 할 돌은 몇 개인가?"처럼 검색할 필요성이 낮은 비논리적인(nonsensical) 쿼리를 기반으로 했다고 지적했다. 이 주제에는 사실적 정보가 거의 없었기 때문에, 구글의 AI는 사용자에게 풍자적 콘텐츠로 안내했다. (참고로, 이 경우의 출처는 사용자가 제공한 콘텐츠에 기반한 것이었다.)
[분석]
실제 문제점은 AI가 '사실'을 제시하는 것이 아니라, 사용자가 제공한 정보 내에서 패턴을 추론하고 '논리적으로 그럴듯해 보이는' 결과물을 제시한다는 점이다. 이로 인해 사용자가 실제 정보 출처를 확인하는 과정을 생략하게 만들 수 있다.
[후속 조치]
AI가 제공하는 모든 정보에 대해 명확하고 접근하기 쉬운 '출처 인용(Source Citation)' 기능을 강화해야 한다. 특히, 추론에 기반한 정보일 경우, 단순히 일반적인 정보로 처리하지 않고 해당 추론의 근거가 된 핵심 문장이나 문서를 반드시 하이퍼링크 처리해야 한다.
이처럼 구체적인 출처를 제공함으로써, AI는 단순한 정보 요약을 넘어 신뢰할 수 있는 '정보 분석 도구'로서의 역할을 강화할 수 있다. 사용자들은 AI의 결과물을 맹신하는 것이 아니라, 제시된 근거를 통해 지식을 습득하는 방식으로 변화할 것이다.