인도의 언어적 다양성으로 인해, 디지털 콘텐츠 기업들은 콘텐츠를 정확하게 제공하고 번역하는 데 이미 어려움을 겪고 있습니다. 구글 역시 최근 인도에서 출시한 AI Overview(AI 오버뷰)를 통해 유사한 문제에 직면하고 있습니다.
구글은 지난 8월 초부터 인도에서 AI Overview의 힌디어 지원을 도입했습니다. 인도의 사용자들은 검색 페이지를 이탈할 필요 없이 힌디어와 영어 간 전환이 가능합니다. 그러나 이 기능은 전반적으로 일관성이 떨어진다는 지적이 나옵니다.
한 가지 간단한 예는 구글 블로그에서 가져온 검색 결과였습니다. 해당 GIF는 "Cheeni ki jagah chai mai kya daal sakte hai?"(차에 설탕 대신 무엇을 넣을 수 있을까요?)라는 질문에 대한 답변을 보여주었습니다. 테스트 과정에서 단어 순서를 "Chai mai cheeni ke jagah kya daal sakte hai?"로 변경했을 때, 구글은 아무런 답변도 제공하지 않았습니다.
우리가 발견한 또 다른 문제점은 영어 단어를 문자 그대로 번역하는 경우였습니다. "여름에 어떤 종류의 음식을 먹을 수 있나요?"를 힌디어로 질문했을 때, 답변 중 하나는 "Chiknai wali cheezien"(끈적한 것들)로 번역되는 "Sticky things"라는 것이었습니다. 이는 소비자에게 혼란을 줄 수 있습니다. 반면, 영어로 전환했을 때는 구글이 "Oily"(기름진) 옵션을 제시했는데, 음식의 맥락에서 "끈적함"과 "기름짐"은 매우 다른 개념입니다. 어쨌든, 전반적으로 부자연스럽거나 오해의 소지가 있는 제안이었습니다.
또 다른 사례로, 유튜브의 소유권에 대해 질문했을 때, AI Overview는 힌디어로 "2023년 2월 16일까지, 네일 모한은 구글의 CEO였다"라고 답변했으나, 이는 사실과 다릅니다. 정확한 내용은 영어 텍스트에 나와 있었으며, "2023년 2월 16일부로, 네일 모한은 구글 CEO이다"라고 명시되어 있었습니다.
구글 (스크린샷)
질적인 측면의 문제도 존재합니다. "올해 디왈리는 언제인가요?"라고 질문했을 때, 간단한 답변을 얻는 대신, 지난 해의 디왈리에 대한 단락이 먼저 제시된 후, 링크 캐러셀을 거쳐, 비로소 우리가 찾던 실제 답변을 겨우 얻을 수 있었습니다.
또한 힌디어와 영어로 주기적으로 향신료가 들어간 음식을 섭취할 수 있는지 질문했을 때도, AI Overview를 통해 일관적이지 않은 답변들을 받았습니다.
더욱 우려되는 결과는 생명과 관련된 내용들이었습니다. 예를 들어, 산전증에 대한 질문에 답변하는 과정에서, 구체적인 제품이나 복용 권장 사항을 언급하는 경우가 발생했습니다.
이러한 오류들은 정보의 신뢰성을 심각하게 훼손할 수 있습니다.
구글은 답변의 출처나 신뢰도를 명확히 구분하고, 특히 건강이나 안전과 관련된 민감한 주제에 대해서는 답변 생성에 매우 신중을 기해야 합니다.
이러한 오정보 생성은 사용자들에게 잘못된 판단을 내리게 하고, 심각한 피해를 초래할 수 있습니다.
결론적으로, AI가 제공하는 정보는 단순한 참고 자료로만 활용되어야 하며, 중요한 의사결정에는 항상 전문가의 검토가 필수적입니다.
[출처:] https://techcrunch.com/2024/08/27/googles-ai-overviews-in-hindi-need-a-quality-upgrade