구글은 검색 결과에 포함된 이미지 중 AI가 생성했거나 AI 도구로 편집된 이미지임을 사용자가 명확히 알 수 있도록 검색 기능에 변경을 적용할 계획이라고 밝혔습니다.
구글은 향후 몇 달에 걸쳐 검색(Search)의 "이 이미지 정보(About this image)" 창과 안드로이드의 서클 투 서치(Circle to Search) 기능에서 AI 생성 및 편집 이미지를 표시하기 시작할 예정입니다. 이러한 공개 방식은 향후 유튜브(YouTube)와 같은 다른 구글 서비스로 확대될 수 있으며, 구글은 관련 세부 정보를 올해 하반기 중 더 공개할 것이라고 덧붙였습니다.
핵심적으로, 검색에서 AI 조작으로 분류되는 이미지에 플래그가 지정되려면 반드시 "C2PA 메타데이터"를 포함해야 합니다. C2PA는 '콘텐츠 출처 및 진본성 위원회(Coalition for Content Provenance and Authenticity)'의 약자입니다. 이 그룹은 이미지 캡처 및/또는 생성에 사용된 장비와 소프트웨어를 포함하여 이미지의 출처와 역사를 추적할 수 있는 기술 표준을 개발하는 주체입니다.
구글, 아마존(Amazon), 마이크로소프트(Microsoft), OpenAI, 어도비(Adobe) 등 다수의 기업이 C2PA를 지지하고 있습니다. 하지만 이 연합의 표준은 아직까지 광범위하게 채택되지 못한 상황입니다. 더 버지(The Verge)가 최근 보도한 바와 같이, C2PA는 채택 및 상호 운용성 측면에서 여러 어려움에 직면해 있으며, 라이카(Leica)와 소니(Sony)의 일부 생성형 AI 도구와 카메라만이 이 그룹의 사양을 지원하고 있습니다.
더욱이, C2PA 메타데이터는 다른 모든 메타데이터와 마찬가지로 제거되거나(scrubbed), 읽을 수 없을 정도로 손상될 위험이 있습니다. 또한 xAI 챗봇이 이미지 생성을 위해 사용하는 것과 같은 일부 인기 생성형 AI 도구의 이미지들은 해당 표준을 개발한 기업들이 아직 지지하지 않았기 때문에 C2PA 메타데이터가 첨부되지 않은 경우가 많습니다.
딥페이크가 여전히 빠르게 확산되는 상황에서, 이러한 조치는 아무것도 하지 않는 것보다는 분명한 진전입니다. 한 추산에 따르면, 2023년부터 2024년까지 AI 생성 콘텐츠를 이용한 사기 피해는 무려 245% 증가했습니다. 딜로이트(Deloitte)는 딥페이크 관련 손실액이 2023년 123억 달러에서 2027년에는 400억 달러까지 급증할 것으로 예측했습니다.
이러한 수치는 대다수 대중이 딥페이크에 속을까 우려하고 있으며, AI가 선전(propaganda) 확산에 활용될 잠재적 위험에 대해 심각하게 인식하고 있음을 보여줍니다.