다음 주부터 Google 포토 앱은 Magic Editor, Magic Eraser, Zoom Enhance와 같은 AI 기능을 사용해 사진이 편집되었음을 나타내는 새로운 표시 기능을 추가합니다. Google 포토에서 사진을 클릭하면, '세부정보(Details)' 섹션 하단으로 스크롤할 때 사진이 "Google AI로 편집됨(Edited with Google AI)"이라는 알림 문구를 확인할 수 있게 됩니다.
Google은 이러한 표시 기능을 통해 "투명성을 더욱 향상"시키고자 한다고 밝히지만, 여전히 AI로 편집된 사진임을 명확히 파악하기는 어렵습니다. 사진 프레임 내에 사진이 AI로 생성되었다는 시각적 워터마크는 여전히 없습니다. 만약 누군가가 소셜 미디어, 문자 메시지, 심지어 사진 앱을 스크롤하는 중 구글 AI가 편집한 사진을 보더라도, 그 사진이 합성물(synthetic)이라는 것을 즉시 알기는 힘들 것입니다.
구글의 새로운 AI 편집 고지
Google은 지난 목요일 블로그 게시물을 통해 AI 사진에 대한 새로운 표시 기능을 발표했습니다. 이는 구글이 AI 사진 편집 기능이 대거 포함된 새로운 Pixel 9 폰을 공개한 지 두 달이 조금 넘은 시점입니다. 이번 고지 방식은 사용자가 읽기 쉬운 시각적 워터마크 없이 AI 도구들을 광범위하게 배포하면서 제기된 비판에 대한 일종의 대응으로 풀이됩니다.
한편, 생성형 AI를 사용하지 않는 구글의 다른 사진 편집 기능인 Best Take와 Add Me의 경우에는, Google 포토가 해당 사진들이 '세부정보' 탭이 아닌 메타데이터(metadata)에 편집되었다는 사실을 표시할 것입니다. 이 기능들은 여러 장의 사진을 하나로 합성하여 마치 깨끗한 하나의 이미지처럼 보이게 만듭니다.
이러한 새로운 태그들은 구글 AI 편집 기능이 가진 근본적인 문제, 즉 사진 프레임 내에 시각적 워터마크(적어도 한눈에 알아볼 수 있는)가 없다는 점을 완전히 해결하지는 못합니다. 이러한 워터마크가 사람들이 오해하지 않도록 돕는 데는 도움이 될 수 있으나, 현재 구글은 그러한 워터마크를 제공하고 있지 않습니다. 저희는 구글에 이미지에 시각적 워터마크를 추가하는 것을 고려할 것인지 문의했고, 구글 측은 이를 배제하지 않았다고 답했습니다.
구글 포토 커뮤니케이션 매니저 마이클 마르코니(Michael Marconi)는 TechCrunch에 보낸 이메일에서 "이 작업은 아직 완료되지 않았다"며, "지속적으로 피드백을 수집하고, 안전장치를 개선 및 보완하며, 생성형 AI 편집을 둘러싼 투명성을 높일 추가 솔루션을 평가할 것"이라고 밝혔습니다.
구글 AI로 편집된 모든 사진은 이미 사진의 메타데이터에 AI 편집 여부를 공개하고 있습니다. 여기에 구글 포토의 '세부정보' 탭 아래에서 더 쉽게 접근할 수 있는 표시 기능이 추가된 것입니다. 하지만 문제는 대부분의 사람들이 인터넷에서 접하는 사진에 대해 메타데이터나 세부정보 탭을 자세히 확인하지 않는다는 점입니다. 그저 대충 훑어보고 지나치는 경우가 대부분입니다.
솔직히 말하자면, AI 사진의 프레임 내 시각적 워터마크 또한 완벽한 해결책은 아닙니다. 사람들은 워터마크를 쉽게 잘라내거나 편집할 수 있으며, 이 경우 모든 것이 원점으로 돌아갑니다.
구글의 AI 이미지 도구 확산은 사람들이 인터넷에서 접하는 합성 콘텐츠의 양을 늘려, 무엇이 실제인지 가짜인지 구별하기를 더욱 어렵게 만들 수 있습니다. 구글이 채택한 메타데이터 기반의 워터마크 방식은 그 한계를 가지고 있습니다.