메타가 지난 5월부터 사진에 "AI로 제작됨(Made with AI)" 라벨을 부착하기 시작하자, 사진작가들은 이 소셜 네트워크 회사가 간단한 편집 도구만을 사용한 실제 사진에도 해당 라벨을 적용하고 있다며 불만을 제기했습니다.
사용자 피드백과 사진에 사용된 AI 수준에 대한 일반적인 혼란에 따라, 메타는 모든 앱에서 해당 태그를 "AI 정보(AI info)"로 변경했습니다.
메타에 따르면, 기존 태그는 해당 이미지가 반드시 AI로 제작된 것은 아니더라도 편집 과정에서 AI 기반 도구를 사용했을 수 있다는 점을 사용자들에게 충분히 명확하게 알리지 못했다는 지적이 있었습니다.
회사는 업데이트된 블로그 게시물을 통해 "타 산업의 다른 회사들과 마찬가지로, 당사가 이러한 지표를 기반으로 설정한 라벨이 항상 사용자 기대치와 부합하지 않았고, 충분한 맥락을 제공하지 못한 경우도 있었습니다. 예를 들어, 리터칭 도구처럼 AI를 사용한 사소한 수정이 포함된 일부 콘텐츠에 업계 표준 지표가 포함되었음에도 불구하고 'AI로 제작됨'이라는 라벨이 부착되기도 했습니다."라고 밝혔습니다.
메타는 사진의 AI 사용을 감지하고 라벨을 부착하는 근본적인 기술 자체는 변경하지 않을 것이라고 전했습니다. 메타는 여전히 AI 도구 사용 정보를 포함하는 C2PA 및 IPTC와 같은 기술 메타데이터 표준 정보를 활용합니다.
이는 사진작가가 Adobe의 생성형 AI 채우기(Generative AI Fill)와 같은 도구를 사용하여 물체를 제거한 경우에도, 해당 사진이 여전히 새로운 라벨이 붙을 수 있음을 의미합니다. 하지만 메타는 이번 새 라벨이 해당 이미지가 항상 전적으로 AI로 생성된 것은 아니라는 점을 사용자들이 이해하는 데 도움이 되기를 기대하고 있습니다.
메타 대변인 케이트 맥컬로린(Kate McLaughlin)은 TechCrunch에 이메일을 통해 "‘AI 정보’는 AI로 생성되거나/혹은 수정된 콘텐츠를 포괄할 수 있습니다. 따라서 이번 변경이 사용자 기대치에 더 부합하기를 바라며, 저희는 프로세스 개선을 위해 업계 전반의 회사들과 협력하고 있습니다."라고 말했습니다.
다만, 새로운 태그라 하더라도 완전히 AI로 생성된 사진이 탐지되지 않는 문제는 여전히 해결할 수 없습니다. 또한, 이미지에 얼마나 많은 AI 기반 편집이 이루어졌는지 수치적으로 알려주지도 않을 것입니다.
결론적으로, 메타와 다른 소셜 네트워크들은 편집 워크플로우 자체를 변경하지 않은 사진작가들에게도 불공평하지 않으면서 명확한 지침을 수립하는 데 노력해야 하며, 해당 사진을 보정하는 데 사용된 도구가 생성형 AI 요소를 포함했을 가능성도 배제할 수 없습니다. 동시에 Adobe와 같은 기업들은 사진작가들이 특정 도구를 사용할 경우 다른 서비스에서 이미지에 라벨이 부착될 수 있음을 사전에 고지해야 할 것입니다.