메타(Meta)는 지난 2월 초 자사의 소셜 네트워크에서 AI 도구를 이용해 생성된 사진에 라벨을 부착할 것이라고 발표했습니다. 실제로 메타는 5월부터 페이스북, 인스타그램, 스레드 앱 등에서 일부 사진에 "Made with AI(AI로 제작됨)" 라벨을 주기적으로 붙여왔습니다.
하지만 메타의 사진 라벨링 정책은 AI 도구를 사용하지 않은 사진에도 "Made with AI" 라벨을 부착하면서 사용자들과 사진작가들로부터 큰 비판을 받고 있습니다.
메타가 AI 사용과 무관한 사진에 자동으로 라벨을 붙이는 사례가 빈번합니다. 예를 들어, 인도 프리미어 리그 크리켓 토너먼트 우승을 기념하는 골카타 나이트 라이더스(Kolkata Knight Riders)의 사진 등이 있습니다. 주목할 점은 이 라벨이 모바일 앱에서만 보이고 웹 환경에서는 표시되지 않는다는 사실입니다.
(사진 자료: "Made with AI" 라벨이 붙은 골카타 나이트 라이더스 인스타그램 사진. 인스타그램 스크린샷)
많은 사진작가들이 자신의 작품이 "Made with AI" 라벨을 잘못 붙여서 부당하게 표기되었다며 우려를 제기하고 있습니다. 이들의 핵심 주장은 단순히 편집 도구를 사용해 사진을 수정한 것만으로는 라벨링의 대상이 되어서는 안 된다는 것입니다.
전 백악관 사진작가 피트 소우자(Pete Souza)는 인스타그램 게시물을 통해 자신의 사진 중 하나가 이 새로운 라벨로 태그 처리되었다고 언급했습니다. 소우자는 TechCrunch와의 이메일 교신을 통해, 어도비(Adobe)가 크롭 도구의 작동 방식을 변경하면서 JPEG 이미지로 저장하기 전에 "이미지 평탄화(flatten the image)" 과정을 거치도록 변경한 것이 알고리즘을 자극하여 라벨을 부착하게 만든 것으로 추정하고 있습니다.
소우자는 TechCrunch에 "가장 짜증나는 부분은 제가 수동으로 체크 해제했음에도 불구하고 게시물 자체가 'Made with AI'를 포함하도록 강요되었다는 것입니다"라고 말했습니다.
(사진 자료: 피트 소우자가 찍었으나 인스타그램이 "Made with AI"로 라벨링한 사진. 인스타그램 스크린샷)
메타는 소우자의 경험이나 라벨링 오류를 제기하는 다른 사진작가들의 게시물에 대해 TechCrunch에 공식적인 답변을 거부했습니다. 하지만 기사 보도 이후, 메타는 이미지에 사용된 AI의 정도를 나타내는 라벨링 접근 방식을 현재 평가하고 있다고 밝혔습니다.
메타 대변인은 TechCrunch에 "우리의 목표는 항상 사용자들이 AI로 제작된 콘텐츠를 접했을 때 이를 알 수 있도록 돕는 것이었습니다. 우리는 최근의 피드백을 반영하여, 라벨이 이미지에 사용된 AI의 정도를 정확히 반영하도록 접근 방식을 지속적으로 평가하고 있습니다"라고 설명했습니다.
메타는 2월 블로그 게시물에서 이미지의 메타데이터를 활용하여 라벨을 감지한다고 언급했습니다.
당시 메타는 "우리는 산업을 선도하는 도구를 구축하고 있으며, 이를 통해 대규모로 육안으로 확인하기 어려운 마커(marker)를 식별할 수 있게 됩니다. 구체적으로는 C2PA 및 IPTC 기술 표준에 포함된 'AI 생성' 정보를 활용하여, 구글, OpenAI, 마이크로소프트, 어도비, 미드저니(Midjourney), 셔터스톡(Shutterstock) 등 각 기업이 자사 도구로 만든 이미지에 메타데이터를 추가하는 계획을 실행함에 따라 해당 이미지들을 라벨링할 수 있을 것입니다"라고 밝힌 바 있습니다.
PetaPixel이 지난주 보도했듯이, 메타는 사진작가들이 어도비의 생성형 AI 채우기(Generative AI Fill)와 같은 도구를 이용해 개체를 제거할 때도 "Made with AI" 라벨을 적용하는 것으로 보입니다.
메타가 자동 라벨 부착 시점을 명확히 공개하지 않았음에도 불구하고, 일부 사진작가들은 모든 AI 도구 사용은 투명하게 표시되어야 한다고 주장하고 있습니다.
결론적으로, 메타는 기술적, 운영적 차원에서 메타데이터를 강화하는 방향으로 정책을 조정하고 있습니다.
이러한 배경 속에서, 메타는 '미디어 투명성'을 핵심 가치로 삼아, 콘텐츠 제작 과정 전반에 걸쳐 투명성을 확보하려는 노력을 지속하고 있습니다.
[출처:] https://techcrunch.com/2024/06/21/meta-tagging-real-photos-made-with-ai