법적인 조사를 받을 가능성이 커 보입니다.
레딧 사용자들은 (ComputerBase를 통해) 구글의 Gemini 2.0 Flash 모델이 사용자가 제공한 이미지에서 워터마크를 제거하고, 저작권 캐릭터나 유명인을 생성 이미지에 묘사할 수 있다고 주장했습니다. 이는 온라인에서 발견되어 저작물임을 표시하기 위해 워터마크가 찍힌 라이선스 스톡 이미지도 포함합니다. 이러한 기능은 미디어 라이선싱 기업들로부터 잠재적인 법적 분쟁을 야기할 위험이 있습니다. 당사에서 제한적으로 테스트한 결과, 여러 제공 이미지에서 워터마크 제거는 성공적이지 않았으나, 유명인 이미지 생성은 가능했습니다.
구글은 작년 12월 Gemini 2.0 Flash와 함께 테스트용 네이티브 이미지 출력 기능을 도입했습니다. 그리고 불과 지난주, 이 업데이트는 모든 지역에서 무료로 접근 가능해졌으며, 그림으로 스토리텔링, 대화형 이미지 편집, 세상 이해(world understanding), 텍스트 렌더링 등 다양한 새로운 기능을 포함합니다. AI 이미지 생성 기술은 윤리적, 도덕적 관점에서 꾸준히 논란의 중심에 서 있습니다.
구글, Anthropic, OpenAI와 같은 주요 기업들은 일반적으로 자체 기술의 오용에 대응하기 위해 모델에 일련의 준수 규정(guardrails) 또는 금지 항목 목록을 통합합니다. 이러한 제한은 광범위하게 적용되지만, 일반적으로 유명인 묘사 및 특히 저작권 자료의 워터마크 제거가 금지 사항에 포함됩니다.
Gemini API 키 절도범, 단 이틀 만에 82,314달러 상당의 혐의로 기소되다, 피해자는 '파산 위기'
최근 몇몇 레딧 사용자들은 Gemini의 네이티브 이미지 출력 기능이 Getty Images 같은 스톡 이미지의 워터마크 제거와 유명인 이미지 생성이 가능하다는 사실을 발견했습니다. 첫 번째 경우, 워터마크를 제거하는 행위는 저작물을 식별하는 정보(CMI)를 변경하므로 여러 DMCA(디지털 밀레니엄 저작권법) 조항을 위반할 가능성이 높습니다. AI를 이용해 유명인 이미지를 생성하는 합법성은 좀 더 복잡한데, 이는 주로 유명인의 초상권 보호와 딥페이크, 잠재적 명예훼손 문제와 관련된 우려 사항에 기인합니다.
Gemini는 r/singularity에서 워터마크 제거에 비교적 뛰어나다
그럼에도 불구하고, 워터마크 제거가 해당 이미지가 저작권법의 보호를 받고 있다는 사실을 변경하지는 못합니다. 따라서 상업적으로 사용하기는 어렵고, DMCA 주장에 직면할 위험이 큽니다. 대부분의 경우, 개인적인 용도로 해당 이미지를 사용하고자 하는 개인들이 워터마크 제거를 원할 수 있습니다.
레딧 게시물과는 달리, 당사는 동일한 이미지의 워터마크 제거를 시도했지만, Gemini는 "죄송하지만, 저는 이미지를 직접 편집할 수 없습니다"라고 응답했습니다. 다만, 대화형 이미지 편집 기능은 Google AI Studio에서 의도한 대로 작동했으며, 여기서는 Gemini가 유명인의 이미지를 성공적으로 재현했으므로, 아직 다듬어야 할 부분이 남아 있습니다.
구글이 Gemini 2.0 Flash의 이미지 생성 기능을 '실험적(experimental)'으로 태그했다는 점에 주목할 필요가 있습니다. 이것이 Gemini의 메인 사이트가 아닌 Google AI Studio에서만 이용 가능한 이유일 수 있으며, 이러한 기능적 미흡함의 배경이 될 수도 있습니다.