돌멩이 하나를 던져도 딥페이크와 마주할 가능성이 높습니다. 생성형 AI의 상품화가 가져온 결과, 온라인상에는 가짜 콘텐츠가 폭발적으로 증가하고 있습니다. ID 검증 플랫폼 Sumsub에 따르면, 전 세계적으로 딥페이크의 양이 2023년 대비 2024년에 4배 증가했습니다. Sumsub에 의하면, 2024년 딥페이크는 사칭, 계정 탈취부터 정교한 소셜 엔지니어링 캠페인에 이르기까지 모든 사기 유형 중 7%를 차지했습니다.
이러한 딥페이크 확산에 대응하고자 Meta는 AI 생성 비디오 클립에 사람이 인식하기 어려운 워터마크를 적용하는 도구를 출시합니다. 지난 목요일 공개된 이 도구는 'Meta Video Seal'이며, 오픈 소스로 제공되어 기존 소프트웨어에 통합할 수 있도록 설계되었습니다. 이 도구는 Meta가 기존에 보유하고 있던 워터마킹 도구인 Watermark Anything(오늘 관대한 라이선스로 재출시됨) 및 Audio Seal과 함께 이용할 수 있습니다.
Meta의 AI 연구 과학자인 피에르 페르난데스(Pierre Fernandez)는 TechCrunch과의 인터뷰에서 "저희는 특히 AI 생성 비디오를 탐지하고 콘텐츠의 독창성을 보호하기 위한 더욱 효과적인 비디오 워터마킹 솔루션을 제공하고자 Video Seal을 개발했습니다"라고 밝혔습니다.
Video Seal이 처음 등장하는 기술은 아닙니다. DeepMind의 SynthID는 비디오 워터마킹이 가능하며, Microsoft 역시 자체적인 비디오 워터마킹 방법론을 보유하고 있습니다.
그러나 페르난데스는 기존의 방법들에는 여전히 많은 부족함이 있다고 지적합니다.
그는 "다른 워터마킹 도구들이 존재하기는 하지만, 이들은 소셜 플랫폼을 통해 콘텐츠가 공유될 때 매우 흔한 비디오 압축에 충분한 강건성(robustness)을 갖추지 못했습니다. 또한 효율적인 대규모 운용이 어렵거나, 공개적이지 않거나 재현이 어렵거나, 혹은 비디오에 최적화되지 않은 이미지 워터마킹에서 파생된 경우가 많았기 때문입니다"라고 주장했습니다.
Video Seal은 워터마크 외에도 비디오에 숨겨진 메시지를 추가할 수 있으며, 이 메시지는 나중에 추출되어 비디오의 출처를 파악하는 데 활용될 수 있습니다. Meta는 Video Seal이 블러 처리나 크롭팅 같은 일반적인 편집은 물론, 인기 있는 압축 알고리즘에도 강하다고 강조했습니다.
페르난데스는 Video Seal이 특정 한계점을 지니고 있음을 인정했습니다. 특히 워터마크의 인지 가능성(perceptibility)과 전반적인 위변조 방지 능력 사이의 상충 관계(trade-off)가 핵심적인 문제입니다. 그는 과도한 압축이나 상당한 편집을 가할 경우 워터마크 자체가 변경되거나 복구가 불가능해질 수 있다고 덧붙였습니다.
물론, Video Seal이 직면한 더 큰 난관은 개발자와 업계가 이 솔루션을 채택할 동기가 충분하지 않다는 점, 특히 이미 독점적인 자체 솔루션을 사용하고 있는 기업들에게 더욱 해당합니다. 이에 대응하여 Meta는 다양한 워터마킹 방법의 성능을 비교하는 공개 리더보드인 'Meta Omni Seal Bench'를 출시하고, 올해 주요 AI 학회인 ICLR에서 워터마킹 관련 워크숍을 개최할 계획입니다.
페르난데스는 "AI 연구원들과 개발자들이 워터마킹의 어떤 형태든 자신의 작업에 통합시키기를 바랍니다"라며, "저희는 이 분야의 발전을 가속화하기 위해 산업계와 학계 커뮤니티와의 협력을 적극적으로 이끌어내고 싶습니다"라고 강조했습니다.
[출처:] https://techcrunch.com/2024/12/12/meta-releases-a-tool-for-watermarking-ai-generated-videos