유튜브는 수요일, 크리에이터, 아티스트 및 기타 유명하거나 영향력 있는 인물의 얼굴 등 '외모(likeness)'를 특징으로 하는 AI 생성 콘텐츠를 식별하고 관리하기 위한 파일럿 프로그램이 확장된다고 발표했습니다. 또한 유튜브는 누군가의 이미지나 목소리를 시뮬레이션하여 사람들을 오도하고 유해한 콘텐츠를 생성하는 문제를 해결하는 것을 목표로 하는 NO FAKES ACT 법안에 대한 지지 또한 공개적으로 선언했습니다.
유튜브는 이번 법안을 발의한 크리스 쿠운스 상원 의원(Sens. Chris Coons, 민주당-DE)와 마샤 블랙번 상원 의원(Marsha Blackburn, 공화당-TN), 그리고 녹음산업협회(RIAA) 및 영화협회(MPA)를 포함한 여러 업계 관계자들과 협력했다고 밝혔습니다. 쿠운스와 블랙번 의원은 수요일 기자회견을 통해 해당 법안의 재도입을 발표할 예정입니다.
유튜브는 블로그 게시물을 통해 자사의 지속적인 지지 배경을 설명하며, AI가 '창의적 표현에 혁신을 가져올 잠재력'이 있다는 점은 이해하지만, 그 이면에는 위험성도 존재한다고 지적했습니다.
해당 게시물에 따르면, "우리는 오용이나 유해한 콘텐츠 생성과 같은 AI 생성 콘텐츠의 잠재적 위험성을 알고 있습니다. 플랫폼은 이러한 문제에 선제적으로 대처할 책임이 있습니다."라고 명시되어 있습니다.
유튜브는 또한 "NO FAKES Act는 보호와 혁신 사이의 균형을 맞추는 최적의 방법을 제시합니다. 즉, AI로 생성된 외모를 보유하고 있으며 제거되어야 한다고 생각하는 개인이 플랫폼에 직접 통보할 수 있는 권한을 부여하는 것입니다. 이 통지 과정은 플랫폼이 유해한 가짜 콘텐츠와 정당한 콘텐츠를 구별하는 데 결정적인 역할을 합니다. 이 절차가 없다면 플랫폼은 정보에 근거한 결정을 내릴 수 없습니다."라고 밝혔습니다.
이 회사는 2024년 12월 크리에이티브 아티스트 에이전시(CAA)와 협력하여 외모 탐지 시스템을 도입했습니다.
이 새로운 기술은 기존 콘텐츠 ID 시스템(사용자 업로드 영상의 저작권 보호 자료를 탐지하는 시스템)을 기반으로 한 유튜브의 노력입니다. 유튜브가 올해 초에 설명했듯이, 이 프로그램은 콘텐츠 ID와 유사하게 AI 도구로 만들어진 시뮬레이션된 얼굴이나 목소리 등 위반 콘텐츠를 자동으로 감지하는 역할을 수행합니다.
이번에 유튜브는 해당 프로그램의 초기 파일럿 테스터 명단도 처음으로 공개했습니다. 여기에는 MrBeast, [빈칸], Estude Matemática와 같은 유명 유튜브 크리에이터들이 포함되어 있습니다.
테스트 기간 동안 유튜브는 해당 기술을 확대하고 관리 방안을 구체화하기 위해 크리에이터들과 협력할 예정입니다. 또한 자사는 향후 1년 동안 더 많은 크리에이터들에게 프로그램이 확장될 것이라고 덧붙였습니다. 다만, 외모 탐지 시스템의 구체적인 공개 출시 시점은 밝히지 않았습니다.
외모 탐지 기술 파일럿 프로그램 외에도, 자사는 이전에 사용자의 외모를 시뮬레이션하는 변형되거나 합성된 콘텐츠가 발견될 경우 이를 삭제를 요청할 수 있도록 개인정보 보호 절차를 업데이트했습니다. 아울러, 사용자들이 유튜브에서 자신을 묘사하는 데 AI가 어떻게 사용되고 있는지 스스로 탐지하고 관리할 수 있는 '외모 관리 도구'도 추가했습니다.