유튜브는 AI로 생성된 딥페이크를 식별하는 유사성 탐지 기술을 정부 관계자, 정치 후보자, 기자 등 시범 그룹으로 확대한다고 화요일 회사 측이 발표했다. 시범 그룹 멤버들은 이 도구를 이용해 무단 AI 생성 콘텐츠를 탐지하고, 해당 콘텐츠가 유튜브 정책을 위반한다고 판단될 경우 제거를 요청할 수 있게 된다.
이 기술은 이전 테스트를 거쳐 작년에 유튜브 크리에이터 프로그램(YouTube Partner Program) 가입자 약 400만 명을 대상으로 출시되었다.
이 유사성 탐지 기능은 사용자가 업로드한 영상에서 저작권 보호 자료를 감지하는 유튜브의 기존 콘텐츠 ID(Content ID) 시스템과 유사하게 작동한다. 해당 기능은 AI 도구를 사용해 조작된(simulated) 얼굴을 찾아낸다. 이러한 도구들은 때때로 허위 정보를 유포하고 사람들의 현실 인식을 조작하는 데 활용되는데, 정치인이나 다른 정부 공직자와 같은 유명 인사의 딥페이크 인격을 활용하여, 실제로는 하지 않은 말과 행동을 하는 방식으로 오용된다.
새로운 시범 프로그램은 유튜브가 이용자의 자유로운 표현과 공인(public figure)의 설득력 있는 유사성을 생성할 수 있는 AI 기술이 지닌 위험성 사이의 균형을 맞추는 것을 목표로 한다.
유튜브 정부 업무 및 공공 정책 부문 부사장인 레슬리 밀러(Leslie Miller)는 화요일 출시를 앞둔 기자 간담회에서 "이번 확대는 공공 담론의 무결성(integrity)에 관한 문제"라고 말했다. 그녀는 "AI를 이용한 인격 모방의 위험이 특히 시민 영역에 있는 사람들에게 높다는 것을 알고 있다. 하지만 저희가 새로운 보호막을 제공하는 동시에, 이 기술을 어떻게 사용하느냐에 대해서도 신중하게 접근하고 있습니다"라고 덧붙였다.
밀러 부사장은 탐지된 모든 일치 항목이 요청되었다고 해서 모두 제거되는 것은 아니라고 설명했다. 대신, 유튜브는 해당 콘텐츠가 패러디나 정치적 비평물인지를 판단하기 위해 기존의 개인정보 보호정책 가이드라인에 따라 각 요청을 평가할 것이며, 패러디와 정치적 비평물은 보호받는 자유 표현의 형태에 해당한다.
또한, 회사는 이러한 보호를 연방 차원에서도 옹호하고 있다고 언급하며, 개인이 가진 목소리와 시각적 유사성을 무단으로 복제하는 AI 사용을 규제할 내용을 담은 'NO FAKES Act'에 대한 지지를 표명했다.
새 도구를 사용하려면 자격이 있는 시범 테스터는 먼저 셀카와 정부 신분증을 업로드하여 신원을 증명해야 한다. 이후 프로필을 만들고, 발견된 일치 항목을 확인한 다음, 선택적으로 제거를 요청할 수 있다. 유튜브는 장기적으로 사람들이 위반 콘텐츠를 라이브로 업로드되기 전에 이를 방지할 수 있는 기능, 또는 콘텐츠 ID 시스템과 유사하게 해당 영상에 대한 수익 창출까지 허용할 계획이라고 밝혔다.
회사는 초기 테스트 참여 공직자나 정치인이 누구일지는 공개하지 않았지만, 궁극적인 목표는 이 기술을 광범위하게 이용 가능하도록 만드는 것이라고 전했다.
이러한 AI 영상에는 관련 라벨이 부착되지만, 그 위치는 일관적이지 않다. 일부 영상의 경우 설명란에 라벨이 표시되는 반면, '민감한 주제'에 초점을 맞춘 영상에는 영상 시작 부분에 라벨이 적용된다. 이는 유튜브가 모든 AI 생성 콘텐츠에 대해 취하는 일반적인 접근 방식이다.
크리에이터 제품 부문 부사장인 암자드 하니프(Amjad Hanif)는 라벨 위치에 대해 설명하며, "AI로 제작된 콘텐츠가 매우 많지만, 그 구별 자체가 콘텐츠의 본질적인 부분은 아닙니다"라고 말했다. 그는 "AI로 생성된 만화일 수도 있습니다. 따라서 이것이 [특정 분류]에 해당하는지에 대한 여부는..."과 같이 구체적인 기준이 필요하다는 점을 지적했다.
나아가, 전반적으로 삭제된 부분은 대화 흐름을 위해 보강 및 연결되었습니다.
[수정된 연결 및 마무리 문장]: 이처럼 명확한 가이드라인 설정이 중요하며, 앞으로도 책임감 있는 AI 활용을 위한 가이드라인을 지속적으로 보강해 나갈 것입니다.