틱톡의 모회사인 바이트댄스(ByteDance) 연구원들이 사상 가장 현실적인 딥페이크 영상을 생성할 수 있는 새로운 AI 시스템인 'OmniHuman-1'을 시연했습니다.
딥페이크 AI 기술은 이제 흔해진 상품입니다. 누군가를 사진에 합성하거나, 실제로 하지 않은 말을 하는 것처럼 사람을 영상에 구현해내는 앱들은 넘쳐납니다. 하지만 대부분의 딥페이크—특히 비디오 딥페이크—는 '불쾌한 골짜기(uncanny valley)'를 넘지 못합니다. AI가 어딘가 개입했다는 명백한 흔적이나 오류가 보통 존재합니다.
하지만 OmniHuman-1은 그렇지 않습니다. 적어도 바이트댄스 팀이 공개한 샘플들을 통해 본 한에서는 그렇습니다.
여기에 가상의 테일러 스위프트 공연 영상이 있습니다.
여기에 한 번도 열리지 않은 TED 강연 영상이 있습니다. 그리고 딥페이크된 아인슈타인의 강연 영상이 있습니다.
바이트댄스 연구원들에 따르면, OmniHuman-1은 단일 참조 이미지와 음성(말이나 목소리 같은)만으로도 임의의 길이의 클립을 생성할 수 있습니다. 출력 영상의 화면 비율을 조정할 수 있으며, 피사체의 '신체 비율'—즉, 가짜 영상에 신체 중 얼마나 많이 노출되는지—도 조절 가능합니다.
알려지지 않은 출처의 영상 콘텐츠 19,000시간을 학습한 OmniHuman-1은 기존 동영상을 편집하는 것까지 가능하며, 심지어 사람 사지의 움직임까지 수정할 수 있습니다. 결과물이 얼마나 설득력이 높을 수 있는지에 대해 정말 놀라움을 금할 수 없습니다.
물론 OmniHuman-1이 완벽한 것은 아닙니다. 바이트댄스 팀은 "품질이 낮은" 참조 이미지는 최상의 결과물을 만들지 못할 것이며, 시스템이 특정 포즈에서 어려움을 겪는 것으로 보인다고 밝혔습니다. 이 영상에서 와인잔을 들고 취하는 이상한 제스처에 주목할 필요가 있습니다.
그럼에도 불구하고, OmniHuman-1은 기존 딥페이크 기술들보다 압도적으로 앞서 있으며, 향후 기술의 방향을 제시할 수 있습니다. 비록 바이트댄스가 이 시스템을 공식 출시하지는 않았지만, AI 커뮤니티는 이러한 모델들을 역설계하는 데 오랜 시간이 걸리지 않는 경향이 있습니다.
이것이 내포하는 함의는 심각한 우려를 낳습니다.
작년에만 정치적 딥페이크가 전 세계적으로 급속하게 확산되었습니다. 대만 선거 당일, 중국 공산당과 연계된 단체가 한 정치인이 친중 후보에게 지지를 표명하는 AI 생성 오디오를 게시했습니다. 몰도바에서는 딥페이크 영상으로 국가 대통령 마야 산두(Maia Sandu)가 사임하는 장면이 연출되었습니다. 남아프리카 공화국에서는 래퍼 에미넴(Eminem)이 남아공 야당을 지지하는 딥페이크가 국가 선거를 앞두고 유포된 바 있습니다.
딥페이크는 금융 범죄를 저지르는 데에도 점점 더 많이 활용되고 있습니다.
소비자들은 사기성 투자 기회를 제공하는 유명인 딥페이크에 속고 있으며, 기업들은 딥페이크 사칭범들에게 수백만 달러가 편취당하고 있습니다.에 따르면, AI 생성 콘텐츠는 2023년에 120억 달러 이상의 사기 손실에 기여했으며, 2027년까지 미국에서 400억 달러에 달할 수 것으로 추정됩니다.
지난 2월, AI 커뮤니티의 수백 명은 엄격한 딥페이크 규제를 요구하는 공개 서한에 서명했습니다. 미국 연방 차원에서 딥페이크를 범죄화하는 법률이 없는 상황에서, 10개 이상의 주가 AI를 이용한 사칭 행위에 대한 법규를 제정했습니다. 현재 보류 상태인 캘리포니아 법은 딥페이크 게시물의 제거를 명령하거나 잠재적으로 금전적 처벌을 부과할 수 있도록 판사에게 권한을 부여하는 최초의 법안이 될 것입니다.
불행하게도, 딥페이크는 탐지가 매우 어렵습니다. 일부 소셜 네트워크와 검색 엔진이 확산을 제한하기 위한 조치를 취하고 있지만, 온라인상 딥페이크 콘텐츠의 양은 여전히 경고할 정도로 빠르게 증가하고 있습니다.
2024년 5월, 신원 확인 기업인 Jumio가 실시한 조사에 따르면, 응답자의 60%가 지난 1년 동안 딥페이크를 접했다고 답했습니다. 설문조사 응답자의 72%는 일상생활에서 딥페이크에 속을까 봐 우려한다고 답했으며, 대다수는 확산되는 AI 생성 가짜 콘텐츠에 대처하기 위한 입법을 지지했습니다.
[TechCrunch에서 AI 전문 뉴스레터를 받아보세요! 이곳에 가입하여 매주 수요일에 받은 편지함으로 받아보세요.]
[출처:] https://techcrunch.com/2025/02/04/deepfake-videos-are-getting-shockingly-good