고(故) 배우 로빈 윌리엄스의 딸 젤다 윌리엄스는 아버지의 팬들을 향해 안타까운 메시지를 전했습니다.
그녀는 월요일 인스타그램 스토리를 통해 "제발 아빠의 AI 영상을 더 보내지 말아 주세요. 제가 보고 싶어 하거나 이해할 거라고 생각하는 것도 멈춰주세요. 그렇지 않습니다. 그리고 그러지 않을 거예요."라고 썼습니다. 이어 "제대로인 분이라면, 아빠와 저, 그리고 모든 사람에게 이런 짓을 하는 것을 전면적으로 중단해 주세요. 이건 어리석을 뿐 아니라 시간과 에너지만을 낭비하는 일이며, 제 말을 믿으세요. 아빠가 원했을 일은 결코 아닙니다"라고 덧붙였습니다.
윌리엄스가 이 글을 올린 시점이 OpenAI의 영상 모델 Sora 2와 사용자에게 자신, 친구, 특정 만화 캐릭터의 매우 사실적인 딥페이크를 생성할 수 있는 기능을 부여한 소셜 앱 출시 직후였다는 점은 결코 우연이 아닐 수 있습니다.
심지어 사망한 사람들까지 포함되는데, 스튜던트 프레스 법률센터(Student Press Law Center)에 따르면 고인을 비방하는 것이 법적으로 처벌받기 어려운 영역이기 때문에 이들이 표적이 되고 있습니다.
Sora는 기본적으로 사용자가 본인이나 초상권 사용에 동의한 친구의 영상은 생성할 수 없도록 제한하고 있지만, 사망자에 대해서는 거의 제약 없이 영상을 만들 수 있습니다. 아직 초청을 통해서만 접근 가능한 이 앱에는 마틴 루터 킹 주니어, 프랭클린 딜라노 루스벨트, 리처드 닉슨 같은 역사적 인물들은 물론, 밥 로스, 존 레논, 알렉스 트레벡, 그리고 로빈 윌리엄스와 같은 사망한 유명인들의 영상이 범람하고 있습니다.
OpenAI가 사망한 인물의 영상을 생성하는 경계선을 어디에 두는지도 명확하지 않습니다. 예를 들어, TechCrunch의 테스트에 따르면 Sora 2는 2024년에 사망한 전직 대통령 지미 카터나 2009년에 사망한 마이클 잭슨의 영상은 생성하지 못했지만, 2014년에 사망한 로빈 윌리엄스의 초상을 활용한 영상은 만들 수 있었습니다. 또한 OpenAI의 '카메오(cameo)' 기능은 사용자가 본인에 대한 영상 속에서 어떻게 등장할지 지침을 설정할 수 있도록 하는 안전장치였지만, 고인들에게는 이러한 발언권이 없습니다. 만약 리처드 닉슨이 내가 그를 경찰 폐지 옹호자로 만든 딥페이크를 본다면 무덤 속에서 뒤집어질 것 같습니다.
(이미지 캡션: 딥페이크 이미지: 리처드 닉슨, 존 레논, 마틴 루터 킹 주니어, 로빈 윌리엄스의 딥페이크 / 출처: TechCrunch)
OpenAI는 사망한 인물의 딥페이크 제작 가능성에 대한 TechCrunch의 논평 요청에 응하지 않았습니다. 그러나 윌리엄스와 같은 사망한 유명인에 대한 딥페이크가 OpenAI가 용인하는 관행일 가능성도 있습니다.
법적 선례를 살펴보면, 회사가 사망자에 대한 명예훼손에 대해 책임을 지지 않을 가능성이 높다는 것을 알 수 있습니다.
윌리엄스는 "실제 인물들의 유산이 '이것은 어렴풋이 그 사람처럼 보이고 들리니 그걸로 충분하다'는 식으로 축소되고, 다른 사람들이 그들을 꼭두각시처럼 조종하는 끔찍한 틱톡 쓰레기를 쏟아낼 수 있게 되는 상황은 미칠 지경"이라고 분노를 표했습니다.
OpenAI의 비평가들은 이 회사가 그러한 문제에 대해 너무 느슨하고 방만한 접근 방식을 취한다고 비난합니다. 이것이 바로 '최근의 사건들'로 인해 논란이 되고 있습니다.
이러한 논란은 기술이 오용될 수 있음을 시사하며, 이 기술이 무분별하게 사용되는 사례들이 계속되고 있습니다.