역사적인 대통령 토론회가 반려동물 섭취에 대한 논의로 가득했던 저녁, 테일러 스위프트는 화려한 선언으로 마침표를 찍었다. 미국 대중문화에서 가장 영향력 있는 인물 중 한 명인 그녀는, 이번 대통령 선거에서 카말라 해리스에게 투표할 계획임을 인스타그램을 통해 공표하며 토론회 밤의 분위기를 압도했다.
스위프트의 지지 표명은 그 파급력이 막대하다. 그녀는 단순히 링크를 공유하는 것만으로도 수만 명의 미국 유권자들을 등록하도록 이끌 수 있는 정치적 영향력을 지니고 있다. 그러나 더욱 주목할 만한 점은, 그녀가 이번 발표를 통해 인공지능(AI) 딥페이크 기술에 대한 우려를 표명했다는 사실이다.
스위프트는 인스타그램에 다음과 같이 글을 올렸다: "최근 '저의' 인공지능이 도널드 트럼프의 대선 출마를 거짓으로 지지하는 내용이 그의 사이트에 게시된 것을 알게 되었습니다. 이로 인해 인공지능과 허위 정보가 확산되는 위험에 대한 깊은 우려를 갖게 되었습니다. 저는 이번 선거에서 유권자로서 저의 실제 계획에 대해 매우 투명해야 한다는 결론을 내렸습니다. 허위 정보를 반박하는 가장 간단한 방법은 진실입니다."
[테일러 스위프트가 공유한 게시물 보기]
테일러 스위프트(@taylorswift)
자신이 실제 지지하지 않는 후보를 지지하는 것처럼 딥페이크된 경험을 언급하며 스위프트가 내놓은 성명은 개인적인 성찰이 돋보였다.
린다 블로스-바움(Linda Bloss-Baum) 미국 대학의 비즈니스 및 엔터테인먼트 프로그램 교수에 따르면, "그녀의 성명은 매우 잘 구성되고 설득력이 있지만, AI에 대한 내용은 다른 사람이 쉽게 내세우기 어려운 그녀 개인의 견해를 담고 있습니다."라고 전했다.
특히 스위프트와 같은 저명한 유명 인사들은 딥페이크 공격에 더욱 취약하다. 그들의 사진과 영상은 온라인에 충분히 존재하기 때문에, 극도로 정교한 AI 위조품을 제작하기 용이하기 때문이다.
지식재산 및 엔터테인먼트 변호사인 노아 다운스(Noah Downs)는 테크크런치(TechCrunch)를 통해 지난 8월, "제가 현재 주목하는 현상 중 하나는 지지 선언을 목적으로 한 전방위적인 AI 사칭자의 출현입니다."라고 지적했다. 이러한 가짜 AI 지지 선언은 너무나 만연해져서, 심지어 "샤크 탱크(Shark Tank)"와 같은 프로그램조차 시청자들에게 프로그램 투자자들을 사칭하는 사기 유형에 대해 경고하는 공공 서비스 광고(PSA)를 게재해야 할 지경에 이르렀다.
스위프트와 관련해서도, 이 아티스트는 비동의적 AI 생성 포르노그래피의 피해자가 되어왔으며, 이는 생성형 AI의 유해한 부산물에 법적 제재를 가하려는 입법가들 사이에서 논쟁거리가 되고 있다.
블로스-바움은 "슬프게도, 이름, 이미지, 초상권이 AI 제품으로 딥페이크된 일반인들이 끊임없이 피해를 겪습니다."라고 말했다.
그러나 스위프트 같은 유명인이 연루될 경우, 입법가들의 관심이 훨씬 증폭되는 경향이 있다.
그녀는 "엔터테인먼트 업계의 오랜 로비스트로서, 유명인들이 자신의 이야기를 들고 국회의사당(Capitol Hill)을 방문하면 훨씬 더 많은 관심을 받게 됨을 말씀드릴 수 있습니다."라고 언급했다.
딥페이크가 세계 정치에서 가장 중요한 권력을 좌우하는 선거 과정에 영향을 미치게 된다면, 그 위험도는 단순한 상업적 사기 수준을 훨씬 뛰어넘는다. 그러나 선거일이 다가옴에 따라, 미국은 유권자들이 그 어느 때보다 뉴스를 접하는 소셜 미디어 전반에 걸쳐 이러한 허위 정보의 확산을 막을 법적 능력이 거의 전무한 상황이다.
블로스-바움은 "안타깝게도, 기술의 급속한 확산으로 인해 AI가 이번 선거에 막대한 영향력을 행사하고 있습니다. (중략) 또한, '무방비'한 법적 태세가 문제입니다."
그녀는 (중략) (중략) "궁극적으로 볼 때, 입법을 통해 제도가 정립되는 것이 필수적입니다."