상원 소수 리더인 척 슈머(Chuck Schumer)의 딥페이크 영상이 공유되면서, 마치 민주당이 16일째 지속된 정부 셧다운을 축하하는 것처럼 오인하게 만들었습니다.
이 딥페이크 영상에서 AI가 생성한 슈머의 음성은 "모든 날이 우리에게 더 나아지고 있다(every day gets better for us)"는 구절을 반복하는데, 이는 퍼치볼 뉴스(Punchbowl News) 기사에서 문맥과 다르게 발췌된 내용입니다. 원래 기사에서 슈머는 민주당의 의료보험 중심 셧다운 전략에 대해 논하며, 공화당이 펼치는 위협과 "속임수(bamboozling)" 전술에 결코 물러서지 않을 것이라고 언급했습니다.
현재 셧다운이 발생한 원인은 민주당과 공화당이 10월 이후 정부 운영 자금을 지원하는 법안에 합의하지 못했기 때문입니다. 민주당은 수백만 미국인에게 건강 보험료를 저렴하게 유지할 수 있는 세금 공제(tax credits)를 지키고, 트럼프 행정부 시절의 메디케어 감액을 되돌리고, 정부 보건 기관의 예산 삭감을 막으려 노력하고 있습니다.
이 영상은 지난 금요일 상원 공화당의 X 계정에 게시되었습니다. X 정책에 따르면, 해당 플랫폼은 "피해를 입힐 가능성이 있는 합성 또는 조작된 미디어를 기만적으로 공유하는 행위"를 금지하고 있습니다. 유해 콘텐츠에는 "사람들을 오도할 수 있거나" "공공 문제에 심각한 혼란을 야기할 수 있는" 미디어 자료가 포함됩니다.
X가 취할 수 있는 조치에는 콘텐츠 삭제, 경고 라벨 부착, 또는 가시성 축소 등이 포함됩니다. 다만, 현재 시점까지 X는 이 딥페이크를 삭제하거나 경고 라벨을 붙이지 않았으며, 비록 해당 영상 자체에 AI 생성임을 알리는 워터마크는 포함되어 있습니다.
슈머 영상이 X가 정치인 딥페이크를 플랫폼에 남겨둔 사례가 최초는 아닙니다. 2024년 말에는 X 소유주 일론 머스크(Elon Musk)가 선거를 앞두고 전 부통령인 카말라 해리스(Kamala Harris)의 조작된 영상을 공유하면서 유권자를 오도할 수 있다는 논쟁을 촉발한 바 있습니다.
테크크런치(TechCrunch)는 이 사안에 대해 X에 논평을 요청했습니다.
현재까지 28개 주에서 캠페인 및 선거 관련 정치인 딥페이크를 금지하는 법률이 제정되었지만, 대부분은 명확한 고지(disclosure)가 이루어진 경우에는 전면적인 금지 조치는 아닙니다. 다만, 캘리포니아, 미네소타, 텍사스 주는 선거에 영향을 미치거나 유권자를 기만하고 후보자에게 해를 끼칠 의도로 제작된 딥페이크는 금지하고 있습니다.
가장 최근의 이 게시물은 도널드 트럼프 대통령이 트루스 소셜(Truth Social)에 슈머와 하원 소수 리더인 하킴 제프리즈(Hakeem Jeffries)가 이민 및 유권자 사기에 대해 거짓 진술을 하는 딥페이크를 게시한 지 몇 주 만에 나온 것입니다.
정직성 및 윤리 부족에 대한 비판에 대응하여, 전국공화당 상원위원회(National Republican Senatorial Committee)의 커뮤니케이션 책임자 조안나 로드리게스(Joanna Rodriguez)는 다음과 같이 밝혔습니다. "AI는 이미 여기에 왔으며 사라지지 않을 것입니다. 적응하여 승리할지, 아니면 허황된 것을 움켜쥐고 패배할지 결정할 것입니다."