캘리포니아주의 최신 법률에 따라 선거를 앞두고 유권자들을 오도하는 AI 딥페이크를 게시하거나 재게시하는 소셜 미디어 사용자들은 법적 처벌을 받을 수 있게 되었습니다. 개빈 뉴섬 주지사는 자신이 화요일에 서명한 AB 2839 법안이 즉시 발효되었으며, 이 법이 일론 머스크를 포함하여 허위 콘텐츠를 유포하는 사람들의 리트윗에도 적용될 수 있다고 시사했습니다.
뉴섬 주지사는 트위터를 통해 "저는 캘리포니아주에서 이러한 행위를 불법으로 만드는 법안에 서명했습니다"라며, 올해 초 머스크가 재게시했던, 카말라 해리스가 자신을 무능한 후보이자 '다양성 채용(diversity hire)'이라고 부른 것처럼 보이게 만든 AI 딥페이크를 언급했습니다 (실제 사실과는 다릅니다). 그는 같은 트윗에서 "이제는 물질적으로 기만적인 내용(딥페이크 포함)이 담긴 광고나 기타 선거 관련 커뮤니케이션을 인지하고 배포하는 것이 불가능해졌다"고 덧붙였습니다.
캘리포니아의 새 법은 AI 딥페이크의 '배포자'를 겨냥하며, 특히 해당 게시물이 캘리포니아 투표용지의 후보자와 유사하고 게시자가 이것이 오해를 야기하는 가짜임을 알고 있을 때 적용됩니다. AB 2839의 특징은 AI 딥페이크의 '제작자'나 그것이 올라온 '플랫폼'이 아니라, 이를 악의적으로 유포하는 '사람'을 대상으로 한다는 점입니다. 이제 소셜 미디어에서 AI 딥페이크를 목격한 사람이라면 누구나 금지 명령 구제(injunctive relief)를 신청할 수 있으며, 이는 판사가 게시자에게 삭제를 명령하거나 해당 게시자에게 금전적 손해 배상을 명할 수 있음을 의미합니다.
이 법은 2024년 대통령 선거를 앞두고 미국에서 가장 강력한 선거 관련 AI 딥페이크 규제법 중 하나입니다.
AB 2839 초안 작업에 기여한 캘리포니아 기술 및 민주주의 이니셔티브(CITED)는 테크크런치와의 인터뷰에서, 이 법이 머스크뿐 아니라 선거 관련 AI 딥페이크를 악의적으로 게시하거나 재게시하는 모든 소셜 미디어 사용자에게 영향을 미칠 수 있다고 밝혔습니다. 여기서 '악의(Malice)'란 게시자가 해당 내용이 허위라는 사실을 알고 있으며 유권자들에게 혼란을 야기할 것임을 의미합니다.
CITED의 정책 이사 레오라 게르셴존은 테크크런치 인터뷰에서 "AB 2839은 콘텐츠가 법안의 범위에 해당할 경우 콘텐츠 제작자 또는 배포자를 겨냥한다"며, "이는 허위임을 알고, 사실을 무모하게 무시하면서, 선거에 영향을 미칠 가능성이 있는 물질적 기만 콘텐츠를 의미한다"고 설명했습니다.
머스크가 딥페이크를 재게시하는 행위에 대해 법적 책임을 물을 수 있는지 묻자, 뉴섬 주지사는 가능성을 배제하지 않았습니다.
뉴섬 주지사는 목요일 기자회견에서 "머스크 씨는 농담의 핵심을 놓친 것 같습니다"라며, "패러디는 캘리포니아에서 여전히 활발하지만, 딥페이크와 선거 조작은 민주주의에 해롭습니다"라고 말했습니다.
구체적으로 이 법은 TV, 라디오, 전화, 문자 또는 '인터넷을 통해 배포되는' 모든 매체에서 선거 관련 AI 딥페이크를 금지합니다. 이 법은 다른 법률이 초점을 맞춰왔던 정치 캠페인 광고에 한정되지 않고, 일반 개인의 게시물까지 포함합니다. AB 2839는 캘리포니아 선거일 기준 120일 전부터 60일 후까지의 기간 동안 소셜 미디어에서 정치 후보자에 대해 게시할 수 있는 내용과 그렇지 않은 내용에 대한 더 엄격한 규칙을 적용합니다.
게르셴존은 "실제 목표는 손해 배상이나 금지 명령 구제가 아닙니다"라며, "애초에 사람들이 그러지 못하게 하는 것입니다. 그것이 가장 좋은 결과일 것입니다... 즉, 이러한 딥페이크가 우리 선거에 부정확한 영향을 미치는 것을 막는 것입니다"라고 말했습니다.
이 법은 캘리포니아의 주 및 지역 선거 후보자는 물론, 카말라 해리스나 도널드 트럼프와 같이 캘리포니아 선거권에 오를 연방 후보자들에게도 적용됩니다. 다만, AI 딥페이크에 디지털로 변조되었다는 명확한 면책 고지(disclaimer)가 있는 경우에는 AB 2839가 적용되지 않습니다.
한편, 머스크는 이미 캘리포니아의 새 법 집행 의지를 시험하는 모습을 보이고 있습니다. 머스크는 화요일에 뉴섬 주지사가 언급했던 카말라 해리스를 닮은 딥페이크를 게시했고, 이는 700만 회 이상의 노출을 기록했습니다.
한편, X(구 트위터)는 콘텐츠 검증 강화에 힘쓰고 있으며, 법적 대응에 대한 우려도 제기되고 있습니다.