연방 판사가 수요일에 캘리포니아의 새로운 AI 관련 법안 중 하나를 기각했는데, 이 법은 거빈 뉴섬(Gavin Newsom) 주지사가 서명한 지 2주도 채 되지 않은 시점이었다. 뉴섬 주지사는 AB 2839에 서명한 직후, 이 법이 자신이 재게시한 카말라 해리스(Kamala Harris) 부통령의 AI 딥페이크 영상을 일론 머스크(Elon Musk)가 삭제하도록 강제하는 데 사용될 수 있다고 언급하며 논란을 불러일으켰다(이는 두 사람 사이에 사소한 온라인 논쟁을 촉발했다). 그러나 캘리포니아 법원은 주 정부가 선거 관련 딥페이크를 삭제하도록 개인을 강제할 수는 없다고 판결했다. 적어도 현시점에서는 그렇다.
AB 2839는 소셜 미디어에서 AI 딥페이크를 유포하는 주체들을 목표로 하며, 특히 해당 게시물이 정치적 후보와 유사하고 게시자가 이를 유권자를 오도할 수 있는 가짜임을 인지한 경우에 해당한다. 이 법의 특이점은 AI 딥페이크가 게재되는 플랫폼 자체를 겨냥하는 것이 아니라, 이를 확산시키는 사람들을 겨냥한다는 점이다. AB 2839는 캘리포니아 판사들에게 딥페이크 게시자에게 콘텐츠 삭제를 명령하거나, 경우에 따라 금전적 처벌을 부과할 권한을 부여한다.
예상대로, 해당 AI 딥페이크의 원본 게시자이자 X 사용자인 크리스토퍼 콜스(Christopher Kohls)는 이 법이 서명된 지 단 하루 만에 캘리포니아의 새로운 법을 위헌이라며 막기 위한 소송을 제기했다. 콜스의 변호사는 소장에서 카말라 해리스의 딥페이크가 수정(satire)에 해당하므로 수정헌법(First Amendment)으로 보호되어야 한다고 주장했다.
수요일, 존 멘데즈(John Mendez) 미국 지지 판사는 콜스 측의 의견을 지지했다. 멘데즈 판사는 캘리포니아 법무장관이 AB 2839에 해당하는 오디오 메시지를 제외하고는 콜스나 다른 누구에게도 이 새로운 법을 집행하지 못하도록 임시 금지 명령(preliminary injunction)을 내렸다.
판사는 자신의 결정문에서 다음과 같이 지적했다. "인터넷상에 임의의 개인이 게재할 수 있는 거의 모든 디지털 변조 콘텐츠는 유해하다고 간주될 수 있습니다. 예를 들어, 유권자 투표율에 대한 AI가 생성한 근사치 수치는 이 법에 따라 선거 결과에 대한 신뢰를 합리적으로 훼손하는 허위 콘텐츠로 간주될 수 있습니다. 반면, 다양한 사람들에게 제시될 때 '유해한' 묘사들 중 상당수는 결국 선거 결과에 영향을 미치거나 신뢰를 훼손하지 못할 수도 있습니다. 원고가 설득력 있게 지적했듯이, AB 2839는 '다양한 주관적 용어와 어색하게 문구화된 범죄의 의도(mens rea)'에 의존하고 있으며, 이는 막대한 양의 정치적 그리고 헌법적으로 보호되는 발언을 포함하게 만드는 결과를 초래합니다."
"디지털로 조작된 미디어 환경에 대한 우려는 정당할 수 있으나, 이러한 우려가 입법가들에게 수정헌법이 보호하는 비판, 패러디, 풍자의 오랜 전통을 무너뜨리는 무제한의 권한을 부여하는 것은 아닙니다. YouTube 영상, Facebook 게시물, X 트윗은 오늘날의 신문 광고나 정치 만화와 같으며, 수정헌법은 이러한 비평이 어떤 새로운 매체를 이용하든 개인이 발언할 권리를 보호합니다. 사생활 침해(privacy torts), 저작권 침해, 명예훼손과 같은 기존의 법적 근거들은 이미 풍자 작가나 기회주의자들이 인터넷에 퍼뜨리는 인위적으로 변형된 묘사로 인해 명예가 훼손될 수 있는 공인이나 사적인 개인들에게 구제책을 제공합니다."
판사는 "기록에 따르면 캘리포니아주가 선거 무결성을 보존하고 인위적으로 조작된 콘텐츠에 대처하는 데 강한 이해관계를 갖고 있음은 분명합니다. 그러나 캘리포니아주가 가진 이러한 이해관계와 주가 겪는 어려움은, 걸려있는 수정헌법 제1조의 가치와 그 심각성, 그리고 원고 및 유사한 상황에 있는 다른 콘텐츠 창작자들이 발언의 자유가 위축되는 상황에서 겪는 지속적인 헌법 위반에 비추어 볼 때 미미합니다."라고 판결했다.
결과적으로 판사는 해당 법이 너무 광범위하게 작성되어 있어 주 정부 당국이 허용되는 발언의 범위를 넘어서 과도하게 권한을 행사할 위험이 있다고 판시했다.
이번 판결이 예비적 금지 명령(preliminary injunction)이므로, 이 캘리포니아 법이 최종적으로 막힐지 여부는 두고 봐야 하지만, 어쨌든 다음 달 선거와 관련하여 법적 공백이 생겼다는 점은 분명하다.
그러나 이는 캘리포니아 주에서 활동하는 수많은 정치 주체들에게는 중요한 선례가 될 것이며, 이 법은 주정부와 그를 지원하는 모든 주체들에게 심각한 영향을 미치고 있다.