FCC는 햄프셔 주 예비선거 기간 동안 음성 클로닝 기술을 이용해 바이든 대통령을 사칭한 사기범에게 600만 달러의 벌금을 부과할 것을 제안했습니다. 이번 사건은 AI 자체보다는 로보콜에 초점이 맞춰져 있지만, FCC는 이를 다른 잠재적인 첨단 기술 사기범들에게 경고 메시지를 보내는 수단으로 사용하고 있습니다.
기억하셨겠지만, 지난 1월 뉴햄프셔 주의 많은 유권자들이 다가오는 예비선거에 투표하지 말라는 내용의 대통령 메시지라고 주장하는 전화를 받았습니다. 물론 이 통화는 가짜였으며, 지난 몇 년 동안 널리 사용 가능하게 된 기술을 이용해 만든 바이든 대통령의 음성 복제본이었습니다.
과거부터 가짜 목소리를 만드는 것이 가능했지만, 생성형 AI 플랫폼의 등장으로 그 과정이 매우 쉬워졌습니다. 수십 개의 서비스들이 제한이나 감독 없이 복제된 음성을 제공하고 있습니다. 온라인에서 쉽게 찾을 수 있는 몇 분 분량의 연설만 있다면, 누구나 쉽게 자신만의 바이든 목소리를 제작할 수 있습니다.
FCC와 여러 법 집행 기관들이 명확히 밝힌 것은, 이러한 가짜 바이든 목소리를 이미 불법인 로보콜을 통해 이용해 유권자를 억압하는 용도로 사용하는 것은 금지라는 점입니다.
FCC 집행국 국장인 로야안 에갈(Loyaan Egal)은 보도 자료를 통해 “우리는 나쁜 행위자들이 생성형 AI 기술을 오용하여 선거에 개입하거나, 소비자에게 사기를 치거나, 민감한 데이터를 위협하는 데 미국 통신망을 사용하는 것을 방지하기 위해 신속하고 단호하게 조치할 것”이라고 밝혔습니다.
주요 가해자는 ‘정치 컨설턴트’ 스티브 크레이머(Steve Kramer)였으나, 그는 부실한 라이프 코퍼레이션(Life Corporation)(과거 불법 로보콜 혐의로 기소된 바 있음)의 도움을 받았고, 링고(Lingo)라는 통신사 및 이 회사의 여러 명칭(Americatel, BullsEyeComm, Clear Choice Communications, Excel Telecommunications, Impact Telecom, Matrix Business Technologies, Startec Global Communications, Trinsic Communications, VarTec Telecom 등)의 통화 서비스를 이용했습니다.
크레이머는 여러 규정을 ‘명백하게’ 위반한 것으로 보이지만, 현재까지 그나 그의 협력자들에 대한 형사 기소는 이루어지지 않았습니다. 이는 FCC의 권한적 한계입니다. FCC는 전문가 기관으로서 책임을 입증하기 위해 지역 또는 연방 법 집행 기관과 협력해야 합니다.
600만 달러의 벌금은 일종의 상한선 또는 목표치에 가깝습니다. FTC 등 다른 사례들에서도 보듯이, 실제로 지불되는 금액은 여러 이유로 훨씬 적을 때가 많지만, 그럼에도 불구하고 상당한 규모입니다. 다음 단계는 크레이머가 혐의에 응답하는 것이지만, 링고 혹은 이들이 이번에 적발된 후 부르는 어떤 명칭이든 간에 별도의 조치가 취해지고 있으며, 이는 벌금 부과나 면허 박탈로 이어질 수 있습니다.
AI가 생성한 음성은 위 사례가 이러한 음성이 ‘인공적’으로 분류되는지에 대한 의문을 제기한 후, 2월에 로보콜에 사용되는 것이 공식적으로 불법으로 선언되었습니다.
FCC, AI 음성 로보콜 사용을 불법으로 공식 선언
AI 뉴스레터를 시작합니다! 6월 5일 받은 편지함으로 수신하려면 여기에서 가입하세요.
[출처:] https://techcrunch.com/2024/05/23/6m-fine-for-robocaller-who-used-ai-to-clone-bidens-voice