가짜 정보(disinformation)는 주로 공개적으로 이용 가능한 AI 도구 덕분에 심각한 속도로 확산되고 있습니다. 최근 설문조사 결과에 따르면 응답자의 85%가 온라인상의 가짜 정보에 대해 우려한다고 응답했으며, 세계 경제 포럼(World Economic Forum) 역시 AI를 통한 가짜 정보를 주요 글로벌 위험 요소로 지정했습니다.
올해 발생한 주요 가짜 정보 캠페인 사례로는, 미국 연방 선거를 겨냥한 X의 봇 네트워크 운영, 특정 거주민들에게 투표를 포기하도록 선동하는 조 바이든 대통령의 음성 딥페이크(voicemail deepfake) 등이 있습니다. 해외에서는 남아시아 전역의 후보자들이 가짜 영상, 이미지, 뉴스 기사 등을 웹상에 범람시키기도 했습니다. 특히 런던 시장 사디크 칸(Sadiq Khan)의 딥페이크 영상은 친팔레스타인 행진에서 폭력을 선동하기도 했습니다.
그렇다면 우리는 무엇을 할 수 있을까요?
메타(Meta) 감시 위원회(Oversight Board) 공동 위원인 파멜라 산 마르틴(Pamela San Martín)은 AI가 가짜 정보를 생성하는 역할을 할 뿐만 아니라, 이를 퇴치하는 데에도 도움을 줄 수 있다고 주장합니다. 2020년에 설립된 이 위원회는 메타의 콘텐츠 정책 관련 민원을 검토하고, 콘텐츠 정책에 대한 권고안을 제시하는 역할을 합니다.
그러나 이의 근본적인 한계도 존재합니다. 그녀는 기술의 급격한 발전 속도와 맞물려, 기술적 해결책만으로는 충분하지 않다는 지적도 나왔습니다.
이러한 맥락에서, 기술 발전의 속도에 맞춰 제도적 대응 시스템을 구축하는 것이 더욱 중요합니다.
이러한 필요성으로 인해, 기술적 해결책과 법적 제도 사이의 간극을 메우는 노력이 필요한 상황입니다.
한편, 법적 제도적 기반의 미비점도 지적되고 있습니다.
이러한 문제점을 해결하기 위해, 관련 국가들의 공조와 다각적인 접근이 요구되는 상황입니다.
[출처:] https://techcrunch.com/2024/11/01/what-can-we-do-about-the-spread-of-ai-generated-disinformation