블로그 게시물에 따르면, OpenAI는 미국 대통령 선거와 관련 콘텐츠를 생성하던 이란의 영향력 작전과 연루된 다수의 ChatGPT 계정들을 차단했다고 밝혔다. 회사는 해당 작전이 AI로 생성된 기사나 소셜 미디어 게시물을 만들었으나, 대중에게 큰 영향을 미치지는 못한 것으로 분석했다.
이는 OpenAI가 국가와 연관된 주체(state-affiliated actors)들이 ChatGPT를 악용해 계정을 차단한 것이 이번이 처음은 아니다. 지난 5월에도 OpenAI는 여론 조작을 목적으로 ChatGPT를 활용한 다섯 건의 캠페인을 차단한 바 있다. 이러한 사례들은 국가 행위자들이 이전 선거 주기에 걸쳐 페이스북이나 트위터 같은 소셜 미디어 플랫폼을 이용하여 영향력을 행사하려 했던 상황을 연상시킨다. 이제는 유사한 그룹들(혹은 같은 그룹들)이 생성형 AI를 이용해 소셜 채널을 가짜 정보로 범람시키고 있다. OpenAI는 소셜 미디어 기업들과 마찬가지로, 이러한 시도가 포착될 때마다 연루된 계정들을 차단하는 '애물단지식 접근법(whack-a-mole approach)'을 채택하는 것으로 보인다.
OpenAI에 따르면, 이번 계정 클러스터에 대한 조사는 지난주 발표된 마이크로소프트 위협 인텔리전스(Microsoft Threat Intelligence) 보고서의 도움을 받았다. 해당 보고서는 이 그룹(OpenAI가 Storm-2035라고 명명)이 2020년부터 지속된 광범위한 미국 선거 개입 캠페인의 일부임을 밝혀냈다.
마이크로소프트는 Storm-2035가 뉴스를 모방한 여러 웹사이트를 운영하는 이란 네트워크이며, "미국 대통령 후보, LGBTQ 권리, 이스라엘-하마스 분쟁 등 여러 사안을 두고 정치 스펙트럼 양극단에 있는 미국 유권자 그룹을 대상으로 편향된 메시지를 전달하며 적극적으로 관여하고 있다"고 밝혔다. 이 작전의 목적은 이전의 사례에서도 입증되었듯이, 특정 정책을 홍보하는 것 자체보다는 이견과 사회적 갈등을 확산시키는 데 있다.
OpenAI는 Storm-2035가 "evenpolitics.com"과 같은 설득력 있는 도메인 이름을 가진 진보 성향과 보수 성향의 뉴스 매체로 위장한 다섯 개의 웹사이트를 식별했다. 이들은 ChatGPT를 활용하여 "X가 트럼프의 트윗을 검열한다"고 주장하는 등 여러 장문의 기사를 초안 작성하는 데 사용했다. 이는 일론 머스크의 플랫폼이 실제로 취한 조치가 아니며(오히려 머스크는 도널드 트럼프 전 대통령에게 X 플랫폼에서 더 활발하게 활동할 것을 장려하고 있다), 이와 같은 점을 지적했다.
소셜 미디어 영역에서는 OpenAI가 이 작전이 통제하는 수십 개의 X 계정과 하나의 인스타그램 계정을 파악했다. 회사는 ChatGPT가 다양한 정치적 논평을 재작성하는 데 사용된 뒤, 해당 플랫폼에 게시된 것으로 밝혔다. 이 트윗들 중 하나는 카말라 해리스(Kamala Harris)가 "증가된 이민 비용"을 기후 변화 탓으로 한다는 허위적이고 혼란스러운 주장을 펼치며 "#DumpKamala" 해시태그를 붙였다.
OpenAI는 Storm-2035가 작성한 기사들이 광범위하게 공유되었다는 증거는 발견되지 않았으며, 소셜 미디어 게시물 대부분은 '좋아요', 공유, 댓글 수가 매우 적거나 없었음을 지적했다. 이는 ChatGPT와 같은 AI 도구를 사용하여 빠르고 저렴하게 구축되는 이러한 작전들에서 흔하게 나타나는 현상이다. 선거가 다가오고 온라인상에서 정당 간의 대립이 심화됨에 따라, 앞으로도 이와 같은 종류의 공지가 더 많이 나올 것으로 예상된다.
[출처:] https://techcrunch.com/2024/08/16/openai-shuts-down-election-influence-operation-using-chatgpt