연초에는 생성형 AI가 선전(propaganda)과 허위 정보(disinformation)를 유포하여 글로벌 선거에 개입할 수 있다는 광범위한 우려가 제기되었습니다. 그러나 메타는 연말에 이르러 적어도 자사 플랫폼에서는 그러한 두려움이 현실화되지 않았다고 주장하며, 해당 기술이 Facebook, Instagram, Threads 전반에 걸쳐 제한적인 영향을 미쳤다고 밝혔습니다.
회사는 자사의 조사 결과가 미국, 방글라데시, 인도네시아, 인도, 파키스탄, EU 의회, 프랑스, 영국, 남아프리카공화국, 멕시코, 브라질 등 주요 선거와 관련된 콘텐츠를 기반으로 한다고 설명했습니다.
메타는 블로그 게시물을 통해 "AI를 이용한 방식이 확인되거나 의심되는 사례가 일부 있었지만, 그 양은 적었으며, 기존 정책과 프로세스만으로도 생성형 AI 콘텐츠로 인한 위험을 충분히 낮출 수 있었다"고 언급했습니다. 또한 "위에 명시된 주요 선거 기간 동안, 선거, 정치 및 사회적 이슈와 관련된 AI 콘텐츠의 평가는 검증된 모든 허위 정보의 1% 미만을 차지했습니다"라고 덧붙였습니다.
한편, 메타는 선거 관련 딥페이크 제작을 막기 위해 선거일 직전 한 달 동안 Imagine AI 이미지 생성기가 트럼프(Trump) 예비 대통령, 밴스(Vance) 예비 부통령, 해리스(Harris) 부통령, 월즈(Walz) 주지사, 바이든(Biden) 대통령의 이미지를 생성하려는 요청 59만 건을 거부했다고 공개했습니다.
나아가 회사는 선전이나 허위 정보를 확산시키려 하는 계정들의 조직적 네트워크 역시 "생성형 AI를 사용했음에도 불구하고 점진적인 생산성 및 콘텐츠 생성상의 개선만을 이루었다"는 사실을 밝혀냈습니다.
메타는 AI 사용이 플랫폼의 추적 능력을 저해하지 않은 이유로, AI로 제작되었는지 여부와 관계없이 해당 계정들이 게시하는 콘텐츠가 아닌 '행동'에 초점을 맞추고 있기 때문이라고 설명했습니다.
이 기술 거대 기업은 또한 외국 세력의 간섭을 방지하기 위해 전 세계적으로 약 20개의 새로운 비밀 영향력 작전을 차단했다고 공개했습니다. 메타는 차단된 네트워크 대다수가 진정한 청중을 보유하지 않았으며, 일부는 실제보다 더 인기가 있어 보이게 하려고 가짜 좋아요와 팔로워를 활용했다고 덧붙였습니다.
한편, 메타는 다른 플랫폼의 문제점을 지적하며, 러시아 기반 영향력 작전과 연계된 미국 선거 관련 허위 영상이 종종 X와 텔레그램에서 게시되는 경우가 많았다고 언급했습니다.
메타는 "이처럼 놀라운 한 해 동안 배운 점들을 되돌아보며, 정책을 지속적으로 검토하고 향후 몇 달 동안 변경 사항을 발표할 것"이라고 마무리했습니다.