2024년 선거가 AI가 생성한 가짜 정보(disinformation)에 의해 영향을 받거나 심지어 결정될 것이라는 우려가 컸습니다. 실제로 일부 정보가 발견되긴 했지만, 그 규모는 예상보다 훨씬 적었습니다. 그러나 이 사실에 속아서는 안 됩니다. 허위 정보의 위협은 여전히 실재하며, 단지 일반 대중이 아직 그 표적이 아닐 뿐입니다.
적어도 그렇게 주장하는 사람이 오렌 에치오니(Oren Etzioni)입니다. 그는 오랜 경력을 지닌 AI 연구원이며, 비영리 단체인 TrueMedia를 통해 생성되는 가짜 정보의 흐름을 주시하고 있습니다. 그는 최근 TechCrunch와의 인터뷰에서 "더 적절한 단어를 찾기 어렵지만, 딥페이크의 종류는 매우 다양합니다"라고 말했습니다. "각각은 고유한 목적을 가지고 있으며, 우리가 인식하는 정도도 다릅니다. 다시 말씀드리자면, 여러분이 실제로 접하는 정보 하나에 대해서도, 여러분을 겨냥하지 않은 정보가 백 개, 어쩌면 수백 개가 존재합니다. 주류 언론에 나오는 것은 정말 빙산의 아주 작은 일부분에 불과합니다."
사실 대부분의 사람들(특히 미국인들)은 자신이 경험하는 정보가 다른 사람들도 똑같이 경험하고 있다고 생각하는 경향이 있습니다. 하지만 이는 여러 가지 이유로 사실이 아닙니다. 그러나 가짜 정보 캠페인의 경우, 비교적 정보에 정통한 인구, 쉽게 확보 가능한 사실적 정보, 그리고 (그에 반대되는 소음에도 불구하고) 대부분의 경우 신뢰하는 언론 매체가 존재하기 때문에 미국은 사실 방어하기 어려운 표적입니다.
우리는 딥페이크를 테일러 스위프트가 하지 않거나 말하지 않을 법한 비디오 같은 것으로 생각하는 경향이 있습니다. 하지만 정말 위험한 딥페이크는 유명인이나 정치인에 대한 것이 아니라, 쉽게 식별하거나 반박할 수 없는 상황 자체나 일반인에 관한 것들입니다.
그는 "사람들이 가장 이해하지 못하는 부분이 바로 다양성입니다. 저는 오늘 이스라엘 상공을 비행하는 이란 항공기 영상을 봤습니다"라고 지적했습니다. 이는 실제로 발생한 일이 아니지만, 현장에 있지 않은 사람 입장에서는 쉽게 허위임을 반박하기 어렵습니다. 그는 "당신이 그걸 모르는 건, 당신이 텔레그램 채널이나 특정 WhatsApp 그룹에 속해 있지 않기 때문일 수 있지만, 수백만 명은 이를 보고 있습니다"라고 덧붙였습니다.
TrueMedia는 이미지, 비디오, 오디오, 기타 매체에 대해 가짜인지 실제인지를 판별할 수 있는 무료 서비스(웹 및 API 제공)를 제공합니다. 이는 간단한 작업이 아니며 완전히 자동화될 수는 없지만, 이들은 프로세스에 재투입될 수 있는 '진실 기반 자료(ground truth)'를 꾸준히 구축하고 있습니다.
에치오니는 "저희의 주된 임무는 탐지입니다. [가짜 미디어 평가를 위한] 학술적 표준은 이미 오래전에 지나갔습니다."라며, "저희는 전 세계 사람들이 업로드한 자료를 바탕으로 훈련합니다. 다양한 공급업체에서 데이터를 가져와 학습하고, 이후 해당 자료가 무엇인지 정확히 식별하는 것이 목표입니다."
그는 덧붙였다. "이것이 우리가 현재 진행하는 작업의 본질입니다."
그는 이 과정을 설명하며, 이 같은 과정이 '학습'과 '탐지'를 거치는 것이라고 강조했다.
이러한 능력을 통해, 가짜 정보의 원본을 파악하고 진짜 정보를 필터링하는 것이 핵심이라고 했다.
그가 전하는 메시지는 이렇다. "우리는 사람들이 진실에 더 많이 접근하도록 돕고 싶습니다."
이 모든 것이 '신뢰'를 회복하려는 노력의 일환이라고 설명했다.
그는 이것이 지식의 권위와 신뢰를 다시 세우기 위함이라고 했다.
마지막으로, 그는 이것이 결국 '진실'을 위한 노력이라고 마무리했다.