식품 배달 앱 출신 내부 고발자를 자처했던 레딧 사용자가 사기꾼으로 밝혀졌습니다. 해당 사용자는 자신이 일하던 회사가 운전자와 이용자를 착취하고 있다는 내용의 게시물을 올렸습니다.
이른바 내부 고발자는 "여러분은 늘 알고리즘이 자신들에게 불리하게 조작되었다고 의심하지만, 실제 현실은 음모론보다 훨씬 더 우울합니다"라고 주장했습니다.
그는 본인이 술에 취해 공공 와이파이를 사용하기 위해 도서관에 있었다고 언급하며, 그곳에서 회사가 법적 허점을 이용하여 운전자들의 팁과 임금을 아무런 제재 없이 훔치고 있다는 장문의 게시글을 작성했습니다.
이 주장은 안타깝게도 신빙성이 있었습니다. 실제로 DoorDash는 운전자들로부터 팁을 횡령했다는 혐의로 소송을 당했고, 이는 1,675만 달러 규모의 합의금으로 이어졌습니다. 그러나 이번 경우에는 게시자가 지어낸 이야기였습니다.
사람들은 인터넷에서 끊임없이 거짓말을 합니다. 하지만 이처럼 글이 레딧 메인 페이지를 장악하고, 87,000개 이상의 업보트를 얻으며, X와 같은 다른 플랫폼으로 크로스 포스팅되어 208,000개의 '좋아요'와 3,680만 회의 노출(impression)을 기록하는 사례는 결코 드문 일이 아닙니다.
이 기사의 작성자인 케이시 뉴턴(Casey Newton) 기자는 해당 레딧 게시자에게 연락했고, 그 게시자는 이후 시그널(Signal)로 그에게 접촉했습니다. 레딧 사용자는 자신이 우버이츠(UberEats) 직원인 것처럼 보이는 사원증 사진과, 회사가 개별 운전자의 "절박도 점수(desperation score)"를 결정하는 데 인공지능을 활용하는 방식이 상세히 담긴 18페이지 분량의 "내부 문서"를 공유했습니다. 하지만 뉴턴이 이 내부 고발자의 주장이 진실인지 확인하는 과정에서, 자신이 AI가 꾸민 허구에 속고 있음을 깨닫게 됩니다.
뉴턴은 다음과 같이 썼습니다. "지금까지의 커리어에서 대부분의 시간 동안, 내부 고발자가 제게 제공한 문서는 상당한 신뢰성을 가졌을 것입니다. 단순히 시장 역학에 대한 상세하고 18페이지짜리 기술 문서를 꾸미는 데 누가 시간을 들일 수 있겠습니까? 기자를 골탕 먹이려고 이런 노력을 할 사람이 누가 있겠습니까? 심지어 가짜 사원증까지 만들 노력을요?"
기자들을 속이려는 악의적인 행위자들은 항상 존재했지만, AI 도구의 만연함은 사실 확인 과정을 더욱 엄격하게 만들고 있습니다.
생성형 AI 모델은 이미지나 비디오가 합성된 것인지 판별하는 데 종종 실패하여, 콘텐츠가 실제인지 가짜인지 판단하기 어렵게 만듭니다. 이 사건에서 뉴턴은 Google의 Gemini를 활용하여 해당 이미지가 AI 도구로 생성되었음을 확인할 수 있었습니다. 이는 Google의 SynthID 워터마크 덕분인데, 이 워터마크는 자르기, 압축, 필터링 등 이미지를 조작하려는 모든 시도에 견딜 수 있습니다.
AI 생성 텍스트 탐지 도구를 만드는 회사인 Max Spero는 실제 콘텐츠와 가짜 콘텐츠를 구별하는 문제에 직접적으로 관여하고 있습니다.
Spero는 TechCrunch에 "인터넷상의 AI 관련 쓰레기(AI slop)는 훨씬 더 나빠졌으며, 이는 대규모 언어 모델(LLM)의 사용 증가 때문일 뿐만 아니라 다른 요인들 때문이기도 합니다"라고 밝혔습니다. "수백만 달러의 매출을 올리는 회사들은 레딧에서 '유기적 참여(organic engagement)'를 구매할 수 있습니다. 실제로는 브랜드 이름을 언급하는 AI 생성 게시물로 레딧에서 바이럴을 만들려 시도하는 것일 뿐입니다."
Pangram과 같은 도구가 텍스트가 AI 생성된 것인지 판별하는 데 도움을 줄 수는 있지만, 특히 멀티미디어 콘텐츠의 경우 이러한 도구들이 항상 신뢰할 수 있는 것은 아닙니다. 또한, 만약 합성 게시물이 가짜임이 밝혀지더라도 이미 진실이라 믿고 바이럴화된 후일 수 있습니다. 따라서 현재 우리는 모든 것을 의심하며 소셜 미디어를 탐정처럼 스크롤하는 상황에 처해 있습니다.
예시: 제가 편집자에게 "이번 주말에 레딧에 올라온 '바이럴 AI 배달 음식 사기'에 대해 글을 쓰고 싶다"고 말했을 때, 그녀는 제가 무언가 완전히 다른 것에 대해 이야기하는 줄 알았습니다. 네, 실제로 이번 주말에는 '레딧의 바이럴 AI 배달 음식 사기'가 하나 이상 존재했습니다.