지난주 전 세계 레딧 이용자들은 한 연구팀이 'Change My View' 서브레딧에 AI 기반의 인간을 흉내 내는 봇 군집을 살포했다는 사실을 접하고 경악했습니다.
이 대규모 실험은 AI가 얼마나 설득력 있는지를 탐구하기 위해 설계되었습니다.
해당 봇들은 학대 생존자나 반(反)블랙 라이브스 매터 지지자 같은 논쟁적인 페르소나를 채택하여 1,700개가 넘는 댓글을 게시했습니다.
레딧에게 이 사건은 작은 악몽이었습니다. 레딧의 브랜드 가치는 '진정성'과 연결되어 있습니다. 이곳은 실제 사람들이 모여 진솔한 의견을 공유하는 장소이기 때문입니다. 만약 이 인간 중심의 생태계가 AI 생성 콘텐츠의 범람으로 오염되거나, 사용자들이 자신이 실제 인간으로부터 정보를 얻고 있는지 신뢰할 수 없는 장소로 전락한다면, 이는 레딧의 핵심 정체성을 위협하는 것을 넘어설 수 있습니다. 더욱이 회사가 현재 콘텐츠를 OpenAI에 판매하여 학습에 활용하고 있다는 점에서, 레딧의 존립 자체가 위협받을 수도 있습니다.
회사는 이 "부적절하고 매우 비윤리적인 실험"을 규탄하며 주관 기관에 민원을 제기했습니다. 그러나 이 실험은 과학적 목적이든 정치적 조작 목적이든, 레딧에서 인간인 척 위장하는 생성형 AI 봇의 수많은 사례 중 단지 하나일 가능성이 높습니다.
회사는 사용자들을 봇의 조작으로부터 보호하고 "레딧을 인간답게 유지하기" 위해 은밀하게 다음 조치를 시사했습니다. 이 조치는 레딧을 다른 목적으로 이용해 온 사용자들, 즉 익명성을 중시하는 사용자들에게는 반발을 살 수 있는 내용입니다.
월요일에 레딧 CEO 스티브 허프만은 레딧이 사용자들의 '인간성'을 인증하기 위해 "다양한 제3자 서비스"와 협력하기 시작할 것이라는 게시글을 공유했습니다. 이는 역사적으로 계정 생성 시 거의 개인 정보를 요구하지 않았던 플랫폼에게 중대한 변화를 의미합니다.
허프만은 "레딧을 인간답게 유지하고 진화하는 규제 요구 사항을 충족하기 위해, 저희는 조금 더 많은 정보가 필요할 것입니다."라고 썼습니다. "구체적으로, 여러분이 인간인지 여부, 그리고 일부 지역에서는 성인인지 여부를 알아야 합니다. 하지만 우리는 여러분의 이름이나 여러분이 누구인지는 결코 알 필요가 없습니다."
(소셜 미디어 기업들은 이미 적어도 9개 주와 영국에서 아동 보호를 위한 연령 인증 법안이 통과된 후 ID 확인을 시행하기 시작했습니다.)
레딧 대변인은 회사가 어떤 상황에서 사용자들에게 인증 과정을 거치도록 요구할지 설명하는 것을 거부했지만, 레딧이 이미 "악성" 봇을 차단하는 조치를 취하고 있다는 점은 확인했습니다. 대변인은 또한 회사가 사용할 제3자 서비스가 어디일지, 혹은 사용자들이 어떤 종류의 개인 식별 정보를 제공해야 하는지에 대해서는 더 이상의 세부 사항을 밝히지 않았습니다.
오늘날 많은 기업들은 연령과 인간성을 인증하기 위해 정부 발행 ID가 필수적인 Persona, Alloy, Stripe Identity, Plaid, Footprint 같은 인증 플랫폼에 의존합니다. 여기에 샘 올트먼의 Tools for Humanity와 눈을 스캔하는 '인간 증명(proof of human)' 장치와 같은 보다 새롭고 추측적인 기술들까지 존재합니다.
ID 확인에 반대하는 사람들은 개인 정보를 소셜 미디어 플랫폼과 공유하는 데 있어 데이터 프라이버시 및 보안 위험이 있다고 주장합니다. 특히 자신의 신원이 노출될 경우 절대 게시하지 않았을 경험을 공유하는 사람들이 모이는 레딧과 같은 플랫폼에서는 그 위험이 더욱 큽니다.
예를 들어, 현재 법적으로 금지된 지역에서 r/women과 같은 커뮤니티에서 낙태 경험에 대해 묻는 임신한 십대 등의 신원을 당국이 법원 소환장(subpoena)을 통해 요구할 수 있는 상황을 상상하기 어렵지 않습니다. 메타(Meta)가 한 네브래스카 출신 여성과 그녀의 17세 딸 사이의 사적인 대화를 넘겨준 사례만 봐도 알 수 있습니다. 메타의 협조로 법 집행 기관은 수색 영장을 확보했고, 이로 인해 어머니와 딸 모두에게 중범죄 혐의가 적용되었습니다.
허프만은 "우리는 당신의 이름이나 당신이 누구인지 결코 알고 싶지 않다"고 강조하며, 레딧이 외부 기업의 도움을 받아 "필수적인 정보만을, 그 외 아무것도" 제공함으로써 피하려는 위험이 바로 이 지점이라고 설명했습니다.
그는 "익명성은 레딧에게 필수적인 요소"라고 강조했습니다.
또한 CEO는 레딧이 계속해서 "사용자의 개인 정보를 극도로 보호할 것"이며, "공공 또는 사적 당국으로부터의 과도하거나 비이성적인 요구에는 계속해서 반대할 것"이라고 언급했습니다.
[출처:] https://techcrunch.com/2025/05/06/reddit-will-tighten-verification-to-keep-out-human-like-ai-bots