메타는 인기 AI '누디파이' 앱인 크러쉬 AI(Crush AI) 제작사에 소송을 제기했으며, 해당 앱이 메타 플랫폼 전반에 걸쳐 수천 개의 광고를 송출한 것으로 알려졌다. 메타는 이 소송 외에도 크러쉬 AI와 같은 다른 앱에 대한 규제를 강화하기 위한 새로운 조치를 취하고 있다고 밝혔다.
홍콩에서 제기된 소송에서 메타는 크러쉬 AI의 운영 주체인 조이 타임라인 HK(Joy Timeline HK)가 AI 누디파이 서비스 광고 배포를 위해 메타의 검토 절차를 우회하려 했다고 주장했다. 메타는 블로그 게시물에서 해당 주체가 정책 위반으로 광고를 반복적으로 제거했음에도 불구하고, 계속해서 추가 광고를 게재했다고 지적했다.
크러쉬 AI는 사용자의 동의 없이 실존 인물의 가짜 성적 노골 이미지(fake, sexually explicit images)를 생성하는 생성형 AI를 사용한다. 이에 따르면 이 앱은 2025년 첫 두 주 동안 메타 플랫폼에서 자사 "AI 언더레서(AI undresser)" 서비스를 홍보하는 광고를 8,000개 이상 게재한 것으로 추정된다. 페이크드 업(Faked Up) 뉴스레터의 작성자인 알렉시오스 만차를리스(Alexios Mantzarlis)에 따르면 이 내용이다. 만차를리스는 1월 보고서에서 크러쉬 AI 웹사이트가 트래픽의 약 90%를 페이스북 또는 인스타그램 중 한 곳에서 유입받았다고 주장했으며, 해당 웹사이트 몇 군데를 메타에 신고한 바 있다.
크러쉬 AI는 수십 개의 광고주 계정을 개설하고 도메인 이름을 빈번하게 변경하는 방식으로 메타의 광고 검토 과정을 회피한 것으로 알려졌다. 만차를리스에 따르면, 크러쉬 AI의 광고주 계정 중 다수는 "Eraser Annyone’s Clothes"라는 이름 뒤에 서로 다른 숫자를 붙여 개설되었다. 과거에는 크러쉬 AI가 자사 서비스를 홍보하는 페이스북 페이지까지 보유한 바 있다.
페이스북과 인스타그램이 이러한 문제에 직면한 유일한 플랫폼은 아니다. X나 메타와 같은 소셜 미디어 기업들이 앱에 생성형 AI를 통합하기 위해 경쟁하는 과정에서, 특히 미성년 사용자들에게 플랫폼을 안전하지 않게 만들 수 있는 AI 도구의 사용을 어떻게 규제할지에 대한 어려움도 겪고 있다.
연구자들은 AI 언더레싱 앱 관련 링크가 2024년 X나 레딧과 같은 플랫폼에서 급증했으며, 유튜브에서는 수백만 명의 사용자에게 이와 관련된 앱 광고가 노출된 것으로 보고했다. 이러한 증가하는 문제에 대응하여 메타와 틱톡은 AI 누디파이 앱에 대한 키워드 검색을 금지했으나, 해당 서비스를 플랫폼에서 완전히 제거하는 것은 어려운 것으로 나타났다.
메타는 블로그 게시물에서, 광고 자체에 노출 내용이 포함되지 않았더라도 AI 누디파이 또는 언더레싱 서비스 광고를 특별히 식별하는 새로운 기술을 개발했다고 밝혔다. 또한, 이 회사는 이제 매칭 기술을 활용해 유사 광고를 더 빠르고 광범위하게 찾아내 제거하고 있으며, 시스템에서 플래그가 지정되는 용어, 구, 이모지 목록을 확장했다고 언급했다.
메타는 또한 전통적으로 악성 행위자 네트워크를 와해시키는 데 사용했던 전술을 AI 누디파이 서비스 광고를 송출하는 새로운 계정 네트워크에도 적용하고 있다고 밝혔다. 메타에 따르면, 2025년 초부터 이러한 서비스를 홍보하는 별개의 네트워크 4곳을 차단하는 데 성공했다.
앱 외부에서도, 이 회사는 아동 성착취를 온라인에서 방지하기 위한 구글, 메타, 스냅 등 기업들의 공동 노력인 테크 콜리전(Tech Coalition)의 랜턴 프로그램(Lantern program)을 통해 AI 누디파이 앱에 대한 정보를 공유하기 시작할 것이라고 밝혔다. 메타는 이 네트워크를 통해 지난 3월 이후 3,800개가 넘는 고유 URL을 제공했다고 전했다.
법적 측면에서는, 메타가 "부모가 자녀의 앱 다운로드를 감독하고 승인할 수 있는 권한을 부여하는 법안을 지속적으로 지원할 것"이라고 밝히며, 이전에 미국 Take It Down Act를 지원했던 경험을 바탕으로 현재 입법가들과 협력하여 이를 이행하고 있다고 덧붙였다.
[출처:] https://techcrunch.com/2025/06/12/meta-sues-ai-nudify-app-crush-ai-for-advertising-on-its-platforms