생성형 AI 도구의 발전은 인터넷에 새로운 문제를 야기했는데, 바로 실제 사람을 닮은 합성 누드 이미지의 범람입니다. 마이크로소프트는 목요일, 빙(Bing) 검색 엔진을 통해 이러한 이미지가 반환되는 것을 막기 위해 리벤지 포르노 피해자들에게 대응 도구를 제공하며 큰 진전을 이루었습니다.
마이크로소프트는 리벤지 포르노 피해자들이 실제로든 아니든 노골적인 이미지의 디지털 지문(digital fingerprint)을 자신의 장치에 생성할 수 있도록 돕는 기관인 스톱NCII(StopNCII)와 파트너십을 발표했습니다. 스톱NCII의 파트너들은 이 디지털 지문, 즉 기술적으로는 '해시(hash)'로 알려진 데이터를 이용해 자사 플랫폼에서 해당 이미지를 삭제합니다. 마이크로소프트의 빙은 페이스북, 인스타그램, 스레드, 틱톡, 스냅챗, 레딧, 포르노허브, 온리팬스와 함께 스톱NCII와 파트너십을 맺고, 이 디지털 지문을 활용하여 리벤지 포르노 확산을 막고 있습니다.
마이크로소프트는 블로그 게시물을 통해 스톱NCII의 데이터베이스를 거쳐 빙의 이미지 검색에서 반환된 노골적인 이미지 26만 8천 개에 이미 조치를 취했다고 밝혔으며, 이는 8월 말까지 진행된 시범 운영을 통해 이루어졌습니다. 이전에 마이크로소프트는 자체 신고 도구를 제공했지만, 회사는 이것만으로는 충분하지 않다고 설명했습니다.
마이크로소프트는 같은 날 블로그 게시물에서 "우리는 피해자, 전문가, 그리고 기타 이해관계자들로부터 사용자 신고만으로는 영향력 면에서 효과적으로 대응하기 어렵거나, 검색을 통해 해당 자료에 접근할 위험을 충분히 해소할 수 없을 것이라는 우려를 전달받았습니다"라고 말했습니다.
이 문제가 훨씬 더 인기 있는 검색 엔진인 구글(Google)에서는 얼마나 심각할지 상상할 수 있습니다.
와이어드(Wired)의 조사에 따르면, 구글 검색은 검색 결과에서 노골적인 이미지를 신고하고 제거하는 자체 도구를 제공하지만, 스톱NCII와 파트너십을 맺지 않은 것에 대해 전직 직원 및 피해자들로부터 비판을 받아왔습니다. 와이어드는 구글 사용자들이 2020년 이래로 원치 않는 성적 콘텐츠와 관련된 검색 및 유튜브 링크를 17만 개 보고했다고 전했습니다.
AI 딥페이크 누드 문제는 이미 만연해 있습니다. 스톱NCII의 도구는 만 18세 이상에게만 적용되지만, 이미 '탈의(undressing)' 사이트들이 전국 고등학생들 사이에서 문제를 일으키고 있습니다. 불행하게도 미국에는 관련 주체에게 책임을 물을 수 있는 AI 딥페이크 포르노 관련 법률이 없어, 이 나라는 현재 주(state) 및 지역 법률이라는 임시방편적인 접근 방식에 의존하고 있습니다.
샌프란시스코 검찰은 8월에 가장 문제가 되는 '탈의' 사이트 16곳을 폐쇄하기 위한 소송을 발표했습니다. 와이어드가 만든 딥페이크 포르노 법률 추적기에 따르면, 미국 내 23개 주가 비동의 딥페이크를 다루기 위한 법률을 제정했지만, 9개 주에서는 해당 법안들이 기각된 상태입니다.