지난 2주 동안 X(엑스)는 Grok AI 챗봇이 생성한 AI 조작 누드 이미지로 범람하는 사태를 겪었습니다. 이 비동의(non-consensual) 누드 이미지 피해자는 유명 모델, 여배우는 물론, 뉴스 인물, 범죄 피해자, 심지어 세계 지도자들까지 포괄하고 있습니다.
Copyleaks가 12월 31일에 발표한 연구 논문에 따르면 시간당 약 1개의 이미지가 게시되는 것으로 추정되었으나, 이후 테스트 결과는 훨씬 많은 수치였습니다. 지난 1월 5일부터 6일까지 수집된 샘플을 분석한 결과, 24시간 동안 시간당 6,700개가 넘는 이미지가 발견되었습니다.
전 세계 공인들이 안전장치 없이 모델을 공개한 이번 선택을 규탄하는 목소리가 높지만, 일론 머스크의 새로운 이미지 조작 시스템을 제어하려는 규제 기관들에게 명확한 대응 메커니즘은 부재합니다. 이 사건은 기술 규제의 한계를 보여주는 쓰라린 교훈이 되었으며, 제도적 변화를 모색하는 규제 기관들에게 중대한 과제를 던지고 있습니다.
예상대로 가장 적극적인 조치는 유럽 위원회(European Commission)에서 나왔습니다. 유럽 위원회는 목요일 xAI에 Grok 챗봇과 관련된 모든 문서를 보관할 것을 명령했습니다. 이는 위원회가 새로운 조사를 개시했다는 의미는 아닐 수 있으나, 그러한 조치에 앞선 일반적인 전조(前兆)로 해석됩니다. 특히 CNN의 최근 보도에 따르면 일론 머스크가 Grok으로 생성 가능한 이미지에 안전장치가 적용되는 것을 막기 위해 직접 개입했을 가능성이 제기된 만큼, 이 움직임은 더욱 심각하게 받아들여지고 있습니다.
X가 Grok 모델에 기술적인 변경을 가했는지 여부는 불명확하지만, Grok의 X 계정에는 공개 미디어 탭이 제거되었습니다. 회사 측은 성명을 통해 아동 성적 이미지 제작에 AI 도구를 사용하는 행위를 명확히 비난했습니다. X 안전 계정은 1월 3일, "불법 콘텐츠를 생성하거나 지시하는 모든 사용자는 불법 콘텐츠를 업로드하는 것과 동일한 결과를 초래할 것입니다"라고 게시하며, 이는 일론 머스크가 이전에 올린 트윗 내용을 반영한 것입니다.
한편, 전 세계 규제 당국들이 엄중한 경고를 보내고 있습니다. 영국 의회통신국(Ofcom)은 월요일 성명을 통해 xAI와 접촉했으며, "조사가 필요한 잠재적인 규정 준수 문제가 있는지 신속하게 평가할 것"이라고 밝혔습니다. 키어 스타머 영국 총리는 목요일 라디오 인터뷰에서 이 현상을 "수치스럽고 역겹다"고 규정하며, "Ofcom이 이와 관련하여 조치하는 것에 전폭적인 지지를 보낸다"고 말했습니다.
호주 eSafety 위원인 줄리 인만-그랜트는 링크드인에 올린 글에서 2025년 하반기 이후 Grok과 관련된 민원이 두 배로 증가했다고 언급했습니다. 그러나 인만-그랜트는 xAI를 상대로 직접적인 제재 조치까지는 언급하지 않고, "보유한 일련의 규제 도구를 활용하여 조사하고 적절한 조치를 취할 것"이라고만 밝혔습니다.
행동을 위협하는 가장 큰 시장은 단연 인도입니다. 이곳에서 Grok은 국회의원으로부터 공식 민원의 대상이 되었습니다. 지난 1월, 인도의 통신 규제기관인 MeitY는 X에게 이 문제에 대해 조치하고 72시간 이내에 '조치 완료 보고서'를 제출하도록 명령했으며, 이 마감 시한은 48시간 연장되었습니다. 1월 7일에 규제기관에 보고서는 제출되었지만, MeitY가 이 답변에 만족할지는 미지수입니다. 만약 불만족할 경우, X는 인도에서 '세이프 하버(safe harbor)' 지위를 상실할 수 있으며, 이는 인도 내 운영에 치명적일 수 있습니다.
[출처:] https://techcrunch.com/2026/01/08/governments-grapple-with-the-flood-of-non-consensual-nudity-on-x