인도네시아는 말레이시아와 필리핀에 이어 xAI의 챗봇 Grok에 대한 금지 조치를 해제했다.
이 동남아시아 국가들은 Grok이 실제 여성과 미성년자의 이미지를 포함한 비동의 성적 이미지(nonconsensual, sexualized imagery)를 대량으로 생성하는 데 사용되자 Grok 사용을 금지했다.
뉴욕타임스(The New York Times)와 디지털 증오 대응 센터(Center for Countering Digital Hate)의 별도 분석에 따르면, Grok은 12월 말부터 1월까지 여성의 성적 이미지 최소 180만 장을 생성하는 데 사용되었다.
인도네시아 통신디지털부(Ministry of Communication and Digital Affairs)는 X가 "서비스 개선 및 오용 방지를 위한 구체적인 조치"를 담은 서한을 보내오자 금지 조치를 해제한다고 밝혔다 (출처: 뉴욕타임스).
디지털 공간 감시를 담당하는 이 부처의 전무총장 알렉산더 사바르(Alexander Sabar)는 이번 금지 해제가 "조건부"이며, "추가적인 위반 사례가 발견될 경우" 재개될 수 있다고 덧붙였다.
한편, 말레이시아와 필리핀은 1월 23일 금지 조치를 해제했다.
Grok의 딥페이크는 전 세계 정부들로부터 비판과 조사 대상이 되었으나, 실제로 전면적인 사용 금지 조치로 이어진 경우는 소수에 불과하다. 미국에서는 캘리포니아 법무장관 로브 본타(Rob Bonta)가 자신의 사무실 차원에서 xAI를 조사하고 있으며, 회사에 해당 이미지 제작을 즉시 중단할 것을 명령하는 사용 중단 통지서(cease-and-desist letter)를 발송했다고 밝혔다.
xAI 역시 Grok의 기능 제한 조치를 취한 것으로 추정되는데, 여기에는 X의 유료 구독자에게만 AI 이미지 생성 기능이 제한적으로 제공되는 것이 포함된다.
CEO 일론 머스크(Elon Musk)는 "Grok을 사용하여 불법 콘텐츠를 제작하는 사람은 불법 콘텐츠를 직접 업로드하는 경우와 동일한 처벌을 받게 될 것"이라고 강조했으며, Grok이 생성한 미성년자의 나체 이미지에 대해서는 "알지 못한다"고 선을 그었다.
금요일 법무부가 공개한 악명 높은 성범죄자 제프리 엡스타인(Jeffrey Epstein) 관련 문서에는 2012년과 2013년 사이 머스크와 엡스타인 사이에 오간 최소 16개의 이메일이 포함되어 있다. 이 이메일에서 머스크는 엡스타인의 카리브해 섬 방문을 요청하며 "당신의 섬에서 열리는 가장 거친 파티"에 대해 궁금해한 내용이 담겼다. 엡스타인은 2008년 미성년자를 매춘에 이용하게 한 혐의로 유죄 판결을 받았다.
한편, xAI는 스페이스X(SpaceX)의 기업공개(IPO)를 앞두고 머스크의 다른 두 회사인 SpaceX와 테슬라(Tesla)와 합병을 추진하고 있다는 보도도 나오고 있다.
[출처:] https://techcrunch.com/2026/02/01/indonesia-conditionally-lifts-ban-on-grok