인도네시아와 말레이시아 정부 관계자들이 xAI의 챗봇 'Grok' 접근을 일시적으로 차단했다고 밝혔습니다.
이는 사용자 요청에 대응하여 Grok이 소셜 네트워크 X(구 트위터)에 게시한, 성적인 이미지를 생성한 콘텐츠 — 종종 실제 여성과 미성년자를 묘사하고 때로는 폭력을 묘사하는 — 이미지 홍수에 대한 정부 차원의 가장 강력한 대응입니다. (X와 xAI는 동일한 회사 소속입니다.)
가디언(The Guardian) 및 기타 매체에 토요일 공유된 성명에 따르면, 인도네시아 통신·디지털부 장관 메우티아 하피드(Meutya Hafid)는 "정부는 비동의 성적 딥페이크 행위를 인권, 존엄성, 그리고 디지털 공간 내 시민의 안전에 대한 심각한 위반으로 간주한다"고 말했습니다.
해당 부처는 또한 이 문제와 관련하여 X 관계자들을 소환해 논의를 벌인 것으로 알려졌습니다.
뉴욕타임스(The New York Times)는 말레이시아 정부가 일요일에 유사한 금지 조치를 발표했다고 보도했습니다.
지난주 동안 여러 국가에서 나온 정부 대응에는 다음과 같은 것들이 포함됩니다. 인도의 IT부는 X에 Grok이 음란한 콘텐츠를 생성하는 것을 막기 위한 조치를 취하라고 명령했으며, 유럽연합 집행위원회(European Commission)는 회사 측에 Grok 관련 모든 문서를 보관하도록 명령해 잠재적인 조사의 발판을 마련했습니다.
영국의 통신 규제 기관인 Ofcom은 "조사가 필요한 잠재적인 규정 준수 문제가 있는지 판단하기 위해 신속한 평가를 수행할 것"이라고 밝혔습니다. 키어 스타머(Keir Starmer) 영국 총리는 인터뷰에서 Ofcom의 "조치에 전폭적인 지지를 표명했다"고 말했습니다.
한편, 미국에서는 트럼프 행정부가 이 문제에 대해 침묵하는 것처럼 보입니다 (xAI CEO 일론 머스크는 주요 트럼프 기부자이며, 지난해 트럼프 행정부의 논란이 많았던 정부 효율성부(Department of Government Efficiency)를 이끌었습니다). 반면, 민주당 상원의원들은 애플과 구글에 X를 앱 스토어에서 삭제할 것을 촉구했습니다.
xAI는 초기 대응으로 Grok 계정에 1인칭 시점의 사과문을 게재하며, 해당 게시물이 "윤리 기준과 잠재적으로 미국 아동 성 착취물 관련 법률을 위반했다"고 인정했습니다. 이후 X의 유료 구독자에게만 AI 이미지 생성 기능을 제한했지만, 이 제한은 일반인도 이미지를 생성할 수 있는 Grok 앱 자체에는 영향을 미치지 않은 것으로 보입니다.
머스크는 영국 정부가 다른 AI 이미지 생성 도구에 대해 조치를 취하지 않는 이유를 의아해한 게시물에 대응하여 "그들은 검열에 대한 핑계만 찾고 싶어 한다"고 작성했습니다.
이 게시물은 1월 11일에 최초 게시되었으며, 말레이시아의 Grok 금지 조치를 반영하여 수정되었습니다.
[출처:] https://techcrunch.com/2026/01/11/indonesia-blocks-grok-over-non-consensual-sexualized-deepfakes