인도 정부가 사용자 및 국회의원들로부터 해당 도구를 이용해 생성된 여성의 "음란" 이미지를 포함한 콘텐츠 생성에 대한 지적이 제기되자, 일론 머스크의 X사에 AI 챗봇 Grok에 대한 즉각적인 기술적 및 절차적 변경을 명령했습니다.
인도 IT부가 지난 금요일 발행한 이 명령에 따르면, X사는 Grok에 대해 시정 조치를 취해야 하며, 여기에는 "노출, 성애화, 성적으로 노골적이거나 법적으로 금지된" 자료가 포함된 콘텐츠 생성을 제한하는 조치가 포함됩니다. 또한, 해당 부처는 소셜 미디어 플랫폼에게 "음란하거나, 포르노그래피적이거나, 저속하거나, 부적절하거나, 성적으로 노골적이거나, 아동 성애적이거나 법률로 달리 금지된" 콘텐츠가 호스팅되거나 유포되는 것을 막기 위해 취한 조치 보고서를 제출할 수 있도록 72시간의 기한을 주었습니다.
테크크런치(TechCrunch)가 검토한 이 명령에는, 규정 미준수 시 X의 '안전지대(safe harbor)' 보호—인도 법률에 따른 사용자 생성 콘텐츠에 대한 법적 면책권—가 위험에 처할 수 있다는 경고가 담겨 있습니다.
인도의 이번 조치는 Grok이 개인, 특히 여성을 대상으로 이미지를 변형하도록 요청받은 사례가 사용자들 사이에서 공유되고, 이와 관련하여 인도 국회의원 프리얀카 차투르베디(Priyanka Chaturvedi)가 공식 민원을 제기하면서 촉발되었습니다. 별도로, 최근 보고서들은 해당 AI 챗봇이 미성년자와 관련된 성애화 이미지를 생성한 사례를 지적했는데, 이는 X가 금요일 초에 안전장치 미흡으로 인해 발생했다고 인정한 문제였습니다. 해당 이미지들은 이후 삭제되었으나, 테크크런치가 밝힌 바에 따르면 AI 변형을 통해 여성이 비키니를 입은 모습으로 합성된 Grok의 이미지들은 발표 시점에도 X에서 여전히 접근 가능한 상태였습니다.
이번 명령은 며칠 전 인도 IT부가 소셜 미디어 플랫폼 전체에 더 광범위한 권고를 발표한 지 얼마 지나지 않아 나왔습니다. 이 권고 또한 테크크런치에 의해 검토되었으며, 음란하거나 성적으로 노골적인 콘텐츠에 대한 현지법 준수가 사용자 생성 자료에 대한 법적 면책권을 유지하는 전제 조건임을 상기시켰습니다. 당시 권고문은 기업들에게 내부 안전장치 강화를 촉구하며, 미준수 시 인도 IT법 및 형법에 따른 법적 조치를 당할 수 있다고 경고했습니다.
해당 명령에는 "상기 요구 사항을 준수하지 않을 경우 심각하게 간주될 것이며, 추가 통지 없이 귀사의 플랫폼, 책임 임원, 그리고 법을 위반한 플랫폼 사용자들에게 엄격한 법적 결과로 이어질 수 있음을 재차 강조한다"는 경고가 포함되어 있습니다.
인도 정부는 비준수 시 인도 IT법 및 형법에 의거하여 X를 상대로 법적 조치가 취해질 수 있다고 밝혔습니다.
세계 최대 디지털 시장 중 하나인 인도는 정부가 AI 생성 콘텐츠에 대해 플랫폼에 어느 정도까지 책임을 물을 의지가 있는지를 보여주는 중대한 시험대가 되고 있습니다. 만약 인도에서 법 집행이 강화될 경우, 여러 관할 지역에서 운영되는 글로벌 기술 회사들에게 연쇄적인 파급 효과를 가져올 수 있습니다.
이번 명령은 X가 인도 정부의 콘텐츠 규제 규칙의 일부 측면을 법원에서 계속해서 다투고 있는 가운데 나왔습니다. X는 연방 정부의 삭제 권한이 과도한 범위의 위험이 있다고 주장하고 있으며, 이는 플랫폼이 대부분의 차단 지시 사항을 준수했음에도 불구하고 나온 주장입니다. 동시에 Grok은 X 사용자들에 의해 실시간 사실 확인 및 뉴스 사건에 대한 해설 목적으로 점점 더 많이 활용되면서, 독립적인 AI 도구의 결과물보다 더 높은 가시성과 정치적 민감도를 갖게 되었습니다.
X와 xAI는 인도 정부의 이번 명령에 대한 논평 요청에 즉시 응답하지 않았습니다.
[출처:] https://techcrunch.com/2026/01/02/india-orders-musks-x-to-fix-grok-over-obscene-ai-content