그는 "Grok을 통해 생성된 나체 미성년자 이미지는 인지하고 있지 않다"고 언급했다. 이 발언은 캘리포니아 법무장관이 xAI의 챗봇을 둘러싼 '비동의 성적 노골 자료 확산' 문제에 대한 조사를 개시한 몇 시간 전의 내용이다.
머스크의 이러한 부인은 전 세계 정부들로부터 높아지는 압박 속에서 나온 것이다. 영국, 유럽 국가들부터 말레이시아, 인도네시아에 이르기까지 전 세계 정부들이 압력을 가하고 있다. 이는 X 사용자들 사이에서 Grok 등의 AI를 이용해 성적인 콘텐츠를 제작하려는 시도가 늘어남에 따른 것이다.
나아가, 한 보고서에 따르면 이 같은 AI 기반의 성적 콘텐츠 생성이 급증하는 것으로 나타났다.
한편, X(구 트위터)의 정책 위원회는 AI가 생성한 노골적인 이미지 및 영상을 금지하고, 이를 위반하는 경우 계정 정지 등 강력한 제재를 가할 방침이다.
AI 생성물에 대한 규제에 대한 논의도 활발하다. 유럽연합(EU)은 AI 법(AI Act)을 통해 위험도가 높은 AI 서비스에 대한 규제를 강화하고 있다. 국내 기업들도 AI 생성물의 저작권 침해 및 오남용에 대한 가이드라인을 마련하고 있다.