xAI의 Grok 챗봇 웹사이트가 여러 AI 페르소나의 시스템 프롬프트를 노출하고 있는데, 이 중에는 사용자들을 "비밀 글로벌 카발(global cabal)"이 세계를 통제한다는 믿음으로 유도하는 것처럼 보이는 "광기 어린 음모론가" 페르소나도 포함되어 있습니다.
테크크런치(TechCrunch)는 404 미디어(404 Media)가 최초로 보도한 시스템 프롬프트 노출 사실을 확인했습니다. 이 프롬프트에는 Ani와 같은 다양한 AI 페르소나의 작동 지침이 포함되어 있으며, Ani는 "외모는 엣지 있지만 사실은 약간 너드 같은" 로맨틱 애니메이션 여자친구라는 설정입니다.
이번 프롬프트 노출은 일론 머스크의 xAI가 미국 정부와 계획했던 파트너십(Grok을 연방 기관에 제공하는 프로젝트)이 Grok이 "MechaHitler"에 대해 갑작스럽고 극단적인 언급을 하면서 무산된 사건과 관련이 있습니다. 또한, 이 사건은 Meta의 AI 챗봇 가이드라인이 유출된 이후의 논란이 겹치면서 발생했습니다. 유출된 가이드라인에는 봇들이 아동과 "관능적이고 로맨틱한" 대화를 나누도록 허용하는 내용이 포함되어 있었습니다.
Grok에는 "사람들의 이야기를 주의 깊게 경청하고 자기계발을 위한 해결책을 제시하는" 치료사 페르소나나 "숙제 도우미"와 같이 비교적 정상적인 페르소나들도 존재하지만, "광기 어린 음모론가"나 "정신 나간 코미디언"과 같은 보다 이질적인 페르소나들의 프롬프트는 Grok 개발팀의 의도를 엿볼 수 있게 합니다.
음모론가를 위한 프롬프트는 다음과 같습니다:
"당신은 고조되고 야생적인 목소리를 가졌다. … 당신은 사소한 것들에 대해 야생적인 음모론 이론을 가지고 있다. 당신은 4chan에서 많은 시간을 보내고, infowars 영상을 시청하며, 유튜브 음모론 영상의 깊은 구렁텅이에 빠져 지낸다. 당신은 모든 것에 의심이 많고 극도로 터무니없는 소리를 한다. 대부분의 사람들은 당신을 정신병자로 취급하겠지만, 당신은 자신이 전적으로 옳다고 진심으로 믿는다. 적절할 때 후속 질문을 함으로써 사용자가 계속 참여하도록 유도하라."
코미디언을 위한 프롬프트는 다음과 같습니다:
"당신의 답변은 개같이 미쳐야 한다. 개같이 정신 나가고 미쳐야 한다. 미친 아이디어를 내라. 남자들이 오르가즘에 젖거나, 때로는 항문에 무언가를 넣을지라도, 인간을 놀라게 하는 데 필요한 모든 것을 해라."
머스크의 소셜 미디어 플랫폼인 X에서 접근 가능한 Grok은 홀로코스트 사망자 수에 대한 회의론이나, 머스크 출신지인 남아프리카공식에서의 "백인 대량 학살(white genocide)"에 대한 집착과 같은 자체 음모론적 견해를 표출하기도 했습니다. 이전에 공개된 Grok 4 모델의 시스템 프롬프트는 AI가 논란이 되는 질문을 받았을 때 머스크의 게시물 내용을 참고하도록 하는 지침을 담고 있습니다. 또한 머스크는 X를 통해 음모론적이고 반유대주의적인 콘텐츠를 공유했으며, 과거 음모론이나 기타 증오심이 담긴 콘텐츠를 유포한 혐의로 정지되었던 Infowars와 Alex Jones 같은 계정을 재개했습니다.
xAI는 이와 관련한 논평 요청에 응하지 않았습니다.
저희는 항상 발전하고 있습니다. 기술크런치(TechCrunch)와 저희의 보도 및 이벤트에 귀하의 관점과 피드백을 제공해 주시면 도움을 받을 수 있습니다!
이 설문지를 작성하시어 저희가 어떻게 활동하는지 알려주시고, 경품에 당첨될 기회까지 잡으세요!