엘리자베스 워렌(Elizabeth Warren, 민주당-매사추세츠) 의원은 월요일 피트 헤그세스 국방장관에게 국방부가 일론 머스크의 회사 xAI에게 기밀 네트워크 접근 권한을 부여하기로 결정한 것에 대한 우려를 표명하는 서한을 보냈다.
서한에는 "xAI가 개발한 논란의 여지가 있는 AI 모델인 Grok이 사용자에게 '살해 및 테러 공격 방법을 조언'하거나, 반유대주의 콘텐츠를 생성하거나, 아동 성 착취물을 만드는 등 충격적인 결과를 제공했다"고 적혀 있다.
워렌 의원은 Grok이 "적절한 안전장치(guardrails)가 명백히 부족하여" 미군 인력의 안전과 기밀 시스템의 사이버 보안에 "심각한 위험을 초래할 수 있다"고 지적했다. 그녀는 헤그세스 장관에게 국방부가 이러한 잠재적인 국가 안보 위험을 "완화하기 위해" 어떤 계획을 수립했는지 관련 정보를 제공할 것을 요구했다.
워렌 의원은 xAI의 논란이 많은 챗봇 Grok이 기밀 시스템에 접근하는 것에 대해 우려를 표명한 첫 번째 정치인은 아니다. 지난달에는 비영리 단체 연합이 DoD를 포함한 연방 기관에서 Grok의 배포를 즉시 중단할 것을 정부에 촉구한 바 있다. 이는 X 사용자들이 여성의 실제 사진을 본인 동의 없이 성적인 이미지로 변환하도록 챗봇에게 반복적으로 프롬프트를 입력했기 때문이다. 워렌 의원이 서한을 보낸 바로 그날, 원고들은 Grok이 자신들의 미성년자 실제 이미지로부터 성적인 콘텐츠를 생성했다고 주장하며 xAI를 상대로 집단 소송을 제기했다.
이번 서한은 국방부가 AI 기업인 Anthropic이 군에 자체 AI 시스템의 무제한 접근을 거부하자 Anthropic을 공급망 위험으로 분류하기로 결정한 사태가 있은 후에 나온 것이다. Anthropic은 그전까지 기밀 등급 시스템을 갖춘 유일한 AI 기업이었다. 이러한 갈등 상황 속에서, 국방부는 OpenAI뿐만 아니라 xAI와도 협정을 체결하여 두 회사의 AI 시스템을 기밀 네트워크에서 사용할 것이라고 발표했다. 한 고위 국방부 관계자에 따르면, Grok이 기밀 환경에 사용되도록 탑재는 되었으나 아직 실제 사용은 되지 않고 있는 것으로 확인되었다.
워렌 의원은 "xAI가 Grok의 보안 안전장치, 데이터 처리 관행, 또는 안전 제어에 대해 국방부에 어떤 보증이나 문서를 제출했는지, 그리고 국방부가 보고된 바와 같이 Grok의 기밀 시스템 접근을 허용하기 전에 이러한 보증들을 실제로 평가했는지 여부는 불분명하다"고 썼다.
이에 워렌 의원은 국방부가 Grok을 기밀 시스템에서 사용하기로 한 것과 관련하여 xAI와 체결한 것으로 알려진 계약서 사본과, 국방부가 Grok이 사이버 공격에 노출되지 않도록 하며 "민감하거나 기밀 군사 정보를 유출하지 않도록" 할 계획에 대한 상세 설명을 요청했다.
(한편, 지난주에는 머스크의 정부 효율성 부서(DOGE) 전 직원이 사회보장국(Social Security Administration)의 미국인 개인 데이터를 훔쳐 USB 드라이브에 저장했다는 보도가 나와, DOGE 관련 데이터 유출 논란이 다시 불거졌다.)
국방부 대변인 션 파넬(Sean Parnell)은 해당 부서가 "가까운 시일 내에 Grok을 공식 AI 플랫폼인 GenAI.mil에 배치할 계획"이라고 밝혔다.
GenAI.mil은 국방부 근로자들에게 정부 승인 클라우드 환경 내에서 대규모 언어 모델(LLMs) 및 기타 AI 도구에 접근할 수 있도록 제공하는 군의 보안 엔터프라이즈 플랫폼이다. 이 플랫폼은 주로 연구, 문서 초안 작성, 데이터 분석과 같은 비기밀 업무를 지원하도록 설계되었다.