— 이름이 음성상 유사한 AI 스타트업 Groq와 혼동되어서는 안 되는 해당 X 계정은 과거 트위터로 알려진 소셜 네트워크 X에서 카말라 해리스 부통령에 대한 허위 정보를 유포해 왔습니다.
이는 다섯 명의 주지사가 작성하여 테슬라, 스페이스X 및 X CEO 일론 머스크에게 보낸 공개 서한에 따른 내용으로, 해당 서한은 X의 AI 기반 챗봇이 해리스가 2024년 미국 대통령 선거 투표에 참여할 자격이 없다고 잘못 제안했다고 주장합니다.
미네소타 주지사 스티브 사이먼이 주도하고 펜실베이니아의 알 슈미트, 워싱턴의 스티브 홉스, 미시간의 조슬린 벤슨, 뉴멕시코의 매기 툴루즈 올리버가 서명한 이 서한은 머스크에게 "유권자들이 이 중요한 선거 해에 정확한 정보를 갖도록 X의 AI 검색 비서 Grok에 즉시 변경을 적용해 줄 것"을 촉구합니다.
조 바이든 대통령이 대통령 출마를 중단한다고 발표한 지 몇 시간 만인 7월 21일, Grok은 앨라배마, 인디애나, 미시간, 미네소타, 뉴멕시코, 오하이오, 펜실베이니아, 텍사스, 워싱턴 등 9개 주에서 투표 마감일이 지났다는 오해를 불러일으키는 주장을 하며 해리스의 자격에 대한 질문에 답변하기 시작했습니다.
실제로는 투표 마감일이 지나지 않았습니다. 그러나 Grok의 허위 정보는 7월 31일에 수정되기 전까지 X와 그 외 매체에서 수백만 명의 사용자에게 광범위하게 퍼져나갔습니다.
주지사들은 "Grok은 X Premium 및 Premium+ 구독자에게만 제공되며 사용자에게 정보 확인을 요청하는 면책 조항이 포함되어 있음에도 불구하고, 투표 마감일에 관한 허위 정보가 여러 게시물에 걸쳐 반복적으로 포착되고 공유되었다"고 밝혔습니다.
머스크는 X가 정치적 주제를 중재(moderating)하는 방식, 그리고 스스로 불을 지핀 행동으로 인해 비판을 받고 있습니다.
데이터에 따르면 X는 다른 플랫폼보다 신뢰 및 안전(trust and safety) 분야의 관리 인력이 현저히 적은 것으로 나타났는데, 이는 부분적으로 머스크가 회사 엔지니어의 약 80%를 감원한 결과입니다. 이르면 올해 X는 텍사스 오스틴에 새로운 신뢰 및 안전 우수 센터를 설립하겠다고 약속했지만, 블룸버그에 따르면 회사는 센터에 필요한 모더레이터 인력을 당초 예상보다 훨씬 적게 채용했습니다.
머스크는 사실 확인의 모범 사례라고 할 수 없습니다.
그 CEO는 지난주 금요일, 자신의 플랫폼 가이드라인에 위배될 수 있는 것처럼 보이는 영상을 재공유했는데, 이 영상은 AI를 이용해 해리스의 목소리를 복제하여 그녀가 자신이 "다양성 채용(diversity hire)"되었다고 인정하고 "국가 운영에 대해 아는 것이 하나도 없다"고 말하는 것처럼 조작했습니다. 또한 이 거물 자본가는 지난주 영국에서 세 소녀의 살해 사건과 가해자에 대한 허위 정보가 확산된 사태에 대응하여 "내전은 불가피하다(civil war is inevitable)"고 게시했고, 이에 영국 총리 키어 스타머는 강경하게 비난 성명을 발표하는 계기가 되었습니다.