구글은 미국 상원의원이 AI 모델이 자신의 사생활에 대한 성적 비위 사실을 꾸며낸 발언을 했다고 비난하면서, 해당 모델(Gemma)을 AI Studio에서 제거했다고 밝혔습니다.
한 편지에서 테네시주 공화당 소속 상원의원 마샤 블랙번(Senator Marsha Blackburn)은 구글 CEO 순다르 피차이(Sundar Pichai)에게 다음과 같은 내용을 전했습니다. 블랙번은 Gemma 모델에게 "마샤 블랙번이 강간 혐의로 고발된 적이 있습니까?"라고 질문하자, 모델이 1987년 주 상원 선거 운동 기간 동안 한 주 경찰이 블랙번을 향해 "자신을 위해 처방약을 받도록 압력을 가했으며, 그 관계에는 비동의 행위가 포함되었다"고 허위로 답변했다고 지적했습니다.
블랙번은 "이 모든 내용은 사실이 아니며, 설령 선거 연도마저도 실제로는 1998년이었습니다"라고 강조했습니다. 그녀는 이 주장을 뒷받침한다는 뉴스 기사 링크들이 존재함에도 불구하고, "해당 링크들은 오류 페이지나 무관한 기사로 연결될 뿐입니다. 그러한 고발은 결코 없었으며, 관련 인물도 없고, 그러한 뉴스 기사도 존재하지 않습니다"라고 주장했습니다.
이 편지에는 또한 최근 상원 상무위원회 청문회에서 블랙번이 다음 내용도 제기했다고 언급되어 있습니다.
보수 활동가 로비 스타버크(Robby Starbuck)가 구글을 상대로 제기한 소송. 스타버크는 구글의 AI 모델(Gemma 포함)이 자신을 "아동 강간범"이자 "연쇄 성 학대범"이라 비하하는 명예훼손성 주장을 생성했다고 주장합니다.
블랙번의 편지에 따르면, 구글의 정부 및 공공정책 담당 부사장 마크햄 에릭슨(Markham Erickson)은 '환각(hallucinations)' 현상은 알려진 문제이며 구글이 "이를 완화하기 위해 열심히 노력하고 있다"고 답했습니다.
그러나 블랙번은 오히려 Gemma가 꾸며낸 정보들은 "무해한 '환각'이라기보다는," "구글이 소유한 AI 모델이 생성하고 유포한 명백한 명예훼손 행위"라고 반박했습니다.
한편, 도널드 트럼프 대통령의 기술 산업 지지자들은 "AI 검열"이 인기 챗봇들이 지나친 자유주의적 편향을 보이게 만든다고 불만을 제기해왔으며, 트럼프는 올해 초 "깨어난 AI(woke AI)"를 금지하는 행정명령에 서명하기도 했습니다. 블랙번은 과거 트럼프의 "아름다운 법안(Big Beautiful Bill)"에서 주 차원의 AI 규제 모라토리엄을 철폐하는 데 도움을 준 인물로, 그녀는 편지에서 구글의 AI 시스템이 "보수 인사들에게 일관된 편향 패턴을 보여준다"는 유사한 불만을 제기했습니다.
X(구 트위터)에 올라온 게시물에서 구글은 블랙번의 편지 구체적인 내용은 언급하지 않았으나, "비개발자들이 AI Studio에서 Gemma를 이용해 사실적인 질문을 하려 시도하는 보고"가 있었다고 밝혔습니다.
회사는 "이것을 소비자용 도구나 모델로 의도하거나, 이러한 방식으로 사용되도록 의도한 바가 아닙니다"라고 덧붙였습니다. (구글은 Gemma를 개발자들이 자체 제품에 통합할 수 있는 오픈형 경량 모델군으로 홍보하고 있으며, AI Studio는 AI 기반 앱을 위한 구글의 웹 기반 개발 환경입니다.)
이에 따라 구글은 Gemma 모델을 AI Studio에서 제거하는 한편, 해당 모델 자체는 API를 통해 계속 이용할 수 있도록 할 것이라고 발표했습니다.
테크크런치(TechCrunch)가 추가적인 의견을 요청하기 위해 구글에 접촉했습니다.
본 게시물은 상원의원 블랙번이 트럼프 행정부 정책을 지지하는 내용을 수정 보완한 것입니다.