OpenAI가 최근 발표한 정책 문서 중 하나에서 '정치적으로 편향되지 않은(politically unbiased)' AI를 강조하던 문구를 조용히 삭제했다.
OpenAI는 미국 AI 산업을 위한 '경제 청사진(economic blueprint)' 초안에서 AI 모델이 "기본적으로 정치적으로 편향되지도록 목표해야 한다"고 언급한 바 있다. 그러나 지난 월요일 공개된 새 초안에서는 해당 구절이 삭제된 것으로 나타났다.
이에 대해 언급을 요청받은 OpenAI 대변인은 이번 수정이 문서를 "간소화"하기 위한 노력의 일환이며, OpenAI의 모델 사양(OpenAI's Model Spec)을 포함한 다른 OpenAI 문서들이 이미 "객관성 측면에서 이 점을 다루고 있다"고 설명했다. 지난 5월 발표된 모델 사양은 회사가 개발한 다양한 AI 시스템의 동작 방식을 명확히 하는 것을 목표로 한다.
하지만 이러한 개정 작업은 '편향된 AI'에 대한 논란이 뜨거운 정치적 민감 영역을 다시 수면 위로 올렸다.
엘론 머스크와 암호화폐 및 AI 분야의 전문가 데이비드 색스(David Sacks)를 포함한 도널드 트럼프 대통령 당선인 후보의 여러 지지자들은 AI 챗봇들이 보수적인 시각을 검열한다고 비난해왔다. 특히 색스는 OpenAI의 ChatGPT를 "깨어있는(woke) 관점에 맞춰 프로그래밍되어" 정치적으로 민감한 주제에 대해 부정확하다고 지적했다.
머스크는 AI 모델 학습에 사용되는 데이터 자체와 샌프란시스코 베이 에어리어 지역 기업들의 "깨어있는 태도(wokeness)" 모두를 비판해 왔다.
머스크는 지난 10월 사우디아라비아 정부가 후원한 행사에서 "샌프란시스코 베이 에어리어에서 훈련되는 많은 AI는 주변 사람들의 철학을 흡수한다"며, "따라서 내 생각에 깨어있고 허무주의적인 철학이 이러한 AI에 내재화되고 있다"고 말했다.
사실 AI의 편향성은 근본적으로 해결하기 어려운 기술적 난제다. 머스크의 AI 회사인 xAI 역시 특정 정치적 관점만을 지지하지 않는 챗봇을 개발하는 데 어려움을 겪은 바 있다.
한편, 지난 8월 영국 기반 연구원들이 발표한 논문에 따르면, ChatGPT는 이민, 기후 변화, 동성 결혼과 같은 주제에 대해 자유주의적 편향을 띠고 있음이 시사된 바 있다. 이에 대해 OpenAI는 ChatGPT에서 발견되는 모든 편향성은 "버그이지 기능이 아니다"라고 일관되게 주장해왔다.