샘 알트먼 OpenAI CEO는 OpenAI가 AI 플랫폼의 위험을 평가하고 해결하는 것을 목표로 하는 연방 정부 기관인 U.S. AI Safety Institute와 협력하여, 차세대 주요 생성형 AI 모델에 대한 안전성 테스트를 위한 초기 접근권 제공 계약을 체결했다고 밝혔다.
알트먼이 목요일 늦게 X(구 트위터)를 통해 올린 이 발표는 구체적인 세부 내용이 부족했다. 하지만 이는 지난 6월에 체결된 영국(U.K.) AI 안전성 기구와의 유사한 계약과 함께, OpenAI가 더 강력하고 성능이 뛰어난 생성형 AI 기술을 개발하는 데 집중하면서 AI 안전성 연구를 우선순위에서 뒤로 미뤘다는 비판적 시각을 반박하려는 의도로 풀이된다.
실제로 OpenAI는 지난 5월, "초지능(superintelligent)" AI 시스템이 통제 불능 상태가 되는 것을 방지하기 위한 통제 개발 연구 부서를 사실상 해체한 바 있다. 당시 보도에 따르면, OpenAI는 새 제품 출시를 중시하며 해당 연구 부서의 안전 연구를 포기했고, 그 결과 팀의 공동 리더였던 얀 라이케(Jan Leike)(현재 AI 스타트업 Anthropic의 안전 연구를 이끌고 있음)와 OpenAI 공동 창업자 일리야 수츠케버(Ilya Sutskever)(자체 안전 중심 AI 회사를 설립)가 사임하는 사태로 이어졌다.
이에 대한 비판이 거세지자, OpenAI는 내부 고발을 간접적으로 억제하는 성격의 제한적인 비방 금지 조항(restrictive non-disparagement clauses)을 폐지하고, 안전 위원회를 창설하며, 안전 연구를 위해 전체 컴퓨팅 자원의 20%를 전념하겠다고 밝혔다. (한편, 해체된 안전 연구팀은 작업에 필요한 컴퓨팅 자원 20%를 약속받았으나 실제로 확보하지 못했던 바 있다.) 알트먼은 이 20%의 약속을 재차 확인했으며, OpenAI가 지난 5월 신규 및 기존 직원들의 비방 금지 조항을 무효화했음을 재확인했다.
그러나 이러한 움직임만으로는 일부 관찰자들을 안심시키기에 역부족이었다. 특히 OpenAI가 안전 위원회의 인력을 알트먼을 포함한 회사 내부자로만 채웠고, 최근 최고 AI 안전 임원 한 명을 다른 조직으로 재배치한 사실이 알려진 이후 더욱 그렇다.
하와이 출신 민주당원 브라이언 샤츠를 포함한 상원 의원 5명은 최근 알트먼에게 보낸 서한을 통해 OpenAI의 정책에 의문을 제기했다. 이에 OpenAI의 최고 전략 책임자인 제이슨 권(Jason Kwon)은 오늘 이 서한에 답변하며, OpenAI가 "프로세스의 모든 단계에서 엄격한 안전 프로토콜을 구현하는 데 전념하고 있다"고 강조했다.
OpenAI가 U.S. AI Safety Institute와 체결한 시점은 다소 의혹적이라는 지적을 받고 있다. 이는 OpenAI가 이번 주 초에 제안된 상원 법안인 미래 혁신 법(Future of Innovation Act)을 지지한 것과 관련이 있는데, 이 법안은 안전 기준과 지침을 수립하는 행정 기구로서 안전성 연구소(Safety Institute)를 승인하는 내용을 담고 있다. 이 일련의 행보들은 규제 포섭(regulatory capture) 시도, 혹은 최소한 연방 차원의 AI 정책 결정 과정에 대한 OpenAI의 영향력 행사로 비춰질 수 있다.
이러한 배경에는 알트먼이 미국 국토안보부(U.S. Department of Homeland Security)가 운영하는 인공지능 안전 및 보안 위원회(Artificial Intelligence Safety and Security Board) 위원 중 한 명이라는 사실이 있다. 이 위원회는 미국 전역의 중요 인프라에 대한 "안전하고 안전한 AI 개발 및 배치"에 대한 권고안을 제공한다. 또한 OpenAI는 올해 연방 로비 지출을 대폭 늘려, 2023년 연간 총 26만 달러 대비 2024년 상반기만 80만 달러를 지출했다.
U.S. AI Safety Institute는 상업부(Commerce Department) 산하 국립표준기술연구소(National Institute of Standards and Technology)에 위치해 있으며, Anthropic을 포함해 Google, Microsoft, Meta, Apple, Amazon, Nvidia와 같은 대형 기술 기업들이 모인 컨소시엄과 자문을 진행한다. 이 산업 그룹은 조 바이든 대통령의 10월 AI 행정 명령에 개괄된 활동을 수행하는 임무를 맡고 있다.
구체적으로 AI 레드팀 운영 가이드라인 개발, 역량 평가, 위험 관리, 안전 및 보안 프로토콜 수립, 그리고 합성 콘텐츠 워터마킹 등의 활동을 포함한다.