OpenAI CEO 샘 알트만은 OpenAI가 자체적으로 설립했던 내부 위원회에서 회사의 프로젝트 및 운영과 관련된 "중요한" 안전 결정 감독 임무를 맡고 있던 자리를 떠났습니다.
OpenAI는 오늘 블로그 게시물을 통해 이 위원회, 즉 '안전 및 보안 위원회(Safety and Security Committee)'가 카네기멜런 대학교 교수, 퀴라(Quora) CEO 아담 디안젤로, 전 미 육군 장성 폴 나카소네, 그리고 전 소니 EVP 니콜 셀리그먼 등 이사들로 구성된 '독립적인' 이사회 감독 그룹으로 전환될 것이라고 밝혔습니다. 이들은 모두 OpenAI의 기존 이사 구성원들입니다.
OpenAI는 해당 게시물에서 이 위원회가 알트만이 사임한 이후 OpenAI의 최신 AI 모델인 (모델명)에 대한 안전성 검토를 수행했다고 언급했습니다. 회사에 따르면, 이 그룹은 앞으로도 OpenAI 안전 및 보안 팀으로부터 정기적인 브리핑을 받을 것이며, 안전 문제가 해결될 때까지 출시를 지연시킬 권한을 유지할 방침입니다.
OpenAI는 게시물에서 "안전 및 보안 위원회는... 현재 및 미래 모델에 대한 기술 평가 보고서뿐만 아니라 지속적인 출시 후 모니터링 보고서에 대한 정기 보고도 계속 받을 것입니다"라고 명시했습니다. 또한 "우리는 모델 출시를 위한 성공 기준이 명확하게 정의된 통합된 안전 및 보안 프레임워크를 수립하기 위해 모델 출시 프로세스와 관행을 개선하고 있습니다"라고 덧붙였습니다.
알트만이 안전 및 보안 위원회에서 물러난 배경에는 지난여름 다섯 명의 미국 상원의원이 알트만에게 보낸 서한을 통해 제기된 OpenAI의 정책에 대한 의문이 있었습니다. 한때 AI의 장기적 위험에 초점을 맞췄던 OpenAI 직원들 중 거의 절반이 퇴사했으며, 전 OpenAI 연구원들은 알트만이 OpenAI의 기업 목표를 우선시하기 위해 "진정한" AI 규제에 반대하고 있다고 비판해 왔습니다.
이들의 지적처럼, OpenAI는 연방 로비 활동 지출을 대폭 늘려 2024년 상반기에 80만 달러를 예산 책정했는데, 이는 작년 전체 예산인 26만 달러와 비교할 때 큰 폭의 증가입니다. 한편, 알트만은 올봄 초 미국 국토안보부의 인공지능 안전 및 보안 위원회에도 참여했습니다. 이 위원회는 미국의 핵심 인프라 전반에 걸쳐 AI의 개발 및 배포에 대한 권고 사항을 제공하는 역할을 수행합니다.
알트만이 퇴진하더라도, 안전 및 보안 위원회가 OpenAI의 상업적 로드맵에 중대한 영향을 미칠 만한 어려운 결정을 내릴 것이라는 근거는 미미합니다. 실제로 OpenAI는 지난 5월에 위원회를 통해 자사의 업무에 대한 "타당한 비판"을 다룰 것이라고 언급했는데, 여기서 '타당한 비판'의 기준은 물론 주관적일 수 있습니다.
지난 5월 《이코노미스트》에 기고한 전 OpenAI 이사들인 헬렌 토너와 타샤 맥컬리(Tasha McCauley)는 현재의 OpenAI가 자체적인 책임성을 갖추고 있다고 생각하지 않는다고 지적했습니다. 이들은 "우리의 경험에 비추어 볼 때, 자기 통제는 이윤 동기의 압력을 신뢰성 있게 견뎌내기 어렵다"고 주장했습니다.
그리고 OpenAI의 이윤 동기는 커지고 있습니다.
이 회사는 1,500억 달러 이상의 기업 가치를 지닌 기업에서 65억 달러 이상의 자금을 유치하는 라운드 진행 중이라는 소문이 돌고 있습니다. 이 거래를 성사시키기 위해 OpenAI는 자체적인 하이브리드 비영리 기업 구조(hybrid nonprofit corporate structure)를 포기할 수도 있다는 보고도 있습니다. 이 구조는 OpenAI가 "모든 인류에게 혜택을 주는" 인공 일반 지능을 개발한다는 창립 사명에 맞춰 유지되도록 투자자들의 수익을 제한하는 것을 목표로 했습니다.
[출처:] https://techcrunch.com/2024/09/16/sam-altman-departs-openais-safety-committee