OpenAI가 이사회에 새로운 이사로 Zico Kolter를 임명했다고 발표했습니다.
카네기멜런 대학교의 교수이자 머신러닝학과 부문 책임자인 콜터는 주로 AI 안전 분야에 연구 역량을 집중하고 있습니다. OpenAI는 공식 블로그에 올린 글을 통해 그가 "[OpenAI]의 거버넌스에 매우 귀중한 기술적 통찰력을 제공할 것"이라고 밝힌 바 있습니다.
AI 안전 문제는 오랫동안 이 회사에서 핵심적인 논점으로 자리 잡아왔습니다. 콜터의 이번 이사회 합류는 공동 창립자인 Ilya Sutskever를 포함하여 안전 문제에 초점을 맞춘 여러 저명한 OpenAI 임원 및 직원들이 회사를 떠난 지 몇 달 만에 이루어진 것입니다. 특히 퇴사한 직원 중 일부는 Sutskever의 전 "Superalignment" 팀 소속이었는데, 이 팀은 '초지능' AI 시스템 거버넌스 방법에 집중했으나, 소식통에 따르면 원래 약속되었던 컴퓨팅 자원에 대한 접근이 거부된 것으로 알려졌습니다.
콜터는 이와 함께 이사회 안전 및 보안 위원회에 합류하며, Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman, CEO Sam Altman 등 기존 이사들과 OpenAI 기술 전문가들로부터 동료들을 맞이하게 됩니다. 이 위원회는 모든 OpenAI 프로젝트의 안전 및 보안 결정에 대한 권고를 담당하고 있습니다. 다만, 지난 5월 기사에서 지적되었듯이 이 위원회는 주로 내부 인사들로 구성되어 있어 그 실효성에 대해 전문가들 사이에서 의문이 제기되기도 했습니다.
OpenAI 이사회 의장인 Taylor는 성명에서 "Zico는 일반 인공지능이 인류 전체의 이익에 기여하도록 보장하는 데 필수적인 깊이 있는 기술적 이해와 AI 안전성 및 견고성 관점을 더해줄 것"이라고 말했습니다.
이전에 C3.ai의 최고 데이터 과학자였던 콜터는 2010년 스탠퍼드 대학교에서 컴퓨터 과학 박사 학위를 받았고, 이후 2010년부터 2012년까지 MIT에서 박사후 연구원 과정을 마쳤습니다. 그의 연구 실적에는 자동화 최적화 기법을 통해 기존 AI 안전장치를 우회할 수 있는 가능성을 입증한 내용이 포함되어 있습니다.
업계 협력에 능숙한 콜터는 현재 Bosch의 "수석 전문가(chief expert)"이자 AI 스타트업 Gray Swan의 수석 기술 자문역을 겸하고 있습니다.
[출처:] https://techcrunch.com/2024/08/08/openai-adds-a-carnegie-mellon-professor-to-its-board-of-directors