OpenAI의 선임 안전 연구원 중 한 명인 리리안 웽(Lilian Weng)이 금요일에 스타트업을 떠난다고 발표했습니다. 웽은 8월부터 연구 및 안전 부문 부사장(VP of research and safety)을 역임했으며, 그 이전에는 OpenAI의 안전 시스템 팀 책임자(head of OpenAI’s safety systems team)였습니다.
웽은 X(구 트위터)에 올린 글을 통해 "OpenAI에서 7년을 보내면서, 저는 재정비하고 새로운 분야를 탐험할 준비가 되었다고 느낍니다"라고 말했습니다. 그녀는 마지막 근무일이 11월 15일이라고 밝혔으나, 다음 행선지는 구체적으로 언급하지 않았습니다.
웽은 해당 게시물에서 "OpenAI를 떠나기로 한 것은 매우 어려운 결정이었습니다"라고 밝히며, "우리가 이룩한 성과에 매우 자부심을 느끼고, 특히 안전 시스템 팀원들 모두가 계속 성장할 수 있을 것이라는 확신을 가지고 있습니다"라고 덧붙였습니다.
웽의 퇴사는 지난 1년간 회사를 떠난 AI 안전 연구원, 정책 연구원, 기타 임원들이 늘어난 흐름 중 하나입니다. 이들 중 일부는 OpenAI가 AI 안전보다는 상업적 제품에 우선순위를 둔다고 비판해 왔습니다. 웽은 또한 슈퍼지능 AI 시스템을 제어하는 방법을 개발하려 했던, 현재 해체된 OpenAI의 슈퍼정렬(Superalignment) 팀 리더였던 [이름 누락]와 [이름 누락]이 올해 회사를 떠나 다른 곳의 AI 안전 분야에서 활동하게 된 사례를 잇고 있습니다.
그녀의 링크드인에 따르면, 웽은 2018년 OpenAI에 처음 합류했으며, 당시 루빅스 큐브를 푸는 로봇 손을 개발한 로봇공학 팀에서 근무했습니다. 그녀의 게시물에 따르면, 이 로봇 손을 개발하는 데만 2년이 소요되었습니다.
OpenAI가 GPT 패러다드에 집중하기 시작하자, 웽 역시 그 흐름에 동참했습니다. 이 연구원은 2021년 스타트업의 응용 AI 연구팀 구축을 지원하기 위해 자리를 옮겼습니다. GPT-4 출시 이후, 웽은 2023년에 스타트업의 안전 시스템 구축을 전담하는 임무를 맡게 되었습니다. 웽의 게시물에 따르면, 현재 OpenAI의 안전 시스템 부서는 80명 이상의 과학자, 연구원, 그리고 정책 전문가들로 구성되어 있습니다.
AI 안전 분야의 인력이 많지만, 많은 전문가들이 OpenAI가 점점 더 강력한 AI 시스템을 구축하려 노력하는 과정에서 안전에 대한 초점이 맞추는 방식에 대해 우려를 제기해왔습니다. 오랜 정책 연구원이었던 마일즈 브런지(Miles Brundage)는 10월에 스타트업을 떠나, 자신이 조언했던 OpenAI의 AGI 준비 팀(AGI readiness team)을 해체한다고 발표했습니다. 같은 날, 뉴욕타임즈는 전 OpenAI 연구원인 [이름 누락]에 대한 기사를 게재했는데, 그는 OpenAI의 기술이 사회에 이익보다 해를 끼칠 것이라고 판단하여 회사를 떠났다고 언급했습니다.
OpenAI는 테크크런치에 전해진 바에 따르면, 현재 임원 및 안전 연구원들이 웽을 대체할 전환 작업을 진행하고 있다고 밝혔습니다.
OpenAI 대변인은 이메일 성명을 통해 "리리안의 획기적인 안전 연구와 엄격한 기술 안전장치 구축에 대한 공헌에 깊이 감사드립니다"라며, "안전 시스템 팀이 앞으로도 우리 시스템이 안전하고 신뢰할 수 있도록 핵심적인 역할을 수행하며 전 세계 수억 명의 사람들에게 기여할 것이라고 확신합니다"라고 전했습니다.
최근 몇 달 사이 OpenAI를 떠난 다른 임원들로는 CTO 미라라티(Mira Murati), 최고 연구 책임자(chief research officer) 밥 맥그루(Bob McGrew), 그리고 연구 부사장(research VP) 바렛 조프(Barret Zoph) 등이 있습니다. 8월에는 저명한 연구원 겸 공동 창업자인 [이름 누락] 역시 스타트업을 떠날 것이라고 발표했습니다. 이들 중 일부(Leike와 Schulman 포함)는 OpenAI의 경쟁사인 Anthropic에 합류했으며, 다른 이들은 각자의 벤처를 설립했습니다.
[출처:] https://techcrunch.com/2024/11/08/openai-loses-another-lead-safety-researcher-lilian-weng