오픈AI의 오랜 정책 연구원이며 AGI 준비 팀의 선임 자문위원이었던 마일스 브런디지(Miles Brundage)가 퇴사했습니다.
브런디지는 수요일 X(트위터) 게시물과 뉴스레터 에세이를 통해 비영리 부문에서 연구원 및 정책 옹호가로 활동하는 것이 더 큰 영향력을 발휘할 것이라고 밝혔습니다. 그는 그곳에서 "자유롭게 연구하고 발표할 기회가 더 많을 것"이라고 언급했습니다.
브런디지는 "오픈AI에서 일하는 것은 현재 그 어느 때보다 믿을 수 없을 만큼 영향력이 큰 기회였기에, 이 결정이 내려지기까지 쉽지 않았다"고 전하며, "오픈AI는 사명에 깊이 공감하고, 개발 및 배포(점차 중요해질 내부 배포 포함) 과정에 걸쳐 엄격한 의사결정 문화를 유지하는 데 전념하는 직원들을 필요로 한다"고 덧붙였습니다.
브런디지의 퇴사로 인해, 최근까지 AGI 준비 팀의 하위 부서였던 오픈AI의 경제 연구 부문은 오픈AI의 새 최고 이코노미스트(chief economist)인 로니 채터지(Ronnie Chatterji)의 관할로 이관됩니다. 브런디지에 따르면, 해체 수순을 밟는 AGI 준비 팀의 잔여 업무는 다른 오픈AI 부서들로 분산될 것이며, 미션 정렬 담당 책임자인 조슈아 아치엄(Joshua Achiam)이 AGI 준비 팀의 일부 프로젝트를 이어받게 될 예정입니다.
한 오픈AI 대변인은 TechCrunch에 회사 측이 브런디지가 산업 외부에서 정책 연구를 추구하는 결정을 "전적으로 지지하며" 그의 공헌에 대해 "깊은 감사를 표한다"고 밝혔습니다.
대변인은 성명을 통해 "AI 정책에 대한 독립적인 연구에 전념하려는 브런디지의 계획은 그에게 더 광범위한 규모로 영향력을 미칠 기회를 제공하며, 우리는 그의 작업으로부터 배우고 그 영향을 지켜보게 되어 기대된다"라고 말했습니다. 또한 "새로운 역할에서도 마일스가 산업과 정부의 정책 결정 품질 기준을 계속 높여나갈 것이라고 확신한다"고 덧붙였습니다.
이 대변인은 브런디지의 업무를 누가 계승할지에 대해서는 언급하지 않았습니다.
브런디지는 2018년 오픈AI에 합류했으며, 처음에는 연구 과학자로 근무하여 이후 회사 정책 연구 책임자가 되었습니다. 오픈AI 이전에는 옥스퍼드 대학교 미래 인류학 연구소의 연구 펠로우로 활동했습니다.
AGI 준비 팀에 소속되어 있을 당시 브런디지는 특히 ChatGPT와 같은 언어 생성 시스템의 책임감 있는 배포에 초점을 맞추었습니다. 그는 또한 오픈AI의 외부 레드팀(red teaming) 프로그램과 AI 모델의 역량 및 한계를 기록한 최초의 "시스템 카드(system card)" 보고서 등 다른 이니셔티브를 주도했습니다.
최근 몇 년간 오픈AI는 여러 전직 직원 및 이사들로부터 AI 안전보다는 상업용 제품을 우선시했다는 비판을 받아왔습니다. 브런디지는 X 게시물을 통해 오픈AI 직원들에게 회사가 개선할 수 있는 방안에 대해 "자신의 목소리를 낼 것"을 촉구했습니다.
그는 "저를 떠나는 것이 슬프다는 사람들도 있었고, 제가 이곳에 있는 동안 우려나 질문을 제기하는 것을 기꺼이 했던 점에 감사해한다는 말도 들었다"며, "오픈AI는 앞으로 많은 어려운 결정들을 앞두고 있으며, 만약 우리가 집단사고(groupthink)에 굴복한다면 올바른 결정을 내리지 못할 것"이라고 적었습니다.
오픈AI는 회사 방향성에 대한 이견이 쌓이면서 최근 몇 주 동안 여러 유명 임원들을 연달아 내보냈습니다.
CTO 미라 무라티(Mira Murati), 최고 연구 책임자 밥 맥그루(Bob McGrew), 그리고 연구 부문 VP 바레트 조프(Barret Zoph)는 9월 말 사임한다고 발표했습니다. 저명한 연구 과학자 안드레이 카파티(Andrej Karpathy)는 2월에 오픈AI를 떠났고, 몇 달 후에는 오픈AI 공동 창업자이자 전 최고 과학 책임자였던 일리야 수츠케버(Ilya Sutskever)와 전 안전 책임자가 퇴사했습니다. 지난 8월에는 공동 창업자가 오픈AI를 떠날 것이라고 밝혔습니다. 또한 회사의 사장인 그렉 브록먼(Greg Brockman)은 장기 휴가 중입니다.
이로써 오픈AI에게는 꽤나 힘든 하루였습니다.
수요일 아침, 이 회사는 전 OpenAI 연구원 수치르 발라지(Suchir Balaji)가 뉴욕 타임스(New York Times) 특집 기사의 주인공이 되었습니다. 발라지는 자신이 회사를 떠난 이유가 자신이 기술이 사회에 가져올 해로움이 이로움보다 크다고 믿었기 때문이라고 밝혔습니다. 발라지는 또한 OpenAI가 허가 없이 저작권 보호 데이터를 모델 훈련에 사용함으로써 저작권을 침해했다고 비난했는데, 이 주장은 다른 사람들이 조직을 상대로 제기한 집단 소송에서도 제기된 바 있습니다.
[출처:] https://techcrunch.com/2024/10/23/longtime-policy-researcher-miles-brundage-leaves-openai