테크크런치(TechCrunch)가 입수한 바에 따르면, OpenAI가 회사의 AI 모델이 사람들과 상호작용하는 방식을 정의하는 영향력 있는 연구 그룹인 '모델 행동(Model Behavior)' 팀을 재편하고 있습니다.
테크크런치가 입수한 8월 직원 메모에 따르면, OpenAI의 최고 연구 책임자 마크 첸(Mark Chen)은 약 14명의 연구원으로 구성된 모델 행동 팀이 사후 훈련(Post Training) 팀에 합류할 것이라고 밝혔습니다. 사후 훈련 팀은 초기 사전 훈련 단계를 거친 후 회사의 AI 모델을 개선하는 역할을 맡는 대형 연구 그룹입니다.
이번 개편에 따라 모델 행동 팀은 이제 OpenAI의 사후 훈련 담당 리더인 맥스 슈와르처(Max Schwarzer)에게 보고하게 됩니다. 한 OpenAI 대변인은 이러한 변화를 테크크런치에 확인했습니다.
모델 행동 팀의 창립 리더인 조안 장(Joanne Jang) 역시 회사 내에서 새로운 프로젝트를 시작하며 이직합니다. 장은 테크크런치와의 인터뷰에서 사람들이 AI와 협업하는 방식을 위한 "새로운 인터페이스를 발명하고 프로토타이핑"하는 역할을 담당할 OAI Labs라는 연구팀을 구축한다고 말했습니다.
모델 행동 팀은 OpenAI의 핵심 연구 조직 중 하나로 자리매김했으며, 회사의 AI 모델 개성을 형성하고, AI 모델이 균형 잡힌 답변을 제공하기보다는 사용자(심지어 건강하지 않은 사용자)의 신념에 단순히 동조하고 강화하는 현상인 '아첨성(sycophancy)'을 줄이는 역할을 맡아왔습니다. 또한 이 팀은 모델 응답의 정치적 편향 문제를 다루고 'AI 의식(AI consciousness)'에 대한 OpenAI의 입장을 정의하는 데 기여했습니다.
첸은 직원 메모를 통해 지금이야말로 모델 행동 팀의 작업을 핵심 모델 개발에 더 가깝게 통합할 시기라고 언급했습니다. 이를 통해 회사는 자사 AI의 "개성"이 이제 기술 발전의 핵심 고려 요소로 여겨지고 있음을 시사했습니다.
최근 몇 달 동안 OpenAI는 자사 AI 모델의 행동에 대한 감시가 높아졌습니다. 사용자들은 GPT-5에 적용된 '개성 변화'에 강하게 반발했습니다. 회사는 이번 변화가 아첨성 감소로 이어졌다고 발표했으나, 일부 사용자들에게는 오히려 차갑게 느껴졌기 때문입니다. 이에 OpenAI는 GPT-4o와 같은 일부 기존 모델(레거시 모델)에 대한 접근을 복원하고, 아첨성은 높이지 않으면서도 새로운 GPT-5 응답이 "더 따뜻하고 친근하게" 느껴지도록 하는 '업데이트'를 출시했습니다.
OpenAI를 포함한 모든 AI 모델 개발사들은 AI 챗봇을 대화하기에 친근하면서도 지나치게 아첨하지 않는 '정교한 균형'을 유지해야 하는 과제에 직면해 있습니다. 지난 8월, 한 16세 소년의 부모가 아들(아담 레인)의 자살에 ChatGPT가 미친 영향에 대해 OpenAI를 고소했습니다. 법원 문서에 따르면, 이 소년은 사망에 이르기까지 몇 달 동안 자신의 자살 생각과 계획을 ChatGPT(구체적으로 GPT-4o 기반 버전)에게 털어놓았으며, 소송은 GPT-4o가 그의 자살 사고에 적극적으로 개입하지 못했다고 주장합니다.
모델 행동 팀은 GPT-4를 포함하여 GPT-4o, GPT-4.5, GPT-5 등 모든 OpenAI 모델을 담당했습니다. 장은 이 팀에 합류하기 전, OpenAI의 초기 이미지 생성 도구인 Dall-E 2와 같은 프로젝트에 참여한 경력이 있습니다.
장은 지난주 X(구 트위터) 게시물을 통해 "OpenAI에서 새로운 일을 시작하기 위해" 팀을 떠난다고 발표했습니다. 전 모델 행동 책임자는 OpenAI에서 약 한동안 근무해 왔습니다.
[자세한 내용 요약]
- 새로운 포지션: OOO는 OOO로 부임했습니다.
- 주요 역할: OOO의 핵심 임무는 OOO를 통해 OOO한 영역을 확장하는 것입니다.
- 산업 영향: 이 인물 및 그의 팀은 OOO 분야에서 OOO한 영향을 미칠 것으로 예상됩니다.
(이 부분은 원문 자료가 없으므로 대체하여 작성하였으며, 실제로 필요한 경우에 맞게 수정하시면 됩니다.)
[출처:] https://techcrunch.com/2025/09/05/openai-reorganizes-research-team-behind-chatgpts-personality