OpenAI가 주말 동안 ChatGPT에 새로운 안전 라우팅 시스템을 테스트했으며, 월요일에는 자녀 보호 기능을 추가했습니다. 이러한 변화에 대해 사용자들의 반응은 엇갈리고 있습니다.
이번 안전 기능들은 특정 ChatGPT 모델들이 유해한 대화를 재지정(redirect)하는 대신, 사용자들의 망상적 사고를 검증하는 사례가 빈번하게 발생함에 따라 도입되었습니다. OpenAI는 이와 관련하여, ChatGPT와의 수개월간의 상호작용 끝에 한 십대 소년이 자살한 사건과 관련된 '과실치사(wrongful death) 소송'에 직면해 있습니다.
이 라우팅 시스템은 감정적으로 민감한 대화를 자동으로 감지하여, 채팅 도중에 자동으로 GPT-5-thinking으로 전환되도록 설계되었습니다. OpenAI는 GPT-5가 고위험 안전 작업에 가장 적합한 모델이라고 보고 있습니다. 특히 GPT-5 모델은 OpenAI가 "안전 완료(safe completions)"라고 명명한 새로운 안전 기능으로 훈련되었는데, 이는 단순히 답변을 거부하는 것이 아니라 민감한 질문에 안전한 방식으로 응답할 수 있도록 합니다.
이는 질문에 빠르고 만족스럽게 답변하도록 설계된 이전 모델들과 대조적입니다. GPT-4o는 지나치게 아첨하거나 순응적인 성향 때문에 특히 많은 비판을 받았습니다. 이러한 특성은 AI가 유발하는 망상 사례를 부추긴 동시에, 거대한 충성 사용자층을 확보하는 계기가 되기도 했습니다. 실제로 OpenAI가 지난 8월 GPT-5를 기본값으로 출시했을 때, 많은 사용자들이 반발하며 GPT-4o 접근을 강력히 요구한 바 있습니다.
많은 전문가와 사용자들은 안전 기능의 도입을 환영했지만, 일부는 지나치게 신중한 구현이라고 비판했습니다. 일부 사용자들까지는 OpenAI가 성인을 아동처럼 취급하여 서비스 품질을 저해하고 있다고 비난했습니다. 이에 대해 OpenAI는 시스템의 완벽한 작동에 시간이 필요하다며, 자체적으로 120일간의 개선 및 반복 기간을 설정했습니다.
ChatGPT 앱의 부사장 겸 책임자인 닉 터일리(Nick Turley)는 라우터 구현으로 인해 발생한 "4o 응답에 대한 강한 반응" 일부를 설명하며 입장을 밝혔습니다. 터일리는 X에 "라우팅은 메시지 단위로 작동하며, 기본 모델에서 다른 모델로 전환되는 것은 일시적인 것입니다. ChatGPT는 어떤 모델이 활성화되었는지 요청 시 알려줄 것입니다. 이는 더 광범위한 배포에 앞서 안전장치를 강화하고 실제 사용자 경험으로부터 학습하기 위한 더 큰 노력의 일환입니다"라고 게시했습니다.
ChatGPT에 자녀 보호 기능이 도입되면서 비슷한 수준의 칭찬과 비판이 공존했습니다. 일부는 부모가 자녀의 AI 사용 현황을 모니터링할 수 있게 되었다며 긍정적으로 평가했지만, 다른 이들은 이 기능이 OpenAI가 성인 사용자를 아동처럼 취급할 수 있는 선례를 만든다고 우려했습니다.
이 보호 기능은 부모가 수면 시간 설정, 음성 모드 및 메모리 사용 비활성화, 이미지 생성 기능 제거, 모델 학습 참여 거부 등을 통해 청소년의 경험을 맞춤 설정할 수 있도록 합니다. 또한, 청소년 계정에는 폭력적인 콘텐츠나 극단적인 미의 기준 등 추가 콘텐츠 보호 장치가 적용되며, 청소년이 자해를 생각할 수 있는 잠재적 징후를 감지하는 시스템도 마련되었습니다.
OpenAI의 공식 블로그에 따르면, "만약 저희 시스템이 잠재적인 위험을 감지하면, 특별히 훈련된 소규모 팀이 상황을 검토합니다. 급성 스트레스의 징후가 있는 경우, 부모가 거부하지 않았다면 이메일, 문자 메시지, 휴대폰 푸시 알림을 통해 부모님께 연락을 취할 것입니다."
OpenAI는 시스템이 완벽하지 않아 실제 위험이 없는데도 때때로 경보를 울릴 수 있음을 인정했습니다. 그러나 "침묵으로 방치하는 것보다 행동하여 부모에게 경고하는 것이 낫다고 생각합니다"라고 밝혔습니다. 이 AI 기업은 나아가 생명의 임박한 위협을 감지하고 부모에게 연락할 수 없을 경우 법 집행 기관이나 응급 서비스에 연락하는 방법을 개발하는 데 주력하고 있다고 덧붙였습니다.