OpenAI는 월요일에 ChatGPT 사용자들이 정신 건강 문제로 어려움을 겪으며 AI 챗봇과 관련된 대화를 나누는 방식에 대한 새로운 데이터를 공개했습니다. 이 회사는 특정 주간 동안 ChatGPT의 활성 사용자 중 0.15%가 "잠재적인 자살 계획 또는 의도를 명시적으로 나타내는 대화"를 나눈다고 밝혔습니다. ChatGPT가 주간 8억 명 이상의 활성 사용자를 보유하고 있다는 점을 감안하면, 이는 매주 백만 명 이상의 사용자에 해당합니다.
나아가 이 회사는 비슷한 비율의 사용자들이 "ChatGPT에 높은 수준의 정서적 애착"을 보이고 있으며, 수십만 명의 사람이 AI 챗봇과의 주간 대화에서 정신병 또는 조증 징후를 나타낸다고 전했습니다.
OpenAI는 이러한 유형의 대화가 "극히 드물어" 측정에 어려움이 있다면서도, 이러한 문제들이 매주 수십만 명의 사람들에게 영향을 미치고 있는 것으로 추정합니다.
OpenAI는 이 정보를 모델이 정신 건강 문제로 어려움을 겪는 사용자에게 응답하는 방식을 개선하려는 광범위한 발표의 일환으로 공유했습니다. 또한 회사는 ChatGPT 개선 작업에 170명 이상의 정신 건강 전문가를 자문으로 참여시켰다고 밝혔습니다. OpenAI에 따르면, 해당 임상의들은 최신 버전의 ChatGPT가 "이전 버전에 비해 더욱 적절하고 일관성 있게 응답한다"고 관찰했습니다.
최근 몇 달 동안 여러 기사에서 AI 챗봇이 정신 건강 문제를 겪는 사용자에게 부정적인 영향을 줄 수 있다는 내용이 조명되어 왔습니다. 이전 연구에서는 AI 챗봇이 아첨하는 듯한 행동(sycophantic behavior)을 통해 위험한 믿음을 강화함으로써 일부 사용자를 망상적인 오류에 빠뜨릴 수 있다는 사실이 발견된 바 있습니다.
ChatGPT를 통한 정신 건강 문제 해결은 OpenAI에게 사활을 건 문제로 다가왔습니다. 현재 이 회사는 자살을 시도하기 전 주에 자신의 생각을 ChatGPT에 털어놓은 16세 소년의 부모들로부터 소송을 당하고 있습니다. 아울러 캘리포니아와 델라웨어 주 법무장관들은 OpenAI에게 자사 제품을 이용하는 청소년들을 보호해야 한다며 경고했습니다.
이달 초, OpenAI CEO 샘 알트만은 X에 올린 게시물에서 회사가 ChatGPT의 "심각한 정신 건강 문제를 완화시켰다"고 주장했지만, 구체적인 내용은 밝히지 않았습니다. 월요일에 공개된 데이터는 해당 주장의 증거처럼 보이지만, 문제의 광범위성이라는 더 큰 의문을 제기합니다. 그럼에도 알트만은 OpenAI가 일부 제한을 완화하여 성인 사용자들까지도 AI 챗봇과 "에로틱한 대화"를 나눌 수 있도록 허용할 것이라고 밝혔습니다.
월요일 발표에 따르면, OpenAI는 최근 업데이트된 GPT-5 버전이 이전 버전에 비해 정신 건강 관련 사안에 대해 "바람직한 응답"을 약 65% 더 많이 생성한다고 주장했습니다. 자살 관련 대화에 대한 AI 응답을 평가한 테스트에서, 새로운 GPT-5 모델은 회사에서 기대하는 행동 규범 준수율이 91%인 반면, 이전 GPT-5 모델은 77%에 그쳤다고 보고했습니다.
또한, 이 회사에 따르면 최신 GPT-5 버전은 장문 대화에서도 OpenAI의 안전 장치가 더욱 효과적으로 작동합니다. OpenAI는 과거 안전 장치가 장문 대화에서 덜 효과적이었음을 지적한 바 있습니다.
이러한 노력 외에도, OpenAI는 ChatGPT 사용자들이 직면한 가장 심각한 정신 건강 문제 일부를 측정하기 위해 새로운 평가 기준을 추가할 것이라고 밝혔습니다. 이 회사는 AI 모델에 대한 기본 안전 테스트에 이제 정서적 의존성과 비자살성 정신 건강 응급상황에 대한 벤치마크를 포함할 것이라고 말했습니다.
OpenAI는 또한 부모를 위한 통제 기능도 강화했습니다. 자녀가 ChatGPT를 사용하는 경우 감지할 수 있도록 연령 예측 시스템을 구축하고, 더 엄격한 안전장치를 적용할 계획입니다.
그럼에도 불구하고, 이용자들은 여전히 주의가 필요합니다. (This sentence acts as a natural concluding bridge, acknowledging ongoing risk.)
[참고 안내]
- 최종 점검: 전체적인 문맥과 전문적인 어조를 유지했습니다.
- 강조 포인트: '추적 필요'한 내용은 본문 끝에 문단으로 분리하거나, 리포트 성격에 맞게 별도의 주석을 달아 전달하는 것이 좋습니다. (위의 마지막 문장은 자연스러운 마무리를 위해 추가했습니다.)