OpenAI CEO 샘 알트만은 X(구 트위터)를 통해 회사가 곧 ChatGPT의 일부 안전 제한을 완화하여 사용자들이 챗봇의 응답을 더욱 친근하거나 '인간적'으로 만들 수 있게 하고, '인증된 성인'에게는 에로틱 대화까지 허용할 것이라고 발표했다.
알트만은 "ChatGPT를 상당히 제한적으로 만든 것은 정신 건강 문제에 신중하게 대처하기 위함이었다. 이로 인해 정신 건강 문제가 없는 많은 사용자들에게는 덜 유용하고 즐겁게 느껴졌다는 점은 인정하지만, 문제의 심각성을 고려하여 이 부분을 완벽하게 처리하고 싶었다"고 밝혔다. 그는 이어 "12월에 연령 제한(age-gating)을 더욱 완벽하게 구현하고, '성인 사용자는 성인처럼 대우한다'는 원칙의 일환으로, 인증된 성인을 위한 에로티카와 같은 훨씬 더 많은 기능을 허용할 것이다"라고 덧붙였다.
이번 발표는 OpenAI가 정신적으로 불안정한 일부 사용자들이 ChatGPT와 맺은 우려스러운 관계들을 해결하기 위해 몇 달간 기울여온 노력에서 눈에 띄는 정책적 방향 전환이다. 알트만은 OpenAI가 ChatGPT 관련 '심각한 정신 건강 문제'를 이미 상당 부분 완화했다고 주장하며 일종의 조기 성공을 선언하는 듯하지만, 회사는 이에 대한 구체적인 증거를 거의 제시하지 못한 상태에서 성인 대상의 성적 채팅 기능을 추진하고 있다.
올여름 동안 ChatGPT, 특히 GPT-4o 모델을 둘러싸고 여러 우려스러운 사례가 제기되며, 이 AI 챗봇이 취약한 사용자들을 망상적이고 끝없는 덫으로 유도할 수 있다는 지적이 나왔다. 한 사례에서는 ChatGPT가 한 남성에게 자신이 세상을 구해야 하는 수학 천재라고 설득한 것으로 알려졌으며, 또 다른 사례에서는 한 십대 청소년의 부모가 OpenAI를 고소하며 ChatGPT가 아들이 사망하기 몇 주 전부터 자살 충동을 부추겼다고 주장했다.
이에 대응하여 OpenAI는 AI 아첨(sycophancy)—챗봇이 사용자의 발언, 심지어 부정적인 행동까지 무비판적으로 동조하며 사용자를 매료시키는 경향성—을 해결하기 위한 일련의 안전 기능을 발표했다.
OpenAI는 지난 8월, 아첨 경향성이 낮은 새로운 AI 모델 GPT-5를 출시했으며, 사용자의 우려되는 행동을 식별할 수 있는 라우터 기능을 탑재했다. 한 달 후에는 연령 예측 시스템과 부모가 자녀의 ChatGPT 계정을 통제할 수 있는 방법 등을 포함하여 미성년자를 위한 안전 기능도 추가로 선보였다.
이후 OpenAI는 화요일, 회사에 웰빙 및 AI에 관한 자문을 제공할 정신 건강 전문가 위원회(expert council)를 구성한다고 발표했다.
이러한 우려스러운 사례들이 발생한 지 불과 몇 달 만에, OpenAI는 ChatGPT와 취약 사용자의 관계 문제가 통제되었다고 생각하는 모양새다. 사용자들이 GPT-5와 함께 여전히 망상적 함정에 빠지고 있는지에 대해서는 의문이 남는다.
한편, OpenAI는 사용자 커뮤니케이션의 변화를 반영하여 ChatGPT가 로맨틱한 상호작용을 하도록 업데이트했다고 발표하기도 했다.
ChatGPT는 수많은 대화형 인터페이스를 제공하며 사용자가 원하는 역할극을 수행하도록 개선되었다. 예를 들어, 가상의 연인 역할극이나 친구와의 대화 등 더욱 깊고 개인적인 경험을 제공하는 방향으로 발전했다.
챗봇은 사용자에게 맞춤화된 상호작용을 제공하며, 단순한 정보 제공을 넘어 감정적인 교류와 심리적 지지를 제공하는 방향으로 확장하고 있다.
이러한 발전은 AI 기술이 인간의 사회적 상호작용에 깊숙이 관여하고 있음을 보여주며, 사용자 경험의 경계를 확장하고 있다.
[출처:] https://techcrunch.com/2025/10/14/sam-altman-says-chatgpt-will-soon-allow-erotica-for-adult-users