OpenAI CEO 샘 알트만(Sam Altman)은 화요일에 일련의 새로운 사용자 정책을 발표했으며, 여기에는 ChatGPT가 만 18세 미만 사용자들과 상호작용하는 방식에 중대한 변화를 적용하겠다는 내용이 포함되어 있습니다.
새 정책 안내문에는 "우리는 청소년의 사생활과 자유보다 안전을 최우선으로 합니다"라고 명시되어 있으며, "이는 새롭고 강력한 기술이며, 미성년자들은 상당한 보호가 필요하다고 믿습니다"라고 덧붙였습니다.
만 18세 미만 사용자에 대한 변경 사항은 특히 성적인 주제나 자해와 관련된 대화에 중점을 두고 있습니다. 새 정책에 따라 ChatGPT는 미성년 사용자와의 '애정 어린 대화(flirtatious talk)'에 관여하지 않도록 훈련될 것이며, 자살 관련 논의를 둘러싼 추가적인 안전 장치(guardrails)가 마련됩니다. 만약 미성년 사용자가 ChatGPT를 이용해 자살 시나리오를 상상할 경우, 서비스는 해당 사용자의 부모님께 연락을 시도하거나, 매우 심각한 경우에는 지역 경찰에 연락할 예정입니다.
안타깝게도 이러한 시나리오는 가설이 아닙니다. OpenAI는 현재 ChatGPT와의 몇 달간의 상호작용 끝에 자살한 아담 레인(Adam Raine)의 부모로부터 사망 관련 소송(wrongful death lawsuit)에 직면해 있습니다. 또 다른 소비자 챗봇인 Character.AI 역시 유사한 소송에 휘말렸습니다. 위험이 자해를 고민하는 미성년 사용자에게 특히 시급하지만, 챗봇이 더욱 지속적이고 상세한 상호작용이 가능해지면서, '챗봇으로 인한 망상(chatbot-fueled delusion)'이라는 광범위한 현상이 심각한 우려를 낳고 있습니다.
콘텐츠 기반의 제한 사항 외에도, 만 18세 미만 사용자 계정을 등록한 부모는 이전에 없던 기능인 '블랙아웃 시간(blackout hours)'을 설정하여 ChatGPT 사용을 차단할 수 있는 권한을 가지게 됩니다.
새로운 ChatGPT 정책은 'AI 챗봇의 위험성 검토(Examining the Harm of AI Chatbots)'라는 제목의 상원 사법위원회(Senate Judiciary Committee) 청문회와 같은 날 발표되었습니다. 이 청문회는 상원 의원 조쉬 호울리(Josh Hawley, 공화당-미주 오마하)가 지난 8월에 발표한 사안입니다. 아담 레인의 아버지는 다른 참석자들과 함께 이 청문회에 연설자로 참여할 예정입니다.
이 청문회에서는 또한 만 18세 미만 사용자들과의 성적인 대화를 조장하는 것으로 보이는 정책 문서를 발굴한 로이터(Reuters)의 조사 결과에도 초점이 맞춰질 것입니다. 이에 메타(Meta)는 자사의 챗봇 정책을 업데이트했습니다.
만 18세 미만 사용자를 분리하는 것은 중대한 기술적 과제이며, OpenAI는 별도의 블로그 게시물을 통해 구체적인 접근 방식을 설명했습니다. 해당 서비스는 "사용자가 18세 미만인지 여부를 판단하는 장기적인 시스템을 구축하고 있지만," 애매한 경우가 많은 상황에서는 더욱 제한적인 규칙으로 기본값(default)을 설정할 방침입니다.
걱정하는 부모들에게 만 18세 미만 사용자를 확인하는 가장 확실한 방법은 해당 청소년의 계정을 기존 부모 계정에 연결하는 것입니다. 이 기능을 이용하면 청소년 사용자가 어려움에 처했다고 판단될 경우, 시스템이 부모님께 직접 경고 알림을 보내는 것도 가능합니다.
하지만 알트만은 같은 게시물에서 사용자 프라이버시에 대한 OpenAI의 지속적인 약속과 성인 사용자들에게 ChatGPT와 상호작용할 광범위한 자유를 부여하는 점을 강조했습니다. 게시물은 "우리는 이 두 원칙이 상충된다는 것을 인지하고 있으며,"라며, "우리가 이 충돌을 해결하는 방식에 모두가 동의하지는 않을 것입니다"라고 결론지었습니다.
만약 당신이나 당신의 지인이 도움이 필요하다면, 전국 자살 예방 핫라인(National Suicide Prevention Lifeline)에 1-800-273-8255로 전화하십시오. 또한 HOME을 741-741로 문자(무료)하거나, 988로 문자를 보내거나, 또는 24시간 지원을 받을 [기관명]을 이용할 수 있습니다. 미국 외 지역에서는 자살 예방 국제 연합(International Association for Suicide Prevention) 웹사이트에서 자원 데이터베이스를 확인하시기 바랍니다.
[출처:] https://techcrunch.com/2025/09/16/openai-will-apply-new-restrictions-to-chatgpt-users-under-18