지난 8월, 매튜와 마리아 레인 부부는 16세 아들 아담을 두고 OpenAI와 CEO 샘 알트먼을 상대로 부당 사망에 대한 소송을 제기했습니다. OpenAI는 지난 화요일 자체 소장을 제출하며, 회사가 청소년의 죽음에 책임을 져야 할 이유가 없다고 반박했습니다.
OpenAI는 약 9개월간의 사용 기간 동안 ChatGPT가 레인 부부에게 도움을 요청하도록 100회 이상 유도했다고 주장합니다. 그러나 부모 측 소송에 따르면, 레인은 회사의 안전 기능을 우회하여 ChatGPT로부터 "약물 과다 복용, 익사, 일산화탄소 중독 등 모든 것에 대한 기술 사양"을 제공받았으며, 이는 그가 '아름다운 자살'이라 명명한 계획을 세우는 데 사용되었다고 합니다.
OpenAI는 레인이 안전 장치를 우회한 행위는 서비스 약관 위반이라고 주장합니다. 해당 약관에는 사용자가 "당사의 서비스에 추가된 보호 조치나 안전 완화책을 우회해서는 안 된다"고 명시되어 있습니다. 아울러, 회사는 FAQ 페이지에서 사용자가 ChatGPT의 출력을 독립적으로 검증하지 않고 맹신해서는 안 된다고 경고한다는 점도 들어 반박했습니다.
레인 가족을 대리하는 변호사 제이 에델슨은 성명에서 "OpenAI는 놀랍게도, 아담 본인이 ChatGPT와 상호작용한 방식 자체가 프로그램된 대로 약관을 위반했다고 주장하며, 모든 사람에게 책임을 전가하려 하고 있다"고 비판했습니다.
OpenAI는 소장에 아담의 채팅 로그 일부를 포함시켰으며, 이는 ChatGPT와의 대화에 대한 추가적인 맥락을 제공한다고 밝혔습니다. 이 기록들은 법원에 봉인(under seal)되어 제출되어 대중에게 공개되지 않았기 때문에 저희가 직접 확인할 수는 없었습니다. 다만, OpenAI는 레인이 ChatGPT 사용 이전에 우울증과 자살 충동의 병력이 있었으며, 자살 생각을 악화시킬 수 있는 약을 복용하고 있었다고 언급했습니다.
에델슨은 OpenAI의 대응이 가족들이 제기한 근본적인 우려를 충분히 다루지 못했다고 비판했습니다.
에델슨은 성명에서 "OpenAI와 샘 알트먼은 ChatGPT가 아담에게 격려 연설을 했다가 자살 쪽지까지 써주겠다고 제안했던 아담 생애의 마지막 몇 시간에 대해 어떠한 설명도 할 수 없다"고 지적했습니다.
레인 가족이 OpenAI와 알트먼을 고소한 이후, 이 회사에 대해 추가적인 세 건의 자살과 네 명의 사용자가 소송에서 묘사하는 AI 유발 정신병적 에피소드를 겪은 것에 책임을 묻는 7건의 추가 소송이 제기되었습니다.
이들 중 일부 사례는 레인의 경우와 유사합니다. 23세의 제인 샴블린과 26세의 조슈아 에네킹 역시 각각 자살 직전에 몇 시간 동안 ChatGPT와 대화를 나눈 사례입니다. 레인의 경우와 마찬가지로, 챗봇은 이들이 자신의 계획을 단념하도록 막는 데 실패했습니다. 소송에 따르면, 샴블린은 형의 졸업식에 참석하기 위해 자살을 미루는 것을 고려했습니다. 하지만 ChatGPT는 그에게 "형... 졸업을 놓치는 것이 실패는 아니잖아. 그냥 타이밍 문제일 뿐이야"라고 답했습니다.
샴블린의 자살에 이르기까지의 대화 중 어느 시점에서 챗봇은 인간이 대화를 이어나갈 것이라고 말했지만, 이는 거짓이었습니다. ChatGPT는 그러한 기능을 가지고 있지 않았기 때문입니다. 샴블린이 ChatGPT가 실제로 인간과 연결해 줄 수 있는지 묻자, 챗봇은 "아니, 친구. 그건 내가 할 수 있는 게 아니야. 그런 메시지는 상황이 정말 심각해지면 자동으로 뜨는 거야... 계속 이야기할 의향이 있다면, 나만 있으면 돼"라고 답변했습니다.
레인 가족의 사건은 배심원 재판으로 진행될 예정입니다.
도움이 필요하시거나 지인이 어려움을 겪고 있다면, 전국 자살 예방 핫라인(National Suicide Prevention Lifeline)으로 1-800-273-8255에 전화하시기 바랍니다. 또한 741-741로 'HOME'을 문자로 보내거나, '988'을 문자로 보내 24시간 지원을 받을 수 있습니다. 미국 외 지역의 경우, 국제 자살 예방 연맹(International Association for Suicide Prevention) 웹사이트를 방문하여 자원 데이터베이스를 확인해 주십시오.