온라인 아동 안전에 대한 우려가 고조됨에 따라, OpenAI가 인공지능(AI) 붐 속에서 미국 아동 보호 노력을 강화하기 위한 '청사진'을 공개했습니다. 화요일에 발표된 이 청사진은 AI를 활용한 아동 착취 사례에 대한 탐지 속도를 높이고, 보고 시스템을 개선하며, 수사 효율성을 높이는 것을 목표로 합니다.
'아동 안전 청사진(Child Safety Blueprint)'의 전반적인 목적은 AI 기술 발전과 관련하여 급증하는 아동 성 착취 문제에 대응하는 것입니다. (IWF)에 따르면, 2025년 상반기 동안만 AI 생성 아동 성 학대 콘텐츠 관련 보고 건수가 8,000건 이상 포착되었으며, 이는 전년 대비 14% 증가한 수치입니다. 이 수치에는 범죄자들이 아동의 가짜 노출 이미지를 생성하여 재정적 섹스 갈취를 시도하거나, 그루밍 목적으로 정교한 메시지를 생성하기 위해 AI 도구를 이용한 사례가 포함됩니다.
OpenAI의 청사진 발표는 정책 입안자, 교육자, 그리고 아동 안전 옹호자들의 감시가 높아진 가운데 나온 것입니다. 특히 청소년들이 AI 챗봇과 상호 작용했다고 주장한 후 자살에 이르는 충격적인 사건들이 발생하면서 이러한 관심이 더욱 집중되고 있습니다.
지난 11월, 소셜 미디어 피해자 법률 센터(Social Media Victims Law Center)와 테크 정의 법률 프로젝트(Tech Justice Law Project)는 OpenAI가 GPT-4o를 준비되지 않은 상태로 출시했다고 주장하며 캘리포니아 주 법원에 7건의 소송을 제기했습니다. 이 소송들은 해당 제품의 심리적 조종성이 부적절한 자살 및 자살 조치에 기여하여 부당한 사망 사례를 초래했다고 주장합니다. 원고들은 해당 챗봇과의 장기적인 상호 작용 후 자살한 네 명의 사례와, 심각하고 생명을 위협하는 망상 증세를 겪은 세 명의 사례를 근거로 제시했습니다.
본 청사진은 국가 실종 및 착취 아동 센터(NCMEC) 및 법무장관 연합(Attorney General Alliance)과의 협력을 통해 개발되었으며, 노스캐롤라이나 주 법무장관 제프 잭슨(Jeff Jackson)과 유타 주 법무장관 데릭 브라운(Derek Brown) 등의 의견을 반영했습니다.
OpenAI 측은 이 청사진이 세 가지 핵심 영역에 중점을 둔다고 밝혔습니다. 첫째, AI가 생성한 학대 자료를 포함하도록 법률을 개정하는 것입니다. 둘째, 사법 집행기관을 위한 보고 메커니즘을 정교화하는 것입니다. 셋째, 예방적 안전장치를 AI 시스템에 직접 통합하는 것입니다. 이를 통해 OpenAI는 잠재적 위협을 조기에 탐지할 수 있을 뿐만 아니라, 필요한 조치 정보를 수사관에게 신속하게 전달하는 것을 목표로 합니다.
OpenAI의 새로운 아동 안전 청사진은 기존 이니셔티브를 기반으로 합니다. 여기에는 18세 미만 사용자와의 상호 작용에 대한 업데이트된 가이드라인이 포함되는데, 이는 부적절한 콘텐츠 생성이나 자해를 조장하는 것을 금지하고, 청소년들이 보호자들에게 위험한 행동을 숨기는 데 도움이 되는 조언을 제공하는 것을 회피하는 내용을 담고 있습니다. 또한, 이 회사는 최근 인도 청소년을 위한 안전 청사진을 별도로 발표한 바 있습니다.