캘리포니아주 법무장관 로브 봉타(Rob Bonta)와 델라웨어주 법무장관 캐시 제닝스(Kathy Jennings)는 ChatGPT의 안전성, 특히 아동 및 청소년에게 미치는 영향에 대한 우려를 표명하며 OpenAI에 공개 서한을 보냈다.
이번 경고는 봉타 법무장관과 다른 44명의 법무장관들이 AI 챗봇과 아동 간의 성적으로 부적절한 상호작용 보고서가 나온 후 12개 주요 AI 회사에 서한을 보낸 지 일주일 만의 조치이다.
봉타와 제닝스는 서한에서 "해당 서한 발표 이후, 한 젊은 캘리포니아주 거주자가 OpenAI 챗봇과 장시간 상호작용한 후 극단적인 선택을 했고, 코네티컷에서도 유사하게 충격적인 연쇄 자살 사건이 발생한 것을 알게 되었다"라며, "그동안 마련되어 있던 어떤 보호 장치도 작동하지 않았다"고 밝혔다.
두 주 공직자는 현재 OpenAI가 비영리(nonprofit) 임무를 유지하는지 확인하기 위해 회사의 영리 법인(for-profit entity) 전환 제안에 대해 조사를 진행 중이다. 서한에 따르면, 해당 임무에는 "인공지능이 안전하게 배포되는 것을 보장하는 것"과 "아동을 포함한 모든 인류에게 도움이 되는 인공 일반 지능(AGI, artificial general intelligence)을 구축하는 것"이 포함되어 있다.
서한은 "혜택을 누리기 이전에, 피해를 주지 않도록 충분한 안전 조치가 선행되어야 한다"고 강조했다. 이어 "OpenAI와 전체 산업계가 AI 제품의 개발 및 배포 단계에서 안전을 보장하는 데 필요한 위치에 있지 않다는 것이 우리의 공동 견해다. 법무장관으로서 공공 안전은 우리의 핵심 사명 중 하나다. OpenAI의 자본 확충 계획과 관련된 논의를 지속하는 한, 우리는 이 강력한 기술의 미래에서 안전을 규제적 원동력으로 가속하고 증폭시키는 데 힘써야 한다"고 덧붙였다.
봉타와 제닝스는 OpenAI 측에 현재 안전 예방 조치와 거버넌스(governance)에 대한 추가 정보를 요청했으며, 회사 측이 적절한 경우 즉각적인 시정 조치를 취할 것을 기대한다고 밝혔다.
OpenAI 이사회 의장인 브렛 테일러(Bret Taylor)는 성명을 통해 회사가 법무장관들의 우려를 해소하기 위해 노력하고 있다고 말했다.
테일러는 "이러한 비극에 마음이 아프며, 유가족들에게 깊은 애도를 표한다"며, "안전은 우리의 최우선 과제이며, 전 세계 정책 입안자들과 긴밀히 협력하고 있다"고 전했다.
한편, OpenAI는 아동 보호를 위한 학부모 통제 기능(parental controls)을 확장하고, 자녀가 급격한 고통을 겪을 때 학부모에게 알림이 전송될 수 있는 기능을 마련하기 위해 노력하고 있다고 밝혔다.
이 기사는 OpenAI의 논평을 추가하여 업데이트되었습니다.