스티브 파딜라(Steve Padilla) 상원의원(민주당, 캘리포니아)은 월요일, 만 18세 미만 아동을 대상으로 하는 AI 챗봇 기능 탑재 장난감의 판매 및 제조를 4년간 금지하는 법안을 발의했습니다. 이 법안의 목적은 안전 규제 기관들이 아동을 "위험한 AI 상호작용"으로부터 보호할 수 있는 규제를 개발할 시간을 확보하기 위함입니다.
파딜라 상원의원은 성명에서 "챗봇과 기타 AI 도구는 미래에 우리 삶의 필수적인 부분이 될 수 있지만, 현재 그들이 야기하는 위험은 자녀를 보호하기 위해 우리가 과감한 조치를 취해야 함을 요구한다"고 밝혔습니다. 이어 "이러한 기술 유형에 대한 안전 규제는 아직 초기 단계이며, 기술의 발전 속도가 기하급수적으로 증가하는 만큼 함께 성장해야 한다. 따라서 이 챗봇 통합 장난감의 판매를 일시적으로 중단하는 것이, 해당 장난감들이 준수해야 할 적절한 안전 지침과 프레임워크를 마련할 시간을 벌어줄 것"이라고 강조했습니다.
이 법안은 SB 867이라는 이름으로 불리며, 최근 트럼프 대통령이 연방 기관들에게 주(州)의 AI 법률에 대해 법정 소송을 통해 이의를 제기하도록 지시한 행정 명령에 따른 것입니다. 다만, 해당 명령은 아동 안전에 관한 주 법률에 대해서는 명시적인 예외 조항을 두고 있습니다. 이 입법 활동은 또한 AI, 챗봇, 아동과 관련된 여러 우려 사례들에 배경을 두고 있습니다.
지난 1년간 챗봇과 장시간 대화를 나눈 후 자살에 이른 아동을 둔 가족들의 소송은 입법가들로 하여금 적극적인 행동에 나서게 했습니다. 파딜라 상원의원은 또한 캘리포니아주의 최근 통과된 SB 243 법안에 공동으로 서명했는데, 이 법안은 챗봇 운영자들에게 아동과 취약 사용자를 보호하기 위한 안전장치를 의무적으로 구현하도록 요구하고 있습니다.
비록 장난감에서의 챗봇 사용이 아직 주류는 아니지만, 이미 문제가 되는 상호작용 사례가 보고된 바 있습니다. 2025년 11월, 소비자 옹호 단체 PIRG Education Fund는 Kumma와 같은 장난감(내장 챗봇이 탑재된 인형곰)이 매치, 칼, 성적인 주제와 관련하여 쉽게 대화를 유도당할 수 있다고 경고했습니다.
NBC News에 따르면, 중국 회사인 Miriat가 만든 "아동용 AI 장난감" Miiloo는 때때로 중국 공산당의 가치관을 반영하도록 프로그래밍된 듯한 신호를 보인다는 사실이 밝혀졌습니다.
OpenAI와 바비 인형 제조업체 Mattel은 2025년에 "AI 기반 제품"을 출시할 예정이었으나, 이를 연기했습니다. 두 회사 모두 지연 이유를 명확히 설명하지 않았으며, 2026년도에 장난감 출시를 계획하고 있는지는 불분명합니다.
파딜라 상원의원은 "우리 아이들을 빅테크가 실험에 이용하는 실험용 쥐로 삼을 수는 없다"고 강하게 비판했습니다.