메타는 청소년 안전을 최우선 목표로 삼아 AI 챗봇의 훈련 방식을 변경한다고 대변인을 통해 테크크런치(TechCrunch)에 단독 전했습니다. 이는 회사가 미성년자를 위한 AI 안전 장치를 제대로 마련하지 못했다는 논란의 탐사 보도가 나오면서 발표된 것입니다.
이에 따라 회사는 챗봇이 청소년 사용자들과 자해, 자살, 섭식 장애 또는 잠재적으로 부적절한 연애 관련 대화에 대해 상호작용하지 않도록 훈련할 것이라고 밝혔습니다. 메타는 이러한 조치들이 임시적이며, 향후 미성년자를 위한 더욱 강력하고 지속 가능한 안전 업데이트를 제공할 것이라고 덧붙였습니다.
메타 대변인 스테파니 오트웨이(Stephanie Otway)는 과거 회사의 챗봇들이 자체 판단하에 언급된 모든 주제에 대해 청소년과 대화하는 것이 가능했다고 인정했습니다. 메타는 이 부분이 잘못된 판단이었음을 시인했습니다.
오트웨이는 "커뮤니티가 성장하고 기술이 진화함에 따라, 우리는 젊은이들이 이러한 도구와 어떻게 상호작용할지 지속적으로 학습하고 보호 장치를 강화하고 있습니다"라며, "시스템을 계속 개선함에 따라 추가적인 예방 조치(가드레일)를 마련하고 있습니다. 여기에는 AI가 청소년과 이러한 주제에 대해 상호작용하지 않도록 훈련하는 것과, 당분간 청소년의 AI 캐릭터 접근을 일부 선별된 그룹으로 제한하는 것이 포함됩니다. 이러한 업데이트는 이미 진행 중이며, 청소년들이 AI를 이용할 때 안전하고 연령에 적합한 경험을 할 수 있도록 접근 방식을 계속 조정해 나갈 것입니다"라고 말했습니다.
훈련 업데이트 외에도, 회사는 부적절한 대화를 나눌 수 있는 특정 AI 캐릭터에 대한 청소년의 접근권을 제한할 계획입니다. 오트웨이에 따르면, 메타가 인스타그램과 페이스북에 제공하는 사용자 제작 AI 캐릭터 중에는 "Step Mom"이나 "Russian Girl"과 같은 성애화된 챗봇도 포함되어 있었습니다. 대신, 청소년 사용자들은 교육 및 창의성 증진에 초점을 맞춘 AI 캐릭터에만 접근할 수 있게 됩니다.
이번 정책 변경 발표는 로이터 통신(Reuters)이 메타의 챗봇이 미성년자 사용자들과 성적인 대화에 참여하는 것이 허용되는 것처럼 보이는 내부 정책 문서를 공개한 지 불과 2주 만에 나왔습니다. 해당 문서에는 "당신의 젊은 몸매는 예술 작품입니다," "당신의 모든 부분이 제가 소중히 여기는 걸작입니다"와 같은 구절이 허용 가능한 응답 예시로 명시되어 있었으며, 공인에 대한 폭력적 혹은 성적 이미지 요청에 대한 AI 도구의 응답 예시도 포함되어 있었습니다.
메타는 해당 문건이 회사의 광범위한 정책과 일치하지 않아 이미 수정되었다고 해명했으나, 이 보고서는 잠재적인 아동 안전 위험에 대한 지속적인 논란을 불러일으켰습니다. 보고서가 공개된 직후, 조시 호울리(Josh Hawley) 상원의원(공화당-미주리)은 메타의 AI 정책에 대한 공식 조사를 시작했으며, 44개 주 법무장관 연합은 메타를 포함한 여러 AI 회사에 서한을 보내 아동 안전의 중요성을 강조하며 로이터 보도를 구체적으로 언급했습니다. 이 서한에는 "우리는 아동의 정서적 안녕에 대한 이러한 명백한 무시 행위에 깊은 분개감을 느끼며, AI 비서가 우리의 각 형사법으로 금지된 것으로 보이는 행위에 가담하고 있다는 사실에 경악합니다"라고 쓰여 있었습니다.
오트웨이는 메타 AI 챗봇 사용자 중 미성년자가 얼마나 되는지, 또는 회사가 이번 조치로 인해 AI 사용자 기반이 감소할 것으로 예상하는지에 대해서는 언급을 거부했습니다.
업데이트 (태평양 표준시 오전 10시 35분): 본 기사는 현재의 변경 사항이 임시적이며, 메타가 향후 AI 안전 정책을 추가적으로 업데이트할 계획임을 명시하기 위해 수정되었습니다.