메타(Meta)는 금요일에 자사의 플랫폼 내 청소년이 AI 캐릭터와 대화할 때 적용될 새로운 학부모 통제 기능들을 미리 공개했다. 내년에 순차적으로 출시될 이 기능에는 특정 캐릭터를 차단하고 대화 주제를 모니터링하는 기능이 포함된다.
오는 몇 달 동안 부모는 청소년의 AI 캐릭터와의 채팅 자체를 완전히 중단시킬 수 있다. 이 조치는 회사의 범용 AI 챗봇인 Meta AI에 대한 접근을 막지는 않으며, Meta AI는 연령에 적합한 콘텐츠만 다루도록 제한된다.
또한, 부모는 보다 세부적인 통제를 원할 경우 개별 캐릭터와의 채팅만 따로 끌 수 있게 되며, 청소년이 AI 캐릭터 및 Meta AI와 논의하는 주제에 대한 정보도 받을 수 있다.
회사는 이러한 통제 기능들을 내년 초 인스타그램에 도입할 계획이라고 밝혔다. 이 기능들은 미국, 영국, 캐나다, 호주 등에서 영어로 사용 가능하다.
인스타그램 책임자인 아담 모세리(Adam Mosseri)와 새로 임명된 Meta AI 책임자 알렉산드르 왕(Alexandr Wang)이 작성한 게시물에서 메타는 "우리는 학부모들이 청소년의 인터넷 안전 관리에 이미 많은 노력을 기울이고 있다는 점을 알고 있다. 특히 AI와 같은 새로운 기술을 고려할 때, 상황을 더욱 단순화할 수 있는 유용한 도구와 자원을 제공하는 데 전념하고 있다"라고 밝혔다.
한편, 메타는 이 주 초에 청소년을 위한 콘텐츠 및 AI 경험이 PG-13 영화 등급 기준을 따를 것이며, 극단적인 폭력, 노출, 선정적인 약물 사용과 같은 민감한 주제는 피할 것이라고 강조했다.
메타는 또한 현재 청소년들이 연령에 적합한 콘텐츠 가이드라인을 따르는 제한된 수의 캐릭터와만 상호작용하도록 허용하고 있으며, 부모가 청소년의 AI 캐릭터와의 상호작용에 시간 제한을 설정할 수도 있다고 덧붙였다. 참고로 인스타그램은 올해 초 앱에서 나이를 조작해 연령 제한을 회피하려는 시도를 식별하기 위해 AI를 사용하고 있다고 발표한 바 있다.
최근 몇 주 동안 OpenAI를 포함한 여러 플랫폼과 유튜브(YouTube) 등은 청소년 안전에 초점을 맞춘 도구와 통제 기능을 출시해 왔다. 이러한 변화는 소셜 미디어가 청소년 정신 건강에 미치는 영향과 청소년 자살에 일부 관여했다는 주장이 제기된 AI 회사들을 상대로 제기된 소송에 대한 우려가 커지면서 이루어졌다.
[출처:] https://techcrunch.com/2025/10/17/meta-previews-new-parental-controls-for-its-ai-experiences