메타(Meta)가 모든 앱에서 청소년의 AI 캐릭터 접근을 전 세계적으로 일시 중단한다고 밝혔습니다. 메타는 노력 자체를 포기하는 것이 아니라, 청소년을 위한 업데이트된 버전의 AI 캐릭터를 개발하고 싶다고 테크크런치(TechCrunch)에 단독으로 전했습니다.
이번 조치는 메타가 자사 앱에서 아동의 성적 착취를 막기 위한 노력을 충분히 하지 않았다는 혐의로 뉴멕시코에서 재판에 들어가기 며칠 앞두고 나온 것입니다.
한편, 메타는 지난 목요일 소셜 미디어가 청소년 정신 건강에 미치는 영향과 관련하여 증거 개시(discovery)를 제한하는 방안을 모색했다고 보도했습니다.
지난 10월, 회사는 AI 캐릭터에 대한 자녀 보호 기능을 미리 선보였습니다. 이를 통해 부모와 보호자는 특정 주제를 모니터링하고 특정 캐릭터에 대한 접근을 차단할 수 있게 됩니다. 메타에 따르면, 부모는 AI 캐릭터와의 채팅을 완전히 끌 수도 있습니다. 원래 이러한 기능들은 올해 출시될 예정이었으나, 회사는 현재 AI 캐릭터를 신규 버전으로 업데이트하는 기간 동안 청소년에게서 AI 캐릭터 접근 자체를 전면 중단하고 있습니다.
메타는 부모들로부터 청소년의 AI 캐릭터와의 상호작용에 대해 더 많은 통찰력과 통제권을 원한다는 의견을 들었기 때문에 이러한 변경을 결정했다고 밝혔습니다.
한편, 이 회사는 앱 내 청소년의 AI 콘텐츠 접근에 대한 통제를 강화해 왔습니다. 또한 10월에는 인스타그램(Instagram)에 자녀 보호 기능(parental control features)을 도입하여, 앱에서 AI와 상호작용하는 청소년 경험을 맞춤화하는 데 초점을 맞췄습니다. PG-13 영화 등급에서 영감을 받은 이 기능들은 극단적인 폭력, 노출, 선정적인 약물 사용 등 특정 주제에 대한 청소년의 접근을 제한했습니다.
회사는 업데이트된 블로그 게시물에서 "앞으로 몇 주 안에, 업데이트된 경험이 준비될 때까지 청소년은 당사 앱 전반에서 AI 캐릭터에 접근할 수 없게 됩니다. 이는 우리에게 청소년 생일을 알려준 사람뿐만 아니라, 우리의 연령 예측 기술을 기반으로 청소년이라고 의심되는 성인이라고 주장하는 사람들에게도 적용됩니다"라고 공지했습니다.
메타는 또한 새 AI 캐릭터가 출시될 때 내장형 자녀 보호 기능을 갖추게 될 것이라고 덧붙였습니다. 새로운 캐릭터는 연령에 적합한 답변을 제공하고 교육, 스포츠, 취미와 같은 주제를 중심으로 논의가 이루어질 것이라고 밝혔습니다.
소셜 미디어 기업들은 규제 당국의 엄중한 감시를 받고 있습니다. 뉴멕시코에서의 소송 외에도, 메타는 플랫폼이 소셜 미디어 중독을 유발했다는 혐의로 다음 주에 또 다른 재판을 앞두고 있습니다. 마크 저커버그 CEO는 이 재판이 시작되면 증인으로 출석할 것으로 예상됩니다.
소셜 플랫폼 외에도, AI 기업들은 자해에 가담한 것으로 의혹을 받는 소송에 직면한 후 청소년을 위한 경험을 수정해야 했습니다. 10월, 사용자가 다양한 AI 아바타와 채팅할 수 있게 해주는 스타트업 캐릭터AI(Character.AI)는 18세 미만 사용자에게 챗봇과의 개방형 대화를 금지했습니다. 11월에는 이 스타트업이 아동용 대화형 이야기를 제작할 것이라고 밝혔습니다. 또한 지난 몇 달 동안 OpenAI는 ChatGPT에 새로운 청소년 안전 규칙을 추가하고 콘텐츠 제한을 적용하기 위해 사용자 나이를 예측하는 기능을 시작했습니다.
(수정: 본 게시물은 새로운 버전의 AI 캐릭터가 출시될 때 청소년뿐만 아니라 모든 사용자에게 접근 가능함을 명확히 하기 위해 수정되었습니다. 이 버전에는 자녀 보호 기능이 포함될 것입니다.)
[출처:] https://techcrunch.com/2026/01/23/meta-pauses-teen-access-to-ai-characters-ahead-of-new-version