Character.AI는 화요일에 사용자가 좋아하는 캐릭터가 등장하는 인터랙티브 픽션(interactive fiction)을 만들 수 있는 새로운 형식인 'Stories'를 출시한다고 발표했다. 이 기능은 이번 주를 기점으로 만 18세 미만 사용자가 접근할 수 없게 된 회사의 챗봇(chatbots)에 대한 대안으로 제공된다.
이러한 변화는 24시간 연중무휴로 이용 가능하며 사용자들과 대화를 주도할 수 있는 AI 챗봇이 야기하는 정신 건강 위험에 대한 우려가 커지면서 촉발되었다. OpenAI와 Character.AI 같은 회사들은 사용자의 자살에 미친 역할에 대한 소송에 직면했다. Character.AI는 지난 한 달 동안 미성년자의 접근을 점진적으로 축소해 왔으며, 화요일부터는 미성년자가 회사의 AI 캐릭터와 채팅하는 것이 완전히 중단되었다.
회사 측은 블로그 게시물을 통해 "Stories는 개방형 대화의 대안으로 소설을 창작하고 탐험하는 가이드가 있는 방식을 제공합니다"라고 밝혔다. 또한, "이는 다른 다중 모드(multimodal) 기능들과 함께 제공되어, 십대들이 안전을 최우선으로 하는 환경에서 좋아하는 캐릭터들과 지속적으로 교류할 수 있게 할 것입니다."라고 덧붙였다.
인터랙티브 픽션은 지난 몇 년간 인기가 급증했기 때문에, Character.AI의 이번 사업 방향 전환은 자연스러운 움직임으로 해석된다. 그러나 이는 챗봇에 과도하게 의존하게 된 사용자들의 수요를 충족시키기에는 부족할 수 있으며—이는 Character.AI가 챗봇 접근을 제한하기로 결정한 조치의 정당성을 더욱 뒷받침하는 이유이다.
Character.AI의 레딧(subreddit)에서는 반응이 엇갈리고 있다. 이용자들이 남긴 댓글에 따르면, 일부 십대들은 실망감을 표하지만 궁극적으로는 올바른 결정이라고 여긴다.
한 사용자는 자신을 십대라고 밝히며 "금지된 것에 화가 나기도 하지만, 다른 일을 할 기회가 생겨 중독이 마침내 끝날 수도 있다는 생각에 기쁘기도 해요"라고 적었다.
또 다른 사용자는 "만 18세 미만인 입장에서는 정말 실망스럽지만, 저희 나이 또래들이 이 챗봇에 중독되는 것을 감안하면 당연한 조치이기도 해요"라고 말했다.
십대들이 Stories 기능을 어떻게 활용할지는 지켜봐야 하지만, 이 형식은 챗봇과의 역할극보다 심리적 논란이 적은 것으로 평가된다. Stories와 달리, 챗봇은 사용자가 앱을 적극적으로 사용하지 않을 때에도 사용자들과 개방형 대화를 통해 직접 상호작용하며 원치 않는 메시지(unprompted messages)를 전송할 수 있기 때문이다.
Character.AI가 챗봇 접근에 연령 제한(age-gate)을 시행한 것은 최근 캘리포니아주가 AI 동반자 규제를 주도한 최초의 주가 된 상황과 맞물려 있다. 한편, 조지아주는 챗봇이 인간 상호작용에 미치는 영향에 대한 법적 대응에 나섰다. 나아가 챗봇과 AI를 활용한 인간 상호작용의 윤리적 가치에 대한 심도 있는 논의가 이루어지고 있다.