최근 북극에 새로운 '조력자'가 등장했습니다. 바로 AI입니다.
목소리 및 얼굴 클로닝 기술을 활용하여 디지털 복제본을 제작하는 AI 스타트업인 (회사명)은 올해로 2년 연속 'AI 산타 경험(AI Santa experience)'을 선보였습니다. 이 경험을 통해 사용자의 부모와 아이들은 즐거운 산타클로스의 가상 버전과 화상 채팅을 할 수 있습니다.
무료 계정 가입 후, 사용자는 텍스트, 전화, 또는 영상 채팅을 통해 AI 산타와 상호작용할 수 있습니다. 사용자는 AI 산타에게 크리스마스에 받고 싶은 소망을 전하거나, 연휴 계획을 공유하고, 자신이 '나쁜 아이 목록'에 있는지 '착한 아이 목록'에 있는지 확인할 수 있습니다.
올해는 회사 측에서 표현력과 감정 인지 능력을 향상시킨 버전의 AI 산타를 공개했습니다. 이 산타는 회사의 실시간 AI 에이전트 명칭인 "Tavus PAL"로, 시각적 인지, 청각적 이해, 반응, 인간과 같은 외형 구현이 가능하도록 설계되었습니다.
AI 산타는 이제 사용자의 표정 변화와 몸짓을 보고 반응하며, 사용자와의 과거 대화 내용과 관심사까지 기억하여 더욱 개인화된 경험을 제공합니다. 특히, 웹 검색을 통해 선물 아이디어를 찾아주거나 이메일 초안 작성 같은 일상적인 작업까지 스스로 수행할 수 있게 되었습니다.
테스트를 진행하며 AI 산타와 나눈 대화는 전반적으로 흥미로웠습니다. 우리가 크리스마스 선물로 새 플레이스테이션을 갖고 싶다고 언급하자, 산타는 우리가 가장 좋아하는 비디오 게임에 대해 질문하며 '발더스 게이트 3(Baldur’s Gate 3)'와 같은 특정 타이틀에 대한 지식을 보여주었습니다. 우리가 미소를 짓자 산타 역시 미소로 화답했습니다. (개인적으로는 다소 어색하게 느껴졌지만, 다른 사용자들에게는 다르게 다가올 수도 있습니다.)
현재 사용자들은 개선된 경험에 만족하는 모습입니다. 하산 라자(Hassaan Raza) 창립자 겸 CEO는 많은 사람들이 이 플랫폼을 자주 이용하며 AI 산타와 몇 시간씩 채팅에 몰두하여 일일 이용 한도를 초과하는 경우도 많다고 밝혔습니다.
그는 "작년 AI 산타는 수백만 회의 상호작용을 기록했으며, 크리스마스가 다가오면서 그 기록을 훨씬 뛰어넘을 것으로 예상한다"고 언급했습니다.
이러한 높은 사용자 참여도는 Tavus에게 중요한 이정표임과 동시에, 특히 어린아이들에게 이러한 상호작용이 미치는 영향에 대한 근본적인 질문을 제기합니다. 아이들은 AI와 실제 사람을 구별하는 데 어려움을 겪을 수 있습니다. AI와의 장시간 대화가 성인에게 부정적인 영향을 미친 사례가 이미 보고되면서, 산타를 굳게 믿는 어린이들에게 미칠 잠재적 영향은 일부 부모들에게 우려를 낳고 있습니다.
테스트 과정 중에도, AI 산타가 아직 완벽하게 인간적이지 않다는 미묘한 단서들이 포착되었습니다. 예를 들어 긴 침묵이나 다소 평이한 목소리 등이었습니다. 또한, 사용자가 이 AI의 실재성에 의문을 제기했을 때의 프로그램된 답변은 "저는 Tavus의 마법과 기술로 구현된 AI 산타입니다. 실제 산타가 아닐 수도 있지만, 산타 특유의 정신과 즐거움은 충분히 갖추고 있습니다"였습니다.
그럼에도 불구하고, 이 경험은 AI가 아동 사용자에게 미치는 영향에 대한 우려가 고조되는 가운데 출시되었습니다. 챗봇 상호작용이 청소년의 자살 시도와 같은 심각한 해악과 연관되었다는 보고도 있었습니다. 이로 인해 Character.AI는 지난 10월 만 18세 미만 사용자에게 챗봇 접근을 제한하기도 했습니다.
라자는 AI 산타 경험이 가족이 함께 즐기도록 설계되었으며, 적절한 상호작용을 보장하는 안전 장치가 마련되어 있다고 강조했습니다. 콘텐츠 필터와 같은 안전 기능이 가족 친화적인 대화를 유지하는 데 구현되어 있습니다.
필요할 경우 대화는 종료될 수 있으며, 사용자는 정신 건강 자원으로 안내받게 됩니다.
그는 "대부분의 상호작용은 가족에게 적합했으며 산타 경험에 충실했다"고 말했습니다.
추가적으로 데이터 수집에 대한 질문에 대해 라자는 회사 측이 "사용자가 채팅 중에 공유하기로 선택하는 로그, 세션 타임스탬프, 메타데이터 및 기타 정보를 수집한다"고 밝혔습니다. 이 데이터는 안전한 경험을 제공하고 유지하는 데 사용되며, 사용자는 언제든지 데이터 삭제를 요청할 수 있다고 덧붙였습니다.