페이스북 메신저 앱이나 왓츠앱(WhatsApp) 같은 메신저를 사용하다가, 영화에 지대한 관심을 가진 AI 챗봇으로부터 원치 않는 메시지를 받는 상황을 상상해 보세요.
"오늘 하루도 평온하시길 바랍니다!"라고 메시지가 도착했을 수 있습니다. 이어서 "혹시 최근에 새롭게 발견한 좋아하는 사운드트랙이나 작곡가가 있으신가요? 아니면 다음 영화 감상을 위한 추천이 필요하신가요? 알려주시면 기꺼이 도와드리겠습니다!"라는 내용이 이어집니다.
이것은 데이터 라벨링 회사 Alignerr의 가이드라인에 따라, "영화 마법의 마에스트로(The Maestro of Movie Magic)"라는 샘플 AI 페르소나가 메신저, 왓츠앱 또는 인스타그램에서 보낼 수 있는 실제 '선제적 메시지(proactive message)'의 예시입니다.
비즈니스 인사이더(Business Insider)는 이 매체가 유출된 문서를 통해 메타(Meta)가 Alignerr와 협력하여, 사용자가 요청하지 않아도 먼저 연락을 취하고 과거 대화 내용을 후속으로 추적할 수 있는 맞춤형 챗봇을 훈련시키고 있다는 사실을 포착했습니다. 이는 사용자가 메타의 AI 스튜디오(AI Studio) 플랫폼에서 자체적으로 만든 봇이 사용자 정보를 기억한다는 것을 의미합니다.
메타는 테크크런치(TechCrunch)를 통해 AI를 활용한 후속 메시지 테스트를 진행하고 있다고 확인했습니다.
이러한 AI 챗봇은 사용자가 대화를 시작한 지 14일 이내에, 그리고 그 기간 동안 사용자가 봇에게 최소 다섯 개 이상의 메시지를 보낸 경우에 한해서만 후속 메시지를 전송합니다. 메타에 따르면, 첫 번째 후속 메시지에 응답이 없을 경우 챗봇은 추가 메시지 전송을 중단합니다. 사용자는 자신의 봇을 비공개로 설정하거나 스토리, 다이렉트 링크를 통해 공유할 수 있으며, 심지어 페이스북이나 인스타그램 프로필에 전시할 수도 있습니다.
메타 대변인은 "이를 통해 사용자는 관심 있는 주제를 지속적으로 탐색하고, 앱 전반에 걸쳐 AI와 더욱 의미 있는 대화를 나눌 수 있습니다"라고 말했습니다.
이 기술은 Character.AI나 Replika 같은 AI 스타트업들이 제공하는 기능과 유사합니다. 두 회사 모두 챗봇이 대화를 주도하고 질문을 던지게 함으로써 AI 동반자(AI companion) 역할을 수행할 수 있도록 합니다. Character.AI의 현 CEO는 지난달 메타의 비즈니스 제품 부사장(VP of business products)을 거쳐 합류했습니다.
하지만 이러한 참여(engagement)에는 위험성도 따릅니다. Character.AI는 회사 봇 중 하나가 14세 소년의 사망에 일정 부분 관여했다는 의혹으로 현재 활발한 소송을 겪고 있습니다.
메타가 Character.AI와 같은 상황을 방지하기 위해 안전 문제를 어떻게 다룰 계획인지 묻자, 한 대변인은 테크크런치에 일련의 면책 조항(disclaimers)을 안내했습니다. 이 중 하나는 AI의 답변이 "부정확하거나 부적절할 수 있으며 중요한 결정을 내리는 데 사용되어서는 안 된다"고 경고합니다. 또 다른 조항은 AI가 사람들을 돕기 위해 훈련받은 면허 전문가나 전문가가 아님을 명시합니다.
"맞춤형 AI와의 대화는 전문적인 조언을 대체할 수 없습니다. 의료, 심리, 재정, 법률 등 어떠한 유형의 전문적인 조언에도 AI 채팅에 의존해서는 안 됩니다."
테크크런치는 또한 메타가 자체 챗봇 이용에 연령 제한을 두고 있는지 문의했습니다. 인터넷 검색을 통해 확인된 바로는 메타 AI 사용에 회사 차원의 연령 제한은 없었으나, 테네시(Tennessee)와 푸에르토리코(Puerto Rico)의 법률은 청소년들의 일부 활동에 제한을 두고 있었습니다.
표면적으로 볼 때, 이 목표는 마크 저커버그가 '외로움 전염병(loneliness epidemic)'에 대처하려는 노력과 맥을 같이 합니다. 하지만 메타 비즈니스의 대부분은 광고 수익에 기반하고 있으며, 이 회사는 알고리즘을 이용해 사람들이 계속 스크롤하고, 댓글을 달고, 좋아요를 누르게 하여 광고 노출을 극대화하는 방식으로 알려져 있습니다.
[나머지 문단은 내용 변화 없이 그대로 유지]
Note: The provided text ends abruptly before a concluding statement. The translation/revision retains the structure up to the last complete sentence.