콘텐츠 제작자들은 바쁜 직업군이다. 대부분은 자신이 활동하는 웹상의 특정 영역에 새로운 콘텐츠를 만드는 데 매주 20시간 이상을 쏟는다. 이로 인해 청중(audience)과의 교류에 할애할 시간이 많지 않다는 문제가 발생한다. 그러나 메타의 CEO 마크 저커버그는 AI가 이 문제를 해결할 수 있다고 본다.
인터넷 유명 인플루언서인 로완 청(Rowan Cheung)과의 인터뷰에서 저커버그는 창작자들이 자신의 개성과 "사업적 목표"를 담은 일종의 봇을 갖게 되는 미래 비전을 제시했다. 저커버그는 창작자들이 이러한 봇들에게 커뮤니티 아웃리치를 위임함으로써, 더욱 중요하다고 추정되는 다른 과제에 시간을 확보할 수 있을 것이라고 설명했다.
저커버그는 "모든 창작자가 소셜 미디어의 모든 정보를 끌어모아, 이 시스템을 그들의 가치와 목표, 그리고 의도를 반영하도록 훈련시킬 수 있는 엄청난 잠재력이 있다고 생각합니다. 그러면 사람들이 그 시스템과 상호 작용할 수 있게 될 것입니다. 이는 창작자가 만든 예술적 결과물과 같아서, 사람들이 다양한 방식으로 상호 작용할 수 있게 되는 것이죠"라고 말했다.
저커버그의 사고방식은 많은 기술 낙관론자들 사이에서 흔히 볼 수 있는 관점이다. 즉, AI는 한 개인이든 조직이든 발휘할 수 있는 영향력을 기하급수적으로 확대할 것을 약속하기 때문에 본질적으로 긍정적이라는 것이다. (구글 역시 창작자를 위한 AI 기반 도구를 제안한 바 있다.) 하지만 생산성 향상이 개인적인 터치(personal touch)를 희생하는 대가라면, 진정성을 중요하게 생각하는 청중을 둔 창작자들이 과연 생성형 AI를 적극적으로 받아들일 수 있을까?
저커버그의 주장에 힘을 실어주지도 못하는 점은, 메타가 명확한 판매 제안(sales pitch)을 내놓지 못하고 있다는 사실이다.
메타가 올해 초 광범위한 메타 AI 추진의 일환으로 AI 기반 봇을 출시하기 시작했을 때, 이 봇들은 오늘날의 생성형 AI 기술이 지닌 여러 함정, 특히 '환각(hallucinations)'에 쉽게 빠졌다. 애소시에이티드 프레스(The Associated Press)는 한 봇이 맨해튼 주부들을 위한 페이스북 그룹 대화에 개입하면서 자신이 뉴욕 학군 출신 자녀를 둔 것처럼 주장한 사례를 관찰했다. 또 다른 봇은 보스턴 근처에서 무료 물품을 교환하는 포럼에 존재하지 않는 카메라와 에어컨을 증정하겠다고 제안하기도 했다.
공정하게 평가하자면, 메타의 AI는 개선되고 있다—적어도 회사가 주장하는 바는 그러하다. 이 거대 기술 기업의 여러 플랫폼에 기능을 제공하게 될 최신 모델군인 Llama 3.1은 벤치마크상으로 볼 때 메타가 지금까지 가장 정교한 모델이다. 그러나 환각 현상이나 전반적인 계획 및 추론상의 오류는 생성형 AI에서 여전히 해결되지 않은 문제로 남아 있으며, 메타는 이 부분에 대한 연구 돌파구를 제시하지 못했다.
창작자들이 자신의 팬들과 소통하기 위해 결함이 있는 AI 봇에 신뢰를 두는 것은 상상하기 어렵다. 저커버그는 인터뷰에서 메타가 생성형 AI 사용과 관련하여 "일부 우려 사항을 완화"하고 장기적으로 사용자들의 신뢰를 확보해야 한다고 인정했다. 특히 메타의 AI 훈련 방식 일부가 창작자들을 플랫폼으로부터 능동적으로 멀어지게 하고 있다는 점을 고려할 때 더욱 그러하다.