X는 무장 분쟁에 대한 AI 생성 비디오를 게시하는 크리에이터가 해당 콘텐츠가 AI로 제작되었다는 사실을 공개하지 않을 경우 조치를 취할 것이라고 밝혔습니다. 화요일, X의 제품 책임자인 니키타 비어(Nikita Bier)는 이러한 방식으로 타인을 오도하기 위해 AI 기술을 사용하는 사용자는 회사의 크리에이터 수익 공유 프로그램(Creator Revenue Sharing Program)에서 3개월(90일) 동안 프로그램 이용이 제한될 것이라고 발표했습니다.
만약 사용자들이 정지 기간이 끝난 후에도 허위 정보가 포함된 AI 콘텐츠를 계속 게시할 경우, 해당 프로그램에서 영구적으로 정지됩니다.
비어는 X에 "전시 기간 동안에는 사람들이 현장의 진정한 정보에 접근하는 것이 매우 중요합니다. 오늘날의 AI 기술을 사용하면 사람들을 오도할 수 있는 콘텐츠를 만드는 것이 매우 쉽습니다"라고 적었습니다. 그는 이어 "지금부터 AI가 생성한 무장 분쟁 관련 비디오를 게시하면서 AI 제작임을 공개적으로 명시하지 않은 사용자는 크리에이터 수익 공유 프로그램에서 90일 동안 정지 조치를 받게 됩니다"라고 덧붙였습니다.
X는 생성형 AI 콘텐츠를 탐지하는 데 사용되는 조합의 도구와 크라우드 소싱 기반의 팩트 체크 시스템을 결합하여 허위 정보성 게시물을 식별할 것이라고 밝혔습니다.
X의 크리에이터 수익 공유 프로그램은 크리에이터들이 플랫폼에 콘텐츠를 게시하고 그 게시물이 인기를 얻을 경우 광고 수익을 공유하여 수입을 창출할 수 있도록 하는 시스템입니다. 이 프로그램은 X에서 접할 수 있는 매력적인 콘텐츠의 양을 늘리는 것을 목표로 하지만, 비평가들은 이 프로그램이 클릭베이트나 분노를 유발하는 등 자극적인 콘텐츠를 게시하도록 크리에이터들에게 인센티브를 제공한다고 지적합니다. 또한 일부에서는 이 프로그램의 느슨한 콘텐츠 통제와 크리에이터가 참여하기 위해 X 구독자에게 비용을 지불해야 한다는 요구 사항도 비판했습니다.
AI가 오도성 사진과 비디오를 만드는 데 얼마나 쉽게 악용될 수 있는지를 고려할 때, 이 유형의 콘텐츠에 대해 크리에이터에게 금전적 보상을 제한하는 X의 조치는 근본적인 해결책이 아닙니다. 전쟁 상황 외에도 AI 미디어는 정치적 허위 정보를 생성하거나 인플루언서 경제에서 기만적인 제품을 홍보하는 데 자주 사용되며, 이러한 모든 활동은 새로운 정책 하에서도 허용될 예정입니다.