AI 텍스트, 오디오, 비디오, 이미지는 물론 가상 장면까지 모두 라벨링해야 합니다.
중국 공산당(CCP)의 국가 인터넷 규제 기관은 모든 AI 생성 콘텐츠에는 청취자에게 명시적으로 보이거나 들리도록 라벨을 부착하고, 이를 메타데이터에 내재화해야 한다고 발표했습니다. 중국 사이버 공간 관리국(CAC)은 최근 '인공지능 생성 및 합성 콘텐츠 식별에 관한 조치' 관련 미디어 Q&A 자료(FAQ와 유사) 전문을 공개했습니다. 실제로 이 정책 움직임의 초기 징후는 지난 9월 CAC가 초안 계획을 발표했을 때 포착된 바 있습니다.
해당 규정은 2025년 9월 1일부터 효력을 발휘하며, 모든 서비스 제공업체(즉, AI LLM)가 "생성 및 합성된 콘텐츠에 명시적 라벨을 부착"하도록 의무화합니다. 이 지침은 텍스트, 이미지, 비디오, 오디오는 물론 가상 장면 등 모든 유형의 데이터를 포괄합니다. 또한, CAC는 앱 스토어 운영사들이 등록하는 앱들이 해당 규정을 준수하는지 검증하도록 명령하고 있습니다.
사용자는 여전히 "사회적 목적 및 산업적 필요"를 위해 라벨이 부착되지 않은 AI 생성 콘텐츠를 요청할 수 있습니다. 다만, 콘텐츠를 생성하는 앱은 사용자에게 이 요구 사항을 재차 고지해야 하며, 추적을 용이하게 하기 위해 해당 정보를 반드시 기록해야 합니다. AI 생성 라벨 및 메타데이터를 추가할 최종적인 책임은 이 최종 사용자 개인 또는 법인에게 있습니다.
CAC는 아울러 이러한 AI 라벨의 악의적 제거, 조작, 위변조 또는 은폐를 금지하며, 이러한 행위를 돕는 도구의 제공 역시 전면 금지합니다. 이는 AI 생성 콘텐츠의 라벨과 메타데이터를 삭제하는 것이 금지된다는 의미임과 동시에, 인간이 생성한 데이터에 해당 식별자를 추가하는 것도 금지하는 내용을 포함합니다.
CCP는 CAC를 통해 이 법을 적용함으로써 허위 정보의 확산을 통제하고, 사용자들이 AI 생성 콘텐츠로 인해 혼란을 겪는 것을 사전에 방지하는 것을 목표로 합니다. 현재까지는 위반자에 대한 구체적인 처벌 규정은 공개되지 않았으나, 중국 정부로부터 법적 제재를 받을 위협은 상존합니다.
이 법률이 AI 기술의 개발 및 사용을 통제하려는 최초의 사례는 아니며, 유럽연합(EU)이 2024년에 인공지능법(Artificial Intelligence Act)을 제정한 바 있습니다. 많은 이들이 이번 CAC의 조치에 부정적으로 반응할 수 있으며, 특히 중국 국경 내 인터넷을 통제하고 관리하는 '만리방화벽(Great Firewall of China)' 운영으로 알려진 CAC가 주도한다는 점에서 더욱 그렇습니다. 그럼에도 불구하고, 이러한 움직임은 누가 만들었든 정보의 오진실을 줄이는 데 기여할 것이며, 특히 AI LLM이 고도화됨에 따라 그 효과가 더욱 클 것으로 예상됩니다. 인공적으로 생성된 콘텐츠가 명확하게 표시됨으로써, 사람들은 자신이 접하는 내용이 실제로 발생한 사건인지, 아니면 특정 서버 팜에서 기계에 의해 조작된 것인지를 훨씬 쉽게 판단할 수 있을 것입니다.