중국 기반 스타트업 Sand AI가 공개 라이선스를 적용한 비디오 생성 AI 모델을 출시했으며, 이는 Microsoft Research Asia의 설립 디렉터인 카이푸 리(Kai-Fu Lee) 등 여러 기업가들로부터 찬사를 받고 있습니다. 하지만 테크크런치(TechCrunch)의 테스트에 따르면, Sand AI는 모델을 호스팅하는 과정에서 중국 규제 당국의 민감한 반응을 우려하여 콘텐츠 검열을 가하는 것으로 드러났습니다.
금주 초, Sand AI는 프레임 시퀀스를 "자기회귀적으로(autoregressively)" 예측하여 비디오를 생성하는 모델인 Magi-1을 발표했습니다. 이 회사는 이 모델이 경쟁사 오픈 모델들보다 물리 법칙을 더욱 정확하게 포착하는 고품질의 제어 가능한 영상을 생성할 수 있다고 주장합니다.
이것이 AI로 생성되었다고 믿기 어려울 거예요
🧠 이것이 오픈 소스라는 걸 믿기 어려울 거예요
이것이 무료라는 걸 믿기 어려울 거예요
Magi-1 비디오 모델이 기존 상업용 비디오 도구들을 능가했습니다.
자세한 내용 및 예시는 아래를 확인하세요: 
pic.twitter.com/zlXRecWeqH
— Farhan (@mhdfaran)
2025년 4월 21일
Magi-1은 대부분의 일반 소비자 하드웨어에서는 사용하기에 무리가 있습니다. 크기가 240억 개의 파라미터(Parameters are the internal variables models use to make predictions.)에 달하며, 구동하려면 엔비디아 H100 GPU가 최소 4개에서 8개 필요합니다. 이 기자를 포함한 다수의 사용자에게는 Sand AI의 플랫폼이 Magi-1을 테스트할 수 있는 유일한 공간인 실정입니다.
이 플랫폼은 비디오 생성을 시작하기 위해 "프롬프트" 이미지가 필요하지만, 모든 프롬프트가 허용되는 것은 아닙니다. 테크크런치는 Sand AI가 시진핑(Xi Jinping), 천안문 광장(Tiananmen Square)과 탱크맨(Tank Man), 대만 국기, 그리고 홍콩 해방을 지지하는 문장 등의 이미지 업로드를 차단하고 있다는 것을 빠르게 확인했습니다. 이러한 필터링은 이미지 자체를 기반으로 발생하며, 이미지 파일의 이름만 변경한다고 해서 차단을 우회할 수는 없었습니다.
[그림: Sand AI의 온라인 플랫폼은 잠재적으로 금지된 이미지를 감지하면 오류 메시지를 표시합니다.]
Sand AI가 자체 비디오 생성 도구에 정치적으로 민감한 이미지 업로드를 차단하는 유일한 중국 스타트업은 아닙니다. 상하이 기반 MiniMax의 생성 미디어 플랫폼인 Hailuo AI 역시 시진핑의 사진을 차단합니다. 그러나 Sand AI의 필터링은 특히 강도가 높은 것으로 보입니다. 예를 들어, Hailuo는 천안문 광장 이미지는 허용합니다.
과거 자료에서 설명했듯이, 중국의 AI 모델들은 국가 차원에서 매우 엄격한 정보 통제 지침을 따라야 합니다. 2023년 법률에 따르면 모델이 "국가적 단합과 사회 안정을 훼손하는" 콘텐츠를 생성하는 것이 금지되어 있는데, 이는 정부의 역사적 또는 정치적 서사와 상충되는 콘텐츠로 해석될 수 있습니다. 이에 맞추기 위해 중국 스타트업들은 프롬프트 수준의 필터를 사용하거나 모델 자체를 미세 조정하는 방식으로 검열을 가합니다.
흥미로운 점은, 중국 모델들이 정치적 발언은 강력하게 차단하는 경향이 있지만, 포르노그래피 콘텐츠에 대해서는 미국 모델들보다 필터가 덜한 경우가 많다는 것입니다.
404는 최근 중국 기업들이 출시한 다수의 비디오 생성기가 타인의 비동의 성적 이미지를 생성하는 것을 방지하는 기본적인 안전장치(guardrail)가 미흡하다고 보도한 바 있습니다.