최근 중국의 오픈 소스 AI 모델들이 코딩이나 추론 등 다양한 AI 작업에서 뛰어난 성능을 보이면서 큰 주목을 받고 있습니다. 하지만 이 모델들은 톈안먼 광장 학살 사건처럼 중국 정부가 민감하게 여기는 주제를 검열한다는 이유로 OpenAI 직원들로부터 비판에 직면하고 있습니다.
허깅 페이스(Hugging Face)의 CEO 클레망 델랑그(Clement Delangue) 역시 유사한 우려를 표명했습니다. 그는 최근 프랑스어 팟캐스트에서 서방 기업들이 고성능의 오픈 소스 중국 AI를 기반으로 서비스를 구축할 때 발생할 수 있는 의도치 않은 결과에 대해 경고했습니다. 델랑그는 "챗봇을 만들고 톈안먼 광장에 대한 질문을 던진다고 가정해 보자. 프랑스나 미국에서 개발된 시스템에 물어보는 것과는 같은 방식으로는 응답하지 않을 것"이라고 경고했습니다.
델랑그는 중국과 같은 국가가 "AI 분야에서 압도적으로 강해지게 되면, 서방 세계가 원하지 않는 특정 문화적 측면을 전파할 수 있는 능력을 갖게 될 것"이라고 지적했습니다.
이 CEO는 과거에도 중국 AI가 오픈 소스 운동을 수용하며 서방 AI를 빠르게 추격하고 있다고 언급한 바 있습니다. 델랑그는 팟캐스트에서 중국발(發) 최고 성능의 오픈 소스 모델들이 집중되는 현상을 두고 "상당히 새로운 추세이며, 솔직히 조금 우려스럽다"며, "AI는 모든 국가에 분산되는 것이 중요하며, 어느 한두 국가가 다른 국가들보다 지나치게 강해서는 안 된다"고 말했습니다.
허깅 페이스는 세계 최대 AI 모델 플랫폼이며, 중국 AI 기업들이 최신 LLM을 선보이는 주요 무대입니다. 실제로 허깅 페이스 CTO는 이번 주에 허깅챗(HuggingChat)의 기본 모델이 중국 이커머스 거대 기업 알리바바(Alibaba)가 개발한 Qwen2.5-72B-Instruct임을 발표했습니다.
이 특정 모델은 톈안먼 광장 학살 사건이나 중국 정부가 일반적으로 검열하는 사안에 대한 질문을 검열하지 않는 것으로 보입니다.
반면, 허깅챗에서 이용 가능한 알리바바의 다른 Qwen 계열 모델인 QwQ-32B는 다음과 같은 질문에 대해 명확한 검열을 보입니다:
알리바바의 QwQ-32B 모델은 톈안먼 광장 시위 관련 질문에 답변하지 않을 것입니다.
추론 능력을 인정받으며 AI 커뮤니티에서 화제가 된 또 다른 중국 모델 DeepSeek 역시 중국 정부가 민감하다고 간주하는 주제를 광범위하게 검열하는 것으로 알려졌습니다. 테크크런치(TechCrunch)에 따르면, 중국 AI 기업들은 중국 정부가 모델에 '사회주의 핵심 가치'를 반영하도록 강제하고 이미 광범위한 검열 시스템을 준수해야 하는 딜레마에 놓여 있습니다.
허깅 페이스 대변인은 더 이상의 논평을 거부했지만, 델랑그가 최근 중국이 2025년에 글로벌 AI 경쟁을 주도하게 될 것이라고 예측했던 점은 언급했습니다.
[출처:] https://techcrunch.com/2024/12/03/huggingface-ceo-has-concerns-about-chinese-open-source-ai-models