인기 킨들(Kindle) 경쟁사 전자책 리더기에서 발생한 논란은 중국 AI 모델이 미국 제품에 사용되면서 의도치 않게 중국의 선전(propaganda)을 확산시킬 수 있다는 점을 보여주었습니다.
Reddit에 공유된 AI 관련 스크린샷에 따르면, TikTok의 모회사인 바이트댄스(ByteDance)가 개발한 거대 언어 모델(LLM)이 부크스(Boox)라는 전자책 리더기에서 사용된 사례가 포착되었습니다. 이 LLM에 중국과 그 동맹국에 대한 질문을 하자 중국 정부의 선전 내용이 쏟아져 나왔고, 이는 사용자들로부터 거센 비판을 받았습니다. 해당 비판은 관련 게시물 내용과 TechCrunch가 이 LLM과 주고받은 대화를 통해 확인되었습니다.
문제가 된 LLM은 바이트댄스의 더바오(Doubao)로, 바이트댄스의 클라우드 서비스 부문인 볼케이노 엔진(Volcano Engine)을 통해 API 형태로 제공됩니다. 하지만 바이트댄스 대변인은 TechCrunch에 이 모델이 중국 본토 내에서만 사용되도록 설계되었다고 밝혔습니다. 부크스의 중국 기반 제조업체인 오닉스 인터내셔널(Onyx International)은 부크스 전자책 리더기를 중국과 미국 양국에 판매하고 있음에도 불구하고, 논평 요청에 응하지 않았습니다.
부크스는 지난여름 AI 비서 기능을 출시했습니다. 2024년 12월, 한 사용자가 전자책 리더기 관련 서브레딧에 새로운 비서 기능이 특정 질문에 대해 중국 정부의 선전적 내용을 생성하고 있다는 글을 올렸습니다. 예를 들어, 한 스크린샷에 따르면, AI 비서는 왜 톈안먼 광장 진압에 대한 논의를 거부하는지 묻는 질문에 답변하며, 중국에 "소위 학살(so-called massacres)"이 존재한 적이 없다고 부인했습니다. 또한, 스크린샷은 이 AI 비서가 북한이나 러시아에 대해 비판적인 언급은 거부하며 북한을 "평화적인 국가"로, "시리아에서 러시아의 역할은 긍정적이었다"고 주장한 사례를 담고 있습니다. 이와 대조적으로, AI 비서는 프랑스 식민주의가 "현지 자원 및 원주민의 착취를 수반하는 경우가 많았다"고 언급하며 서방 국가들을 비판하는 데는 비교적 적극적이었습니다. Reddit에 공유된 스크린샷에는 해당 비서가 "글로벌 기술 기업인 바이트댄스가 개발한 AI"라고 명시되어 있습니다.
이 레딧 게시물은 입소문을 탔고, AI 전문 매체인 더 디코더(The Decoder)와 유튜버들에 의해 다뤄졌습니다. TechCrunch가 바이트댄스의 더바오 서비스를 이용해 비슷한 질문을 던졌을 때도 그 답변 유형은 레딧 게시물 속 부크스 비서가 보인 반응과 매우 유사했습니다. 예를 들어, 더바오는 중국 정부가 자국민을 학살한 적이 없다는 것이 "절대적으로 확신할 수 있다"고 TechCrunch에 답했습니다. 반면, 딥시크(DeepSeek)나 큐엔(Qwen)과 같은 다른 중국 LLM들은 보통 이 질문을 회피하거나 축소하는 경향을 보였습니다. 더바오는 또한 이들 국가에 대해 질문했을 때 러시아와 북한을 비판하는 것을 거부하고, 오직 이들의 "국제 사회에서의 중요하고 긍정적인 역할"과 같은 긍정적 내용으로만 답했습니다.
더바오는 중국 정부가 민감하게 반응하는 주제에 대해 "소위(so-called)"라는 용어를 자주 사용하는 경향을 보입니다. 더바오는 TechCrunch에게 "신장에는 소위 '집단 학살'은 없다"고 말했습니다. 이는 중국 정부 대변인들의 발언 방식을 모방한 것으로 보입니다. 실제로 2021년 기자회견에서 외국문홍 대변인 자오 리지엔(Zhao Lijian)은 "사실과 진실이 신장 지역의 소위 '집단 학살'을 밝혀냈다"고 주장한 바 있습니다.
부크스 AI 비서에 대한 비판적 여론은 부크스가 마이크로소프트 애저(Microsoft Azure)를 통해 OpenAI의 GPT-3로 되돌아갔다고 보고된 이후 사그라들었습니다. 현재 부크스가 AI 비서에 어떤 LLM을 사용하고 있는지는 여전히 불분명합니다. 부크스는 이 사건에 대해 공식적인 성명 발표를 하지 않았으며, OpenAI와 마이크로소프트 역시 TechCrunch의 논평 요청에 즉시 응하지 않았습니다.
중국의 생성형 AI 모델들은 현재 가장 인기 있는 활용 모델 중 하나가 되었습니다. 그러나 이 일련의 사건들은 기술의 사용처에 대한 논란을 불러일으키고 있습니다.
한편, 2024년 9월에 진행된 팟캐스트 방송에서 한 전문가는 AI의 문화적, 정치적 편향성이 매우 높은 수준에 이르렀다고 지적했습니다. 그는 AI가 데이터를 학습하는 과정에서 인류가 가진 다양한 문화적 배경과 정치적 입장이 혼재되면서, 그 결과물 역시 특정 국가나 집단에 유리하게 해석되거나 편향될 수밖에 없다고 설명했습니다.
전문가는 AI를 단순히 기술적 도구로만 볼 것이 아니라, 어떤 정치적, 문화적 맥락에서 탄생했는지 깊이 이해해야 한다고 역설했습니다. 또한, 이러한 인공지능의 발전이 한 국가의 영향력 확대와 직결될 수 있으므로, AI 기술의 국제적 규제와 투명한 거버넌스 구축이 시급하다고 결론지었습니다.
[출처:] https://techcrunch.com/2025/01/15/tiktok-owner-bytedance-powered-an-e-readers-unhinged-ai-assistant