DeepSeek 측은 해당 조사 결과에 대해 아직 공식적인 입장을 밝히지 않았습니다.
연구에 따르면, DeepSeek AI가 생성한 결과물은 지정학적으로 민감하거나 중국에서 금지된 주제를 다룰 경우 현저히 낮은 품질을 보일 수 있습니다. 미국 보안 기업 크라우드스트라이크(CrowdStrike)가 실시한 테스트에서는 이슬람 국가(Islamic State) 무장 단체의 컴퓨터 시스템에 대한 코드가 원래 예상되는 결함 수치보다 거의 두 배에 달하는 결함을 포함한 것으로 관찰되었습니다. 워싱턴 포스트(Washington Post)에 따르면, 기타 잠재적 주제로는 법륜공(Falun Gong), 티베트, 대만 등이 언급되었습니다.
출처가 강조한 주요 발견점 중 하나는, 산업 제어 시스템(industrial control system) 운영 프로그램을 위해 DeepSeek AI가 생성한 코드는 일반적으로 22.8%의 결함을 가질 확률이 높다는 것입니다. 그러나 이슬람 국가 관련 프로젝트를 요청할 경우, DeepSeek 사용자는 결함 비율이 42.1%로 급격하게 증가하는 것을 확인할 수 있었습니다.
더 나아가 DeepSeek은 이슬람 국가 지지자나 법륜공 영적 운동 추종자 등 특정 단체에 대한 코드는 아예 생성하는 것을 거부하는 경우도 있었습니다. 이러한 그룹 지원을 거부한 비율은 각각 61%, 45%에 달했습니다. 주목할 점은, 이 두 운동 모두 중국에서 금지된 활동이라는 점입니다.
한편, (중국 정부가) OpenClaw를 정부 컴퓨터에서 금지하고 채택 열풍 속에서 보안 지침을 발표하는 등 관련 움직임도 있습니다.
그러나 DeepSeek이 특정 조직의 사용 목적을 위해 코드를 생성할 때 품질이 저하되는 현상은 일부 전문가들에게는 의아함을 자아내기도 했습니다. 조지타운 대학교 보안 및 신흥 기술 센터(Center for Security and Emerging Technology)의 헬렌 토너(Helen Toner)는 워싱턴 포스트와의 인터뷰에서 “이는 사람들이 증거가 불충분함에도 불구하고 크게 우려해왔던 부분”이라고 지적했습니다.
티베트나 대만 등지에서 사용되는 것을 가정할 때 DeepSeek 코드 품질 저하의 근본적인 원인은 명확하지 않습니다. 하지만 예를 들어, 해당 코드의 결함 수준이 이슬람 국가를 위한 코드보다는 낮게 측정되기도 했습니다.
도대체 무슨 일이 벌어지고 있는 것일까요? 몇 가지 가설이 제기되고 있습니다.
워싱턴 포스트는 크라우드스트라이크의 연구 결과와 관련하여 DeepSeek 개발사 측에 논평을 요청했지만, 아직 답변을 받지 못했습니다. 하지만 몇 가지 추측 가능한 시나리오가 존재합니다.
출처가 거론하는 가능성 중 하나는, 결함이 있는 코드를 은밀하게 생성하는 행위 자체가 적의 역량을 약화시키기 위해 사용되는, 교묘한 사보타주 기술일 수 있다는 것입니다. 또한 이는 추후 해킹을 위한 더 넓은 공격 표면(attack surface)을 제공할 수도 있습니다.
또 다른 가능성은, 테스트 과정에서 가장 안전성이 높은 코드가 미국 고객을 대상으로 하는 프로젝트에 사용된 사례가 많았기 때문에, DeepSeek이 미국 시장 진출을 강화하기 위해 더 적극적으로 노력하고 있다는 해석입니다.
출처는 또한 코드가 기존의 지역별 자료를 기반으로 훈련되었기 때문에 목표 시장에 따라 품질에 차이가 발생하는 것이 아닌지 고찰하고 있습니다. 예를 들어, 미국에서 활동하는 코더들을 위한 관련 훈련 자료가 티베트에서 활동하는 코더들을 위한 자료보다 훨씬 더 풍부할 것으로 예상됩니다.
마지막으로, 어쩌면 DeepSeek이 스스로 '자발적으로' 학습 내용상 '반란군'이 통치하는 개체나 지역에 더 결함이 많은 코드를 공급하려 노력하고 있을 수도 있습니다. 이 모든 것은 현재까지는 순전히 가설에 불과합니다. 다만, 이 AI 기업이 베이징과의 연관성을 완전히 벗어나지 않았다는 점을 염두에 두어야 합니다. 실제로 지난 8월, DeepSeek은 중국의 요청에 따라 모델 훈련을 Nvidia 대신 Huawei 하드웨어로 전환했으며, 이 과정에서 하드웨어 오류로 인한 지연이 발생했던 것으로 보도되기도 했습니다.
(이후의 홍보 문구는 일반적인 기술 보고서 본문에서 분리됩니다.)