AI PC를 드디어 활용할 수 있을까요?
마이크로소프트는 DeepSeek-R1의 NPU 최적화 버전을 출시하여 Copilot+ PC에 탑재된 AI 최적 하드웨어의 이점을 활용할 수 있게 한다고 발표했다. Windows Blog에 따르면, 이 기능은 우선 Qualcomm Snapdragon X PC에서 적용될 예정이며, 이후 Intel Core Ultra 200V(Lunar Lake) 및 기타 칩으로 확대된다. 초기 버전에는 UC 버클리(UC Berkeley)의 AI 연구팀이 정확한 답변을 제공하는 가장 작은 모델로 발견한 DeepSeek-R1-Distill-Qwen-1.5B가 포함되지만, 70억 개와 140억 개의 매개변수를 갖춘 대형 모델들도 곧 뒤따를 예정이다.
DeepSeek의 최적화 덕분에 이 모델은 기존 서방 경쟁 모델 대비 컴퓨팅 요구량이 11배 적어 소비자 기기에서 구동하기에 매우 적합하다. 또한, 개발자들이 애플리케이션 내에서 온디바이스 DeepSeek API를 활용할 수 있도록 Windows Copilot Runtime을 지원한다.
나아가 마이크로소프트는 DeepSeek의 NPU 최적화 버전이 "배터리 수명 및 PC 리소스 소모에 미치는 영향을 최소화하면서도 매우 경쟁력 있는 첫 토큰 생성 시간(time to first token)과 처리량(throughput rate)을 제공할 것"이라고 주장한다. 이는 Copilot+ PC 사용자들이 Meta의 Llama 3나 OpenAI의 o1 같은 경쟁 모델의 성능을 기대하면서도, 해당 장치가 여전히 뛰어난 배터리 효율을 유지할 수 있음을 의미한다.
인텔, 휴대폰 지원 축소에 따라 AI 기반 비서로 고객 지원 전환
다만, Copilot+ PC에 DeepSeek이 탑재되는 것은 일반 소비자보다는 프로그래머와 개발자층에 초점이 맞춰져 있는 것으로 보인다. 아마도 마이크로소프트가 시장 조사 결과 일반 사용자들은 아직 AI PC의 필요성을 크게 느끼지 못하며, 현존하는 대안이 마땅치 않아 구매하는 경향이 크다는 점을 감안하여, 개발자들이 AI PC의 장점을 활용하는 더 많은 앱을 구축하도록 유도하려는 목적이 있는 것으로 해석된다.
한편, 현시점에서 마이크로소프트가 Qualcomm Snapdragon X PC에 우대하는 지점도 주목할 만하다. 마이크로소프트가 지난 7월에 이 칩들과 함께 Copilot+ 브랜딩을 시작했음에도 불구하고, 최신 주류 Intel 및 AMD 노트북에도 이미 내장 NPU가 탑재되고 있기 때문이다. AMD는 심지어 사용자들이 Ryzen AI CPU와 Radeon GPU에서 DeepSeek을 구동하는 방법을 안내하는 지침을 발표했으며, 해당 회사 측은 RTX 7900 XTX가 RTX 4090보다 DeepSeek을 더 잘 구동한다고 주장하기도 했다.
어떤 측면에서 보든, 우리는 DeepSeek이 AI 분야에 열어줄 가능성에 여전히 큰 기대를 품고 있다. 오픈 소스라는 특성 덕분에 누구나 모델을 다운로드하여 로컬 환경에서 구동할 수 있으며, 이를 통해 다른 개발자들은 원본 모델이 구현한 진보와 최적화 위에 더욱 확장된 기술을 쌓아 올릴 수 있게 된다.