DeepSeek은 11배 낮은 하드웨어 비용으로 동일한 성능을 제공합니다.
엔비디아(Nvidia)의 주가는 지난 1월 27일 장 마감 기준으로 주당 118.50달러로 하락했으며, 이는 개장가인 142.02달러 대비 약 17% 급락한 수치입니다. 이번 하락으로 회사의 시가총액은 5,890억 달러 이상 감소했으며, 포브스(Forbes)는 이를 역사상 어느 기업도 기록한 최대 일일 손실 규모라고 언급했습니다. 이 외에도 다른 기술 기업들 역시 손실을 겪었습니다. 나스닥(Nasdaq) 지수는 3.1% 급락하는 등, 암(Arm), 브로드컴(Broadcom), 오라클(Oracle) 같은 주요 거대 기술 기업들 역시 10% 이상의 주가 하락을 기록했습니다.
이러한 하락장세는 오픈 소스 LLM인 DeepSeek R1의 출현에 힘입은 것으로 분석됩니다. DeepSeek은 성능 면에서 OpenAI의 o1 모델에 필적하면서도, 훈련에 필요한 전력 소비를 획기적으로 줄인 최적화 기술을 선보였습니다. 중국 AI 기업에 따르면, 최신 모델 훈련에 필요한 컴퓨팅 자원은 Meta의 Llama 3 대비 11분의 1에 불과했습니다. DeepSeek은 6,710억 개의 매개변수를 갖는 DeepSeek-V3 Mixture-of-Experts (MoE) 언어 모델을 2,048개의 Nvidia H800 GPU를 사용해 2개월 만에 훈련했으며, 총 약 280만 GPU 시간이 소요되었습니다. 이와 비교할 때, Meta의 Llama 3(4,050억 개 매개변수)은 16,384개의 H100 GPU를 사용하여 54일이 걸렸으며, 이는 약 3,080만 GPU 시간에 달하는 규모였습니다.
DeepSeek이 훈련에 소요된 GPU 시간 자체를 줄인 것 외에도 중요한 의미가 있습니다. 이 회사가 사용한 H800 칩은 미국 수출 규제 등의 영향으로 H100 칩보다 성능이 낮습니다. 즉, 중국 기업은 서구권 AI 모델과 경쟁할 수 있는 언어 모델을 만들기 위해 첨단 하드웨어에 대한 의존도를 낮춘 최적화 방안을 도입했음을 의미합니다.
(헤드라인 요약: 오픈AI, 역대 최대 규모 민간 기술 자금 조달 라운드에서 1,100억 달러 유치 / 엔비디아, 300억 달러 투자)
엔비디아는 공식 성명을 통해 "DeepSeek은 훌륭한 AI 발전 사례이자 Test Time Scaling의 완벽한 예시입니다. DeepSeek의 작업은 광범위하게 사용 가능한 모델과 수출 통제 규정을 준수하는 컴퓨팅 자원을 활용하여 새로운 모델을 만들 수 있음을 보여줍니다"라고 밝혔습니다. 이어 "추론 작업에는 상당한 수의 NVIDIA GPU와 고성능 네트워킹이 필요합니다. 현재 우리는 사전 훈련 및 사후 훈련과 지속되는 과정 외에 새로운 테스트 타임 스케일링이라는 세 가지 스케일링 법칙을 보유하고 있습니다"라고 덧붙였습니다.
하지만 이러한 발전상과 더불어, 많은 투자자들이 AI 하드웨어의 미래 비용에 대해 우려를 표명하고 있습니다. 특히 기업들이 AI 중심 인프라에 막대한 자금을 계속 지출함에 따라 이러한 우려가 커지고 있습니다. 전문가들은 고성능 첨단 칩 확보 비용 외에도, 이 과정에서 발생하는 막대한 전력 소비가 국가 전력망 및 전력 공급에 미칠 영향을 주요 문제로 지적하고 있습니다.
애넥스 웰스 매니지먼트(Annex Wealth Management)의 수석 이코노미스트인 브라이언 자코브센(Brian Jacobsen)은 로이터통신을 통해 "만약 DeepSeek이 지난 2년간 시장을 이끌어 온 전체 AI 서사를 근본적으로 뒤흔들 수 있는 전설적인 '더 나은 쥐덫'과 같다면"이라고 평가하며, "이는 칩에 대한 수요 감소, 모델 구동을 위한 대규모 전력 생산 시설 증설 필요성의 감소, 그리고 대규모 데이터 센터 구축 필요성의 감소로 이어질 수 있다"고 분석했습니다.