우리 Gloo 엔지니어들이 오늘 R1을 진행합니다.
중국 오픈 소스 거대 언어 모델(LLM)인 DeepSeek R1이 OpenAI의 최고 모델보다 우수한 성능을 보이면서도 컴퓨팅 및 훈련 자원을 훨씬 적게 사용한다는 점에서 기술 업계의 큰 주목을 받고 있습니다. 전 Intel CEO인 Pat Gelsinger는 X를 통해 이 모델을 극찬했으며, TechCrunch와의 대화에서 자신의 스타트업에서 OpenAI 대신 DeepSeek을 사용할 것이라고 밝혔습니다.
업계 소식을 접하지 못했다면, Pat Gelsinger는 지난달 Intel CEO를 사임했으며, 그 자리는 두 명의 임시 CEO가 대신했습니다. 추측에 따르면, Intel의 실망스러운 주식 시장 결과가 Gelsinger의 사임 또는 이사회에 의한 축소의 원인으로 작용했습니다. 그럼에도 Gelsinger는 현재 교회(Churches)를 위한 메시징 플랫폼으로 알려진 자신의 새 스타트업 Gloo의 회장직을 맡고 있습니다.
Gloo는 "Kallm"이라는 AI 서비스를 개발하고 있으며, 이는 간단히 AI 기반 챗봇으로 설명됩니다. DeepSeek R1과 OpenAI o1 모델을 비교한 결과, 전자는 오픈 소스이면서 통합이 용이할 가능성이 높아 Gloo의 요구사항에 더 적합했습니다. Gelsinger는 "저의 Gloo 엔지니어들은 오늘 R1을 사용하고 있지만, o1도 쓸 수 있었을 겁니다. — 글쎄요, 그들은 API를 통해서만 o1에 접근할 수 있습니다"라고 언급했습니다. 그가 X에 공유한 트윗 내용을 확장해보면, DeepSeek이 저렴한 AI를 제공하고 업계 경쟁을 촉진한 점에 대해 감사함을 표하며 칭찬한 내용도 확인할 수 있습니다.
OpenAI는 데이터 센터 자금 확보에 어려움을 겪자 대신 하드웨어 장악에 집중
Nvidia의 OpenAI 1,000억 달러 투자 계획은 어려울 전망
지혜는 우리가 이미 알고 있다고 생각했던 교훈들을 다시 깨우쳐 주고 있습니다. DeepSeek은 우리에게 컴퓨팅 역사에서 중요한 세 가지 학습 포인트를 상기시켜 줍니다. 1) 컴퓨팅은 기체 법칙을 따른다. 즉, 이를 극적으로 저렴하게 만들면 시장 규모가 확장된다. 시장은 이 점을 오해하고 있으며, 이것이 AI 시장의 향방을 결정할 것이다... (2025년 1월 27일)
DeepSeek은 R1 모델 훈련에 Nvidia의 H800 GPU를 사용했지만, 비용 절감과 서방 하드웨어 의존도 축소를 위해 추론(Inferencing) 단계에는 (주로) 자체 개발한 화웨이(Huawei) Ascend AI 가속기(아마도 화웨이 910C)를 채택했습니다. Sam Altman은 AI 스타트업에게 1,000만 달러는 "완전히 희망이 없다"고 공언했으나, DeepSeek은 총 훈련 비용이 단지 560만 달러였으며, Meta의 Llama 3 405b 모델 대비 컴퓨팅 자원을 11배나 적게 사용했다고 주장합니다.
업계 전문가들은 이러한 수치에 대해 이견을 제시했지만, Gelsinger는 "대부분의 작업이 중국에서 진행되었기 때문에 완전한 투명성을 확보하기는 어렵습니다. 그러나 모든 증거가 보여주듯, DeepSeek의 훈련 비용은 o1보다 10배에서 50배 저렴합니다"라고 단언했습니다. 이 논의의 핵심은 DeepSeek이 단순히 하드웨어를 투입하는 대신, 업계가 오픈 소스로 전환하고 창의적인 해결책을 찾도록 강제하고 있다는 점입니다.
한편, DeepSeek은 ChatGPT 데이터를 부적절하게 추출(Distillation)했다는 혐의로 Microsoft와 OpenAI로부터 조사를 받고 있습니다. 이와 유사하게 DeepSeek은 방대한 양의 사용자 데이터를 수집하여 중국에 기반을 둔 서버에 저장하고 있으나, 적어도 자사의 관행에 대해서는 투명성을 유지하고 있습니다.