• AMD, Ryzen AI Max+ 395가 AI 워크로드에서 Lunar Lake 대비 최대 12.2배 빠르다고 주장하다

    Ryzen 칩은 전력 소모가 3배 이상 크지만, Lunar Lake 경쟁 제품과 같은 슬림하고 가벼운 폼 팩터에 들어맞는다.

    article image

    AMD의 고성능 모델인 Ryzen AI Max+ 395가 인텔의 최신 효율성 중심 Lunar Lake CPU를 AI 벤치마크 테스트에서 압도한다는 내용입니다. 한 AMD 블로그 게시물에 따르면, 새로운 Zen 5 + RDNA 3.5 칩은 Core Ultra 7 258V 대비 최대 12.2배 빠른 성능을 기록했습니다.

    AMD는 DeepSeek R1, Llama 등 다양한 대규모 언어 모델(LLM) 및 LLM 구성을 활용하여 Ryzen AI Max+ 395와 Core Ultra 7 258V(Arc 140V 그래픽 탑재)를 벤치마크했습니다. 공정한 비교를 위해 모델 크기는 16GB로 제한했는데, 이는 해당 장치에서 사용 가능한 최대 메모리 구성인 32GB를 갖춘 Lunar Lake 기반 노트북과 동일하게 비교하기 위함이었습니다. 테스트 시스템으로는 Ryzen AI Max+ 395의 경우 Asus ROG Flow Z13 64GB를, Core Ultra 7 258V의 경우 Asus Zenbook S14 32GB를 사용했습니다.

    article image

    DeepSeek R1의 경우, Ryzen 칩은 Distill Qwen 1.5b를 사용한 인텔 제품 대비 최대 2.1배 빨랐으며 (토큰/초 단위 측정), Distill Qwen 7b 사용 시 최대 2.2배, Distill Llama 8b 사용 시 최대 2.1배, Distill Qwen 14b 사용 시 최대 2.2배 빨랐습니다. Phi 4 Mini Instruct 3.8b에서는 Ryzen 칩이 인텔 Lunar Lake 칩보다 최대 2.1배 빨랐고, Phi 4 14b에서는 최대 2.2배, Llama 3.2 3b Instruct에서는 최대 2.1배 빨랐습니다.

    같은 LLM 구성에서 "첫 번째 토큰까지의 시간(Time to the First Token)"을 측정했을 때도 Ryzen AI Max+ 395는 DeepSeek R1 Distill Qwen 14b 테스트에서 최대 12.2배 빠른 성능을 보였습니다. Zen 5 칩의 성능 우위가 가장 적게 나타난 분야는 Phi 4 Mini Instruct 3.8b와 Llama 3.2 3b Instruct였는데, 이 경우 AMD 칩은 Core Ultra 7 258V보다 "단지" 4배 정도 빠르았습니다.

    article image

    AMD는 AI 비전 모델에서도 유사한 성능 우위를 입증했습니다. 이 역시 동일한 "첫 번째 토큰까지의 시간" 벤치마킹 기법을 사용했습니다. IBM Granite Vision 3.2 2B에서는 395가 258V보다 최대 7배 빨랐으며, Google Gemma 3.4b에서는 최대 4.6배, Google Gemma 3 12b에서는 최대 6배 빠르다는 결과가 나왔습니다.

    article image

    AMD의 벤치마크 결과는 AI 분야 전반에 걸쳐 Ryzen AI Max+ 395가 Core Ultra 7 258V 대비 확실한 우위를 점하고 있음을 보여줍니다. 이러한 우위는 Ryzen AI Max CPU가 훨씬 강력한 통합 그래픽 칩(40 RDNA 3.5 CU로 외장 그래픽에 필적함), 8개 더 많은 CPU 코어, 그리고 높은 구성 가능 TDP(최대 120W로 평가됨) 덕분입니다. 비록 Core Ultra 7 258V(최대 터보 전력 37W)보다 전력 소비가 훨씬 높지만, 두 칩은 모두 동일한 시장을 공략하며 초경량 노트북 PC 카테고리에서 상호 호환성이 높습니다.

    앞으로는 새로운 AMD 모바일 APU가 공급망 문제로 출시가 지연되는 Nvidia의 RTX 50 시리즈 모바일 GPU와 어떤 경쟁을 펼칠지 주목됩니다. 순수 성능 수준(폼 팩터는 고려하지 않은 경우)에서 이 새로운 Nvidia 기반 시스템들이 AMD의 주요 경쟁 상대가 될 것입니다. 다만, AMD는 이미 Ryzen AI Max+ 395가 Nvidia의 RTX 4090 노트북 GPU 대비 우수한 AI 성능을 과시하며 외장 그래픽 경쟁에 대비하고 있는 것으로 알려졌습니다.

    [출처:] https://www.tomshardware.com/pc-components/cpus/amd-boasts-its-ryzen-ai-max-395-is-up-to-12-2x-faster-than-lunar-lake-in-ai-workloads