엔비디아 CEO 젠슨 황(Jensen Huang)은 자사 AI 칩의 성능 진전 속도가 수십 년간 컴퓨팅 발전의 기준으로 작용해 온 무어의 법칙(Moore’s Law)이 제시했던 역사적 속도를 능가하고 있다고 주장했다.
황은 라스베이거스 CES에서 1만 명이 참석한 가운데 기조연설을 마친 다음 날인 화요일, TechCrunch와의 인터뷰에서 "당사의 시스템은 무어의 법칙보다 훨씬 빠르게 발전하고 있습니다"라고 밝혔다.
1965년 인텔 공동 창립자인 고든 무어가 제시한 무어의 법칙은 컴퓨터 칩의 트랜지스터 수가 약 2년마다 두 배로 증가할 것이라 예측했으며, 이는 본질적으로 칩 성능의 두 배 증가를 의미했다. 이 예측은 대부분 맞아떨어지며 수십 년 동안 기술 역량의 급진적인 발전과 비용의 급락을 이끌어냈다.
최근 몇 년간 무어의 법칙의 속도는 둔화되는 추세였다. 하지만 황은 엔비디아의 AI 칩이 자체적인 가속화 추세에 따라 발전하고 있으며, 최신 데이터센터 슈퍼칩은 이전 세대 대비 AI 추론(inference) 워크로드를 처리하는 속도가 30배 이상 빠르다고 강조했다.
황은 "우리는 아키텍처, 칩, 시스템, 라이브러리, 알고리즘 전반을 동시에 구축할 수 있습니다. 이처럼 전체 스택(stack)을 아우르는 혁신을 진행하면 무어의 법칙을 넘어설 수 있습니다"라고 역설했다.
엔비디아 CEO의 이러한 대담한 주장은 AI 발전이 정체되었다고 의문을 제기하는 시점에 나온 것이다. 구글, OpenAI, Anthropic 등 주요 AI 연구소들은 엔비디아의 AI 칩을 활용해 AI 모델을 훈련하고 구동하고 있으며, 이 칩의 발전은 AI 모델의 역량 향상으로 직결될 가능성이 높다.
황이 엔비디아가 무어의 법칙을 넘어서고 있다고 제안한 것은 이번이 처음이 아니다. 그는 이미 지난 11월 팟캐스트에서 AI 분야가 "초(hyper) 무어의 법칙"에 진입하고 있음을 시사한 바 있다.
황은 AI 발전이 둔화되고 있다는 주장을 일축하며, 현재 AI에는 세 가지 활발한 스케일링 법칙이 작동하고 있다고 주장한다. 첫째는 대량의 데이터로부터 AI 모델이 패턴을 학습하는 초기 훈련 단계인 사전 훈련(pre-training)이다. 둘째는 인간 피드백(human feedback) 등 특정 방법을 사용하여 모델 답변을 미세 조정하는 사후 훈련(post-training)이다. 셋째는 질문을 받은 후 AI 모델이 추론 과정에서 더 깊이 생각할 시간을 갖게 하는 테스트 시간 컴퓨팅(test-time compute)이다.
황은 TechCrunch과의 인터뷰에서 "무어의 법칙은 컴퓨팅 비용을 낮추며 컴퓨팅 역사에 결정적인 역할을 했다. 추론 과정에서도 같은 현상이 발생할 것이며, 성능 향상은 곧 추론 비용의 하락으로 이어질 것"이라고 설명했다.
한편, 황은 자신이 직접 개발하고 있는 차세대 칩은 기존 대비 성능이 월등하며, 이것이 AI 성능 향상의 핵심 동력이 될 것이라고 자신했다. 그는 또한 데이터센터의 전력 효율성을 높이고, 새로운 AI 애플리케이션을 구동하기 위한 인프라 구축이 중요하다고 역설했다.
결론적으로, 황은 엔비디아의 지배적인 시장 지위와 함께, 엔비디아의 GPU 아키텍처 개선 및 자체 개발 칩을 통해 AI 산업 전반에 걸쳐 근본적인 패러다임 변화를 이끌어낼 것이라고 자신감을 내비쳤다.
[출처:] https://techcrunch.com/2025/01/07/nvidia-ceo-says-his-ai-chips-are-improving-faster-than-moores-law