수만 개의 GPU가 다음 주에 도착할 예정입니다.
OpenAI가 최신 모델 GPT-4.5를 출시했습니다. 하지만 현재는 월 200달러를 지불하는 Pro 구독자에게만 이용이 제한됩니다. CEO 샘 알트만은 X(구 트위터)를 통해 모델 출시가 단계적으로 진행될 수밖에 없었다고 설명하며, "우리가 급격히 성장하면서 GPU가 부족했기 때문"이라고 밝혔습니다. 이어 그는 "다음 주에 수만 개의 GPU를 추가하여 Plus 등급 구독자에게 순차적으로 공개할 것"이라고 덧붙였습니다. 따라서 OpenAI에 월 20달러만 지불하더라도 최신 모델에 접근하는 데 오래 기다릴 필요는 없을 전망입니다.
(※ 독자 리뷰 발췌: GPT-4.5가 출시되었습니다! 좋은 점은, 저에게는 마치 사려 깊은 사람과 대화하는 느낌을 주는 최초의 모델이라는 것입니다. 저는 의자에 앉아 AI로부터 실제로 좋은 조언을 얻고 깜짝 놀랐던 순간들을 여러 번 겪었습니다. 아쉬운 점은, 이 모델이 거대하고 비싼 모델이라는 것입니다. - 2025년 2월 27일)
알트만은 자신의 게시물에서 수십만 개의 GPU가 곧 더 공급될 것이라고 추가했습니다. 이러한 공급 부족 사태가 OpenAI가 Broadcom과 협력하여 자체 AI 실리콘을 개발하는 원동력이 되고 있습니다. 하지만 자체 칩을 출시하기까지 상당한 시간이 소요될 것이기 때문에, 당분간은 Nvidia 등 외부 공급업체에 의존해야 하는 상황입니다. 이는 Nvidia가 유리한 위치에 있음을 보여주는데, 이 칩 제조업체는 최신 Blackwell GPU가 올해 10월까지 매진되었다고 밝힌 바 있습니다. 기관 및 개인이 대규모 데이터센터 확장을 계획함에 따라, 관련 산업은 향후 몇 년간 매우 활발할 것으로 보입니다. 예를 들어, OpenAI와 Microsoft는 1,000억 달러 규모의 초대형 AI 슈퍼컴퓨터를 개발하고 있으며, 일론 머스크는 테네시주 멤피스에 있는 자신의 콜로서스 슈퍼컴퓨터를 백만 개 이상의 GPU 용량으로 확장하고자 합니다. 다른 투자자들도 데이터센터 시장에 뛰어들고 있는데, 한 곳은 한국 정부로부터 3GW 규모 시설 승인을 받았고, 다른 팀은 달에 데이터를 저장하는 실험을 진행하고 있습니다. 하지만 AI 인프라의 이러한 전방위적 확장은 마이크로소프트 CEO 사티아 나델라가 "AI 시스템의 과도한 구축(overbuilding)"이 될 것이라고 경고하는 배경이 되기도 했습니다. 이는 AI 모델이 더욱 진보하고 더 많은 컴퓨팅 파워를 요구함에도 불구하고 발생하는 현상입니다.
OpenAI의 GPT-4.5가 이러한 현상의 좋은 예시입니다. 샘 알트만은 GPT-4.5가 "거대하고 비싼 모델"이라고 지적하며, GPT-4.5는 입력 토큰 백만 개당 75달러, 출력 토큰 백만 개당 150달러의 비용이 발생한다고 밝혔습니다. 이에 비해 GPT-4o는 입력 토큰 백만 개당 2.50달러, 출력 토큰 백만 개당 10달러의 비용이 듭니다. 이처럼 터무니없는 가격 책정에도 불구하고, 알트만은 GPT-4.5가 "추론 모델은 아니므로 벤치마크를 무너뜨리지는 않을 것"이라고 평가했습니다. 그럼에도 그는 "이것은 완전히 다른 종류의 지능이며, 이전에 경험해보지 못한 마법 같은 무언가가 있다"고 덧붙였습니다.