OpenAI의 챗봇 플랫폼인 ChatGPT는 과거에 추정되던 것처럼 막대한 전력을 소비하지 않을 수도 있습니다. 하지만 새로운 연구에 따르면, 실제 전력 소비량은 ChatGPT의 사용 방식과 질의에 응답하는 AI 모델에 따라 크게 달라지는 것으로 나타났습니다.
비영리 AI 연구 기관인 에포크 AI(Epoch AI)의 최근 분석은 일반적인 ChatGPT 질의가 소비하는 에너지량을 계산하는 내용을 담고 있습니다.
과거에 자주 인용되던 통계에 따르면 ChatGPT가 단 하나의 질문에 응답하는 데 약 3와트시(watt-hours)의 전력을 필요로 하며, 이는 구글 검색 대비 10배가량 많은 수치입니다.
그러나 에포크 AI는 이 수치가 과장되었다고 보고 있습니다.
에포크는 ChatGPT의 참조 모델로 OpenAI의 최신 기본 모델인 GPT-4o를 사용해 평균적인 ChatGPT 질의가 약 0.3와트시를 소비한다고 밝혀냈습니다. 이는 많은 가정용 가전제품보다 적은 수준입니다.
이 분석을 수행한 에포크의 데이터 분석가 조슈아 유(Joshua You)는 테크크런치(TechCrunch)와의 인터뷰에서 "에너지 사용량은 일반 가전제품 사용, 혹은 주택 난방이나 냉방, 자동차 운전과 비교했을 때 실질적인 문제가 아니다"라고 언급했습니다.
AI의 에너지 사용량과 그 환경적 영향은 AI 기업들이 인프라 규모를 급속하게 확장하는 과정에서 논쟁거리입니다. 지난주만 해도 100여 개 기관이 공개 서한을 발표하며, AI 산업과 규제 당국에 새로운 AI 데이터 센터가 천연자원을 고갈시키고 공공 전력망이 비재생 에너지원에 의존하도록 만들어서는 안 된다고 촉구했습니다.
유는 테크크런치에서 자신의 분석이 기존의 구식 연구 결과에 기반한 오해에서 비롯되었다고 설명했습니다. 그는 예를 들어, 3와트시라는 추정치에 도달한 보고서의 저자가 OpenAI가 모델을 구동하기 위해 구형의 비효율적인 칩을 사용했다고 가정한 것이 문제라고 지적했습니다.
유는 "AI가 향후 몇 년간 많은 에너지를 소비할 것이라는 점은 정확히 인식된 공개적인 논의가 많았지만, 오늘날 AI가 실제로 어느 정도의 에너지를 소비하는지에 대해서는 정확한 기술이 부족했다"며, "또한, 질의당 3와트시라는 가장 널리 알려진 추정치가 상당히 오래된 연구를 기반으로 하고 있으며, 간단한 계산으로 보아도 과도한 수치로 보입니다"라고 덧붙였습니다.
물론 에포크가 제시한 0.3와트시라는 수치 역시 근사치일 뿐이며, OpenAI가 정확한 계산에 필요한 세부 정보를 공개한 것은 아닙니다.
또한 이 분석은 이미지 생성이나 입력 처리와 같은 ChatGPT의 부가 기능 사용으로 발생하는 추가 에너지 비용은 고려하지 않았습니다. 유는 첨부 파일이 많은 '긴 입력(long input)' 질의가 일반적인 질문보다 초기 전력을 더 많이 소모할 가능성이 높다고 인정했습니다.
하지만 유는 기본적인 ChatGPT의 전력 소비량 자체는 증가할 것으로 예상했습니다.
그는 "AI는 계속 발전할 것이고, 이 AI를 훈련하는 과정은 훨씬 더 많은 에너지를 필요로 할 것이며, 미래의 AI는 현재 사용자들이 ChatGPT를 사용하는 방식보다 훨씬 더 강렬하게 사용될 것입니다. 훨씬 더 복잡하고 광범위한 작업에 활용될 것입니다"라고 전망했습니다.
OpenAI의 주목할 만한 점은 추론(추론) 모델의 등장입니다. 추론 모델은 일반적으로 더 적은 전력을 소모하는 경향이 있습니다.
ChatGPT와 같이 복잡한 연산을 요구하는 모델들은 막대한 전력을 사용하며, 이 추세는 앞으로도 지속될 것이므로 전력 효율을 개선하는 것이 중요합니다.
전문가들은 향후 전력 효율성 개선이 중요하다고 강조하며, 이로 인해 에너지 효율성이 높은 아키텍처 설계 및 하드웨어 기술 개발이 가속화될 것으로 예상합니다.
결론적으로, 전반적인 전력 효율성 개선이 필수적이며, 이로 인해 새로운 반도체 기술이나 에너지 관리 시스템 등의 발전이 기대되고 있습니다.
[출처:] https://techcrunch.com/2025/02/11/chatgpt-may-not-be-as-power-hungry-as-once-assumed