AI 모델에 프롬프트를 입력하거나 "감사합니다"와 같은 메시지를 보낼 때 어느 정도 전력을 소비하는지 생각해 본 적 있나요? Hugging Face 엔지니어 Julien Delavande 역시 이 질문을 품었고, 그 답을 찾아주는 도구를 제작했습니다.
AI 모델은 실행될 때마다 에너지를 소비합니다. 이 모델들은 GPU와 전문 칩 위에서 구동되며, 방대한 규모의 계산 워크로드를 수행하려면 막대한 전력이 필요합니다. 모델의 전력 소비량을 정확하게 측정하는 것은 쉽지 않지만, AI 기술의 사용이 증가함에 따라 향후 몇 년 동안 전력 수요가 사상 최고치를 기록할 것이라는 예측이 널리 나오고 있습니다.
AI 구동을 위한 전력 수요 증가는 일부 기업들로 하여금 환경에 부정적인 전략을 추구하게 만들기도 했습니다. Delavande의 도구와 같은 프로젝트들은 이러한 문제에 대한 관심을 환기시키며, 일부 AI 사용자들에게는 경각심을 일깨워주고자 합니다.
Delavande와 공동 창작자들은 성명에서 다음과 같이 언급했습니다. "작은 에너지 절약도 수백만 건의 쿼리에 걸쳐 규모가 커질 수 있습니다. 모델 선택이나 출력 길이의 차이가 상당한 환경적 영향을 초래할 수 있습니다."
️ ChatGPT에 메시지를 보낼 때마다 얼마나 많은 에너지가 사용되는지 궁금하셨나요?
사용자 메시지가 얼마나 많은 에너지를 소비하는지 실시간으로 보여주는 Chat UI 버전을 개발했습니다. 모든 챗봇이 이 정보를 공개해야 할까요? 자세한 내용은 아래를 확인하세요 
— Delavande Julien (@juliendelavande)
2025년 4월 22일
Delavande의 도구는 Meta의 Llama 3.3 70B와 Google의 Gemma 3와 같은 모델을 위한 오픈 소스 프런트엔드인 Chat UI와 연동되도록 설계되었습니다. 이 도구는 모델로 전송되거나 모델에서 전송되는 메시지의 에너지 소비량을 실시간으로 추정하며, 그 소비량을 와트시(Watt-hours) 또는 줄(Joules) 단위로 보고합니다. 또한 모델의 에너지 사용량을 전자레인지나 LED 전구 같은 일반 가정용 가전제품의 사용량과도 비교합니다.
이 도구에 따르면, Llama 3.3 70B에게 일반적인 이메일 작성을 요청하는 데는 약 0.1841 와트시가 소요됩니다. 이는 전자레인지를 0.12초 동안 사용하거나 토스터를 0.02초 동안 사용하는 것과 맞먹는 양입니다.
다만, 이 도구의 수치는 '추정치'일 뿐이라는 점을 기억할 필요가 있습니다. Delavande는 이 수치들이 극도로 정확하다고 주장하지는 않습니다. 그럼에도 불구하고, 이 추정치들은 챗봇을 포함한 모든 활동에는 비용이 따른다는 사실을 상기시켜 줍니다.
Delavande와 공동 창작자들은 "AI 에너지 점수와 AI의 에너지 발자국에 관한 광범위한 연구 프로젝트를 통해, 저희는 오픈 소스 커뮤니티에 투명성을 촉구하고 있습니다. 언젠가 에너지 사용량은 식품의 영양 성분 라벨처럼 누구나 확인할 수 있게 될 것입니다!"라고 전했습니다.