From Tokens to Watt-hours: Analytical Energy Estimation for LLM Inference on Modern GPUs
从Token到瓦时:现代GPU上大语言模型(LLM)推理的分析式能耗估算
机构 * National Technical University of Athens(雅典国家技术大学) ; Harvard University(哈佛大学) ; TWT GmbH Science & Innovation(TWT有限责任公司科学与创新部) ; NIKI Ltd Digital Engineering(尼基数字工程有限公司) ; University of Ioannina(约阿尼纳大学) ; National and Kapodistrian University of Athens(雅典国立卡波迪斯特里亚大学) ; Massachusetts Institute of Technology(麻省理工学院)
AI总结 该研究提出一种无需直接测量的GPU级LLM推理能耗分析估算方法,适用于模型比较、绿色编码分析及设计时评估。
Comments 20 pages, 3 figures, 6 tables. Accepted for oral presentation at the GREEN-AI Workshop, co-located with ECML-PKDD 2026