arXiv · cs.LG· Yi Pan, Wenbo Qian, Dedong Xie, Ruiyan Hu, Yigong Hu, Baris Kasikci·· 1 天前
Magneton：通过差分能耗调试优化 ML 系统能效
Magneton: Optimizing Energy Efficiency of ML Systems via Differential Energy Debugging
AI 导读
研究者提出差分能耗调试方法并实现能耗分析工具 Magneton，在算子层面比较功能相似的 ML 系统能耗，自动定位导致能耗过高的代码区域和配置选择。该工具应用于 LLM 推理、通用 ML 框架和图像生成等 9 个主流 ML 系统，检测并诊断出 16 个已知的软件能耗低效案例，另发现 8 个此前未知案例，其中 7 个已获开发者确认。
来源：arXiv · cs.LG · arxiv.org