AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices
AI总结 随着基于大语言模型的自主代理在复杂任务中应用增多,本地部署虽能提升隐私保护和降低成本,但其资源消耗远高于普通语言模型交互。本文研究了在消费级硬件上本地运行代理的能耗问题,提出了一种名为AgentStop的轻量级监督机制,通过预测任务失败的可能性提前终止无效流程,在减少15%-20%能耗的同时仅小幅影响任务性能,为可持续的本地智能代理系统提供了可行方案。
Comments ACM CAIS '26