Local-Splitter: A Measurement Study of Seven Tactics for Reducing Cloud LLM Token Usage on Coding-Agent Workloads
Local-Splitter:七种减少云LLM令牌使用量策略的测量研究
机构 * Sperix Labs(Sperix实验室) ; VIA Cybersecurity Lab, KNUST(VIA网络安全实验室,科罗尼斯特大学) ; Quantum and Assistive Technologies Lab, KNUST(量子与辅助技术实验室,科罗尼斯特大学)
专题命中 软件智能体 :coding agent(abstract);分类 cs.SE、cs.AI
AI总结 本文研究了七种减少云LLM令牌使用量的策略,通过测量发现本地路由与提示压缩组合在编辑密集型任务中可节省45-79%的云令牌,而RAG密集型任务中完整策略集可节省51%。