Accordion-Thinking: Self-Regulated Step Summaries for Efficient and Readable LLM Reasoning
Accordion-Thinking:通过动态摘要实现的自我调节步骤摘要以提高LLM推理的效率和可读性
机构 * Sun Yat-Sen University(中山大学) ; ETH AI Center, ETH Zurich(苏黎世联邦理工学院人工智能中心) ; University of California, Merced(加州大学默塞德分校)
专题命中 测试时计算 :reasoning(title,abstract);chain-of-thought(abstract);test-time compute(abstract);分类 cs.AI、cs.LG
AI总结 本文提出Accordion-Thinking框架,通过动态摘要实现LLM推理的自我调节,减少历史token依赖,提升效率和可读性,实验显示其在48GB GPU内存配置下实现三倍吞吐量且保持准确率。