ConCise: Training-Free Conclusion-Chain State Compression for Cost-Efficient Multi-Step RAG Services
ConCise: 免训练结论链状态压缩用于经济高效的多步RAG服务
机构 * National Natural Science Foundation of China(国家自然科学基金委员会) ; Guangdong Higher Education Association(广东省高等教育协会) ; Guangdong Provincial Higher Education Institutions(广东省高等教育机构) ; Beijing Normal University at Zhuhai Education Reform Project(珠海市北京师范大学教育改革项目)
专题命中 长文档RAG :RAG(title,title_cn);retrieval-augmented generation(abstract);分类 cs.IR、cs.AI
AI总结 针对多步RAG中累积输入令牌呈O(N²)增长导致成本高的问题,提出免训练状态层协议ConCise,通过结构化结论链将增长压缩至O(N),并引入融合生成机制减少API调用,平均节省64.63%令牌且保持可接受精度。
Comments to be published in IEEE ICWS 2026