InfoFlow KV: Information-Flow-Aware KV Recomputation for Long Context
InfoFlow KV:面向长上下文的信息流感知KV重计算
机构 * New York University(纽约大学) ; Duke University(杜克大学)
专题命中 长文档RAG :RAG(abstract,abstract_cn);retrieval-augmented generation(abstract)
AI总结 提出将选择性KV重计算建模为信息流问题,利用查询的注意力范数信号识别语义相关且结构上能传播信息的token,并引入信息流引导的块重排序策略,在LLM和VLM基准上优于现有方法。
Comments In proceedings of the 43rd International Conference on Machine Learning (ICML 2026). Project page: https://infoflow-kv.github.io