语言大模型 / LLM

RelayCaching: Accelerating LLM Collaboration via Decoding KV Cache Reuse

RelayCaching: 通过解码KV缓存重用加速LLM协作

Yingsheng Geng, Yuchong Gao, Weihong Wu, Guyue Liu, Jiang Liu

机构 * Beijing University of Posts（北京邮电大学） ； Tsinghua University, Beijing, China（清华大学） ； University of Electronic Science（电子科学大学） ； Peking University, Beijing, China（北京大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RelayCaching方法，通过重用前序代理的解码阶段KV缓存，在多代理LLM系统中减少冗余预填充计算，提升效率与准确性。

Exploratory Memory-Augmented LLM Agent via Hybrid On- and Off-Policy Optimization

探索性记忆增强型大语言模型代理：通过混合的在线与离线策略优化

Zeyuan Liu, Jeonghye Kim, Xufang Luo, Dongsheng Li, Yuqing Yang

机构 * Microsoft Research（微软研究院） ； KAIST（韩国科学技术院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 EMPO²通过混合在线与离线策略优化，提升大语言模型在探索性和通用性方面的性能。

Comments Accepted to ICLR 2026

Memex(RL): Scaling Long-Horizon LLM Agents via Indexed Experience Memory

Memex(RL): 通过索引经验记忆扩展长周期LLM代理

Zhenting Wang, Huancheng Chen, Jiayun Wang, Wei Wei

机构 * Center for Advanced AI, Accenture（先进人工智能中心，埃森哲） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 Memex(RL)通过索引经验记忆机制，实现长周期LLM代理的高效记忆管理，减少信息损失并提升任务成功率。

PlugMem: A Task-Agnostic Plugin Memory Module for LLM Agents

PlugMem: 一种通用插件记忆模块用于LLM代理

Ke Yang, Zixi Chen, Xuan He, Jize Jiang, Michel Galley, Chenglong Wang, Jianfeng Gao, Jiawei Han, ChengXiang Zhai

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Tsinghua University（清华大学） ； Microsoft Research（微软研究院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 PlugMem是一种通用记忆模块，通过知识中心的记忆图结构提升LLM代理在复杂任务中的记忆检索与推理能力。

Enhancing LLM-Based Test Generation by Eliminating Covered Code

通过消除已覆盖代码增强基于LLM的测试生成

WeiZhe Xu, Mengyu Liu, Fanxin Kong

机构 * University of Notre Dame（诺丁汉大学） ； Washington State University（华盛顿州立大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于LLM的单元测试生成方法，通过上下文检索和迭代测试生成与代码消除，提升复杂方法的测试覆盖率。

Comments 9 pages, 4 figures, supplementary material included

Memory-Based Advantage Shaping for LLM-Guided Reinforcement Learning

基于记忆的优势塑造用于LLM引导的强化学习

Narjes Nourzad, Carlee Joe-Wong

机构 * Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出一种基于记忆的优势塑造方法，通过构建记忆图来提升LLM引导强化学习的样本效率和学习速度，减少对连续LLM监督的依赖。

Comments Association for the Advancement of Artificial Intelligence (AAAI)

MIRA: Memory-Integrated Reinforcement Learning Agent with Limited LLM Guidance

MIRA: 集成记忆的强化学习智能体与有限LLM指导

Narjes Nourzad, Carlee Joe-Wong

机构 * University of Southern California（南加州大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MIRA通过集成记忆图减少对LLM的依赖，提升稀疏奖励环境中的强化学习性能。

Comments International Conference on Learning Representations (ICLR'26)

Choosing How to Remember: Adaptive Memory Structures for LLM Agents

选择如何记忆：面向LLM代理的自适应记忆结构

Mingfei Lu, Mengjia Wu, Feng Liu, Jiawei Xu, Weikai Li, Haoyang Wang, Zhengdong Hu, Ying Ding, Yizhou Sun, Jie Lu, Yi Zhang

机构 * University of Technology Sydney（悉尼大学） ； University of Texas at Austin（德克萨斯大学奥斯汀分校） ； University of California, Los Angeles（加州大学洛杉矶分校） ； The University of Melbourne（墨尔本大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出FluxMem框架，通过自适应记忆结构选择和三级记忆层次结构，提升LLM代理在长时间交互中的表现，实验显示平均提升9.18%和6.14%。

LycheeDecode: Accelerating Long-Context LLM Inference via Hybrid-Head Sparse Decoding

LycheeDecode: 通过混合头稀疏解码加速长上下文LLM推理

Gang Lin, Dongfang Li, Zhuoen Chen, Yukun Shi, Xuhui Chen, Baotian Hu, Min Zhang

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学深圳研究院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 LycheeDecode通过混合头稀疏解码方法，实现长上下文LLM推理的高效与高质量

Comments ICLR 2026

Fast Forward: Accelerating LLM Prefill with Predictive FFN Sparsity

快速推进：通过预测性FFN稀疏性加速LLM预填

Aayush Gautam, Mukul Gagrani, Junyoung Park, Mingu Lee, Chiris Lott, Narasimha Reddy

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 FastForward通过预测性FFN稀疏性加速LLM预填，实现计算瓶颈速度提升1.45倍，精度损失低于6%

Comments 10 pages, 7 figures

ShardMemo: Masked MoE Routing for Sharded Agentic LLM Memory

ShardMemo: 用于分片代理LLM内存的遮蔽MoE路由

Yang Zhao, Chengxiao Dai, Yue Xiu, Mengying Kou, Yuliang Zheng, Dusit Niyato

机构 * Department of XXX, University of YYY, Location, Country（XXX系，YYY大学，地点，国家） ； School of ZZZ, Institute of WWW, Location, Country（ZZZ学院，WWW研究所，地点，国家） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 ShardMemo通过遮蔽MoE路由优化分片代理LLM内存，提升F1分数并减少检索工作和延迟

Evaluating Novelty in AI-Generated Research Plans Using Multi-Workflow LLM Pipelines

利用多工作流LLM管道评估AI生成的研究计划新颖性

Devesh Saraogi, Rohit Singhee, Dhruv Kumar

机构 * Birla Institute of Technology and Science, Pilani, India（比拉理工学院和科学学院，皮兰迪） 纠错

专题命中 长上下文与记忆 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文通过多工作流LLM管道评估AI生成研究计划的新颖性，发现递归分解和长上下文工作流在新颖性和可行性方面表现更优。

Comments Under Review

Modeling LLM Agent Reviewer Dynamics in Elo-Ranked Review System

在Elo排名评审系统中建模LLM代理评审动态

Hsiang-Wei Huang, Junbin Lu, Kuang-Ming Chen, Jenq-Neng Hwang

机构 * University of Washington（华盛顿大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了在Elo排名评审系统中，通过整合Elo评分和评审者记忆提升领域主席决策准确性的LLM代理评审动态。

Comments In submission. The first two authors contributed equally

BackdoorAgent: A Unified Framework for Backdoor Attacks on LLM-based Agents

BackdoorAgent: 一个统一框架用于针对基于LLM的代理的后门攻击

Yunhao Feng, Yige Li, Yutao Wu, Yingshui Tan, Yanming Guo, Yifan Ding, Kun Zhai, Xingjun Ma, Yu-Gang Jiang

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； Singapore Management University（新加坡管理大学） ； Alibaba Group（阿里巴巴集团） ； Deakin University（德肯大学） ； Hunan Institute of Advanced Technology（湖南高级技术研究所） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 BackdoorAgent提出一个统一框架，分析LLM代理中后门攻击的跨阶段传播和触发器持续性，揭示代理工作流的脆弱性。

GPU Kernel Optimization Beyond Full Builds: An LLM Framework with Minimal Executable Programs

GPU内核优化超越完整构建：一种带有性能反馈的LLM框架，使用最小可执行程序

Ruifan Chu, Anbang Wang, Xiuxiu Bai, Shuai Liu, Xiaoshe Dong

机构 * School of Software Engineering, Xi'an Jiaotong University, China（软件工程学院，西安交通大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出一种LLM框架，通过最小可执行程序实现无需完整构建的GPU内核优化，提升性能并降低开发成本。

MemoryGraft: Persistent Compromise of LLM Agents via Poisoned Experience Retrieval

MemoryGraft: 通过中毒经验检索持续破坏LLM代理

Saksham Sahai Srivastava, Haoyu He

机构 * School of Computing University of Georgia（计算机学院 佐治亚大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MemoryGraft 通过在LLM代理的长期记忆中植入恶意经验，实现对代理行为的持续破坏。

Comments 14 pages, 1 figure, includes appendix

LoopBench: Discovering Emergent Symmetry Breaking Strategies with LLM Swarms

LoopBench: 通过LLM群体发现涌现的对称性打破策略

Ali Parsaee, Yashar Talebirad, Csongor Szepesvári, Vishwajeet Ohal, Eden Redman

机构 * University of Alberta（阿尔伯塔大学） ； Network for Applied Technology（应用技术网络） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 LoopBench通过LLM群体研究分布式对称性打破策略，揭示先进模型在解决死锁问题上的能力。

Comments 11 pages, 3 figures, submitted to ANTS 2026

CIP: A Plug-and-Play Causal Prompting Framework for Mitigating Hallucinations under Long-Context Noise

CIP: 一种用于在长上下文噪声下缓解幻觉的即插即用因果提示框架

Qingsen Ma, Dianyun Wang, Ran Jing, Yujun Sun, Zhenbo Xu

机构 * Beijing University of Posts and Telecommunications（北京邮电大学） ； Northwestern University（西北大学） 纠错

专题命中 长上下文与记忆 ：prompting(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 CIP通过因果推理框架提升大语言模型的可解释性、稳定性和效率，有效缓解长上下文噪声下的幻觉问题。

Evaluating Long-Context Reasoning in LLM-Based WebAgents

评估基于大语言模型的WebAgent的长上下文推理能力

Andy Chung, Yichi Zhang, Kaixiang Lin, Aditya Rawal, Qiaozi Gao, Joyce Chai

机构 * University of Michigan（密歇根大学） ； Amazon（亚马逊） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文评估了基于大语言模型的WebAgent在长上下文场景中的推理能力，发现随着上下文长度增加，性能显著下降，提出隐式RAG方法以改进任务执行。

Comments Accepted NeurIPS 25 LAW Workshop

STRIDE: A Systematic Framework for Selecting AI Modalities -- Agentic AI, AI Assistants, or LLM Calls

STRIDE：一种选择AI模态的系统框架——代理AI、AI助手或LLM调用

Shubhi Asthana, Bing Zhang, Chad DeLuca, Ruchi Mahindru, Hima Patel

机构 * IBM Research – Almaden（IBM阿尔马登研究实验室） ； IBM Research – Yorktown（IBM约克镇研究实验室） ； IBM Research – India（IBM印度研究实验室） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 STRIDE提供了一种系统框架，帮助选择AI模态，通过评估任务动态性决定是否使用自主代理，提升效率并降低成本。

Comments 10 pages, 4 Figures, 5 Tables Paper presented at NeurIPS 2025 LAW workshop: Bridging Language, Agent, and World Models

Fuzzy, Symbolic, and Contextual: Enhancing LLM Instruction via Cognitive Scaffolding

Vanessa Figueiredo

机构 * Department of Computer Science University of Regina（计算机科学系 皇家大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Forgetting to Forget: Attention Sink as A Gateway for Backdooring LLM Unlearning

Bingqi Shang, Yiwei Chen, Yihua Zhang, Bingquan Shen, Sijia Liu

机构 * Michigan State University（密歇根州立大学） ； National University of Singapore（新加坡国立大学） ； IBM Research（IBM研究院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

Scaling Long-Horizon LLM Agent via Context-Folding

Weiwei Sun, Miao Lu, Zhan Ling, Kang Liu, Xuesong Yao, Yiming Yang, Jiecao Chen

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Stanford University（斯坦福大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

To Sink or Not to Sink: Visual Information Pathways in Large Vision-Language Models

Jiayun Luo, Wan-Cyuan Fan, Lyuyang Wang, Xiangteng He, Tanzila Rahman, Purang Abolmaesumi, Leonid Sigal

机构 * University of British Columbia（不列颠哥伦比亚大学） ； Vector Institute for AI（人工智能矢量研究所） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；LLM(abstract)；large language model(abstract)；分类 cs.CL、cs.AI

Comments Preprint. Project page: https://davidhalladay.github.io/diysink_demo

MCCE: A Framework for Multi-LLM Collaborative Co-Evolution

Nian Ran, Zhongzheng Li, Yue Wang, Qingsong Ran, Xiaoyuan Zhang, Shikun Feng, Richard Allmendinger, Xiaoguang Zhao

机构 * Zhongguancun Academy（中关村学院） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； University of Manchester（曼彻斯特大学） ； Tongji University（同济大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

CAM: A Constructivist View of Agentic Memory for LLM-Based Reading Comprehension

Rui Li, Zeyu Zhang, Xiaohe Bo, Zihang Tian, Xu Chen, Quanyu Dai, Zhenhua Dong, Ruiming Tang

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

Comments Accepted by NeurIPS 2025

LEGOMem: Modular Procedural Memory for Multi-agent LLM Systems for Workflow Automation

Dongge Han, Camille Couturier, Daniel Madrigal Diaz, Xuchao Zhang, Victor Rühle, Saravan Rajmohan

机构 * Microsoft（微软） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

Memory Transfer Planning: LLM-driven Context-Aware Code Adaptation for Robot Manipulation

Tomoyuki Kagaya, Subramanian Lakshmi, Yuxuan Lou, Thong Jing Yuan, Jayashree Karlekar, Sugiri Pranata, Natsuki Murakami, Akira Kinose, Yang You

机构 * Panasonic Connect Co., Ltd.（松下电器（控股）公司） ； Panasonic R&D Center（松下研发中心） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

From Personal to Collective: On the Role of Local and Global Memory in LLM Personalization

Zehong Wang, Junlin Wu, ZHaoxuan Tan, Bolian Li, Xianrui Zhong, Zheli Liu, Qingkai Zeng

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

An LLM-based Agentic Framework for Accessible Network Control

Samuel Lin, Jiawei Zhou, Minlan Yu

机构 * Meta ； Stony Brook University（石溪大学） ； Harvard University（哈佛大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

Comments 11 pages, 6 figures

Journal ref AI Crossroads: Systems, Energy, and Applications Workshop of ACM SIGMETRICS 2025 Conference