语言大模型 / LLM

Escaping the Context Bottleneck: Active Context Curation for LLM Agents via Reinforcement Learning

突破上下文瓶颈：通过强化学习实现LLM代理的主动上下文精修

Xiaozhe Li, Tianyi Lyu, Yizhao Yang, Liang Shan, Siyi Yang, Ligao Zhang, Zhuoyi Huang, Qingwen Liu, Yang Li

机构 * Tongji University（同济大学） ； Stanford University（斯坦福大学） ； CurrentsAI Research（CurrentsAI 研究院） 纠错

专题命中 长上下文与记忆 ：LLM(title)；large language model(abstract)；language model(abstract)；foundation model(abstract)

AI总结 本文提出一种解耦上下文管理和任务执行的框架，通过强化学习训练轻量级策略模型ContextCurator，有效减少工作内存中的信息熵，提升LLM在长周期任务中的表现。

PersonalAI: A Systematic Comparison of Knowledge Graph Storage and Retrieval Approaches for Personalized LLM agents

PersonalAI：个性化大语言模型中知识图谱存储与检索方法的系统比较

Mikhail Menschikov, Dmitry Evseev, Victoria Dochkina, Ruslan Kostoev, Ilia Perepechkin, Petr Anokhin, Nikita Semenov, Evgeny Burnaev

机构 * Skoltech（斯科尔科沃科学技术学院） ； Public Joint Stock Company “Sberbank of Russia”（俄罗斯联邦储蓄银行） ； AIRI（人工智能研究所） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出基于知识图谱的灵活外部记忆框架，通过自动构建和更新图谱提升个性化LLM代理的长期交互能力，通过多种检索机制验证了不同配置在不同任务中的最优性能。

From Agent Loops to Structured Graphs:A Scheduler-Theoretic Framework for LLM Agent Execution

从代理循环到结构化图：一个用于LLM代理执行的调度理论框架

Hu Wei

专题命中 长上下文与记忆 ：LLM(title,abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出SGH框架，通过将控制流显式化为静态DAG，解决代理循环的隐式依赖、无限恢复循环和调试困难问题，同时分析可控性、表达性和可实现性之间的权衡。

Comments 51 pages, 4 figures

From Speech to Profile: A Protocol-Driven LLM Agent for Psychological Profile Generation

从语音到档案：一种基于协议的LLM代理用于心理档案生成

Xingjian Yang, Yudong Yang, Zhixing Guo, Yongjie Zhou, Nan Yan, Lan Wang

机构 * Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences（中国科学院深圳先进技术研究院） ； Key Laboratory of Biomedical Imaging Science and System, Chinese Academy of Sciences（中国科学院生物医学成像科学与系统重点实验室） 纠错

专题命中 长上下文与记忆 ：LLM(title)；large language model(abstract)；language model(abstract)

AI总结 本文提出StreamProfile框架，通过增量处理咨询语音，提取证据并生成可追溯的心理档案，有效避免幻觉和长上下文遗忘问题。

The Past Is Not Past: Memory-Enhanced Dynamic Reward Shaping

过去并非过去：记忆增强的动态奖励塑造

Yang Liu, Enxi Wang, Yufei Gao, Weixin Zhang, Bo Wang, Zhiyuan Zeng, Yikai Zhang, Yining Zheng, Xipeng Qiu

机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MEDS框架，通过整合历史行为信号改进奖励设计，提升大语言模型的探索多样性与性能，实验显示在多个数据集上取得显著提升。

MERMAID: Memory-Enhanced Retrieval and Reasoning with Multi-Agent Iterative Knowledge Grounding for Veracity Assessment

MERMAID：基于多智能体迭代知识接地的记忆增强检索与推理用于真实性评估

Yupeng Cao, Chengyang He, Yangyang Yu, Ping Wang, K. P. Subbalakshmi

机构 * Stevens Institute of Technology（史蒂文斯理工学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 MERMAID通过整合智能体驱动搜索、结构化知识表示和持久记忆模块，提升事实核查和主张验证的效率与一致性，实现检索、推理与记忆的协同优化。

Self-Evolving LLM Memory Extraction Across Heterogeneous Tasks

跨异质任务的自演化大语言模型记忆提取

Yuqing Yang, Tengxiao Liu, Wang Bill Zhu, Taiwei Shi, Linxin Song, Robin Jia

机构 * University of Southern California（南加州大学） ； University of California, Santa Barbara（加州大学圣塔芭芭拉分校） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.CL

AI总结 本文提出BEHEMOTH基准，通过集群-based策略CluE提升跨异质任务的记忆提取效果，实验显示CluE在异质任务中表现更优。

Diagnosing Retrieval vs. Utilization Bottlenecks in LLM Agent Memory

诊断LLM代理记忆中的检索与利用瓶颈

Boqin Yuan, Yue Su, Kun Yao

机构 * University of California, San Diego（加利福尼亚大学圣迭戈分校） ； Carnegie Mellon University（卡内基梅隆大学） ； University of North Carolina（北卡罗来纳大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 本文通过3x3实验分析写入策略、检索方法和记忆利用行为对性能的影响，发现检索方法是主要瓶颈，且原始分块存储在无需LLM调用时表现优异。

Comments Accepted at the MemAgents Workshop, ICLR 2026

ClawVM: Harness-Managed Virtual Memory for Stateful Tool-Using LLM Agents

ClawVM: 用于状态ful工具使用的LLM代理的抓取管理虚拟内存

Mofasshara Rafique, Laurent Bindschaedler

机构 * Independent Researcher（独立研究员） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；分类 cs.AI

AI总结 ClawVM通过管理状态为类型化的页面，实现状态的可靠存储与回写，解决了状态丢失和回写失败的问题，提升了LLM代理的稳定性和可审计性。

Comments 8 pages, 1 figure, 10 tables; accepted at EuroMLSys '26 (6th Workshop on Machine Learning and Systems, co-located with EuroSys 2026)

Deep Optimizer States: Towards Scalable Training of Transformer Models Using Interleaved Offloading

深度优化状态：通过交错卸载实现变压器模型的可扩展训练

Avinash Maurya, Jie Ye, M. Mustafa Rafique, Franck Cappello, Bogdan Nicolae

机构 * Rochester Institute of Technology（罗切斯特理工学院） ； Illinois Institute of Technology（伊利诺伊理工学院） ； Argonne National Laboratory（阿贡国家实验室） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出深度优化状态技术，通过交错卸载优化器状态到主机内存，提升GPU和CPU的利用效率，实验显示比现有方法快2.5倍。

DynamicsLLM: a Dynamic Analysis-based Tool for Generating Intelligent Execution Traces Using LLMs to Detect Android Behavioural Code Smells

DynamicsLLM：基于动态分析的工具，利用LLMs生成智能执行轨迹以检测Android行为代码异味

Houcine Abdelkader Cherief, Florent Avellaneda, Naouel Moha

机构 * École de technologie supérieure（高等技术学院） ； Université du Québec à Montréal（魁北克大学蒙特利尔分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出DynamicsLLM，利用LLMs生成智能执行轨迹以检测Android行为代码异味，通过混合方法提高小活动应用的覆盖范围，并在333个应用上验证效果，显著提升代码异味检测率。

ADAM: A Systematic Data Extraction Attack on Agent Memory via Adaptive Querying

ADAM：通过自适应查询对代理记忆进行系统性数据提取攻击

Xingyu Lyu, Jianfeng He, Ning Wang, Yidan Hu, Tao Li, Danjue Chen, Shixiong Li, Yimin Chen

机构 * University of Massachusetts Lowell, USA（马萨诸塞大学洛厄尔分校） ； Amazon, USA（亚马逊） ； University of South Florida, USA（南佛罗里达大学） ； Rochester Institute of Technology, USA（罗切斯特理工学院） ； Purdue University, USA（普渡大学） ； North Carolina State University, USA（北卡罗来纳州立大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出ADAM攻击，通过估计受害者代理内存的数据分布和熵引导查询策略，提升隐私泄露效果，实验显示其攻击成功率高达100%。

AtlasKV: Augmenting LLMs with Billion-Scale Knowledge Graphs in 20GB VRAM

AtlasKV：在20GB VRAM中通过十亿级知识图谱增强大语言模型

Haoyu Huang, Hong Ting Tsang, Jiaxin Bai, Xi Peng, Gong Zhang, Yangqiu Song

机构 * The Hong Kong University of Science and Technology（香港科技大学） ； Theory Lab, Huawei（华为理论实验室） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出AtlasKV，一种通过十亿级知识图谱增强大语言模型的方法，利用子线性时间与内存复杂度实现高效知识整合，无需外部检索模块或长上下文先验。

Comments ICLR 2026

CodaRAG: Connecting the Dots with Associativity Inspired by Complementary Learning

CodaRAG: 通过互补学习启发的关联性连接点

Cheng-Yen Li, Xuanjun Chen, Claire Lin, Wei-Yu Chen, Wenhua Nie, Hung-Yi Lee, Jyh-Shing Roger Jang

机构 * National Taiwan University（国立台湾大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 CodaRAG通过互补学习系统启发，提出了一种将碎片化信息整合为稳定记忆基础，通过多维路径遍历图结构，消除超关联噪声，提升检索和生成精度的框架。

Comments Preprint, Submitted to ACM TIST

MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens

MSA：内存稀疏注意力用于高效端到端内存模型扩展至100M标记

Yu Chen, Runkai Chen, Sheng Yi, Xinda Zhao, Xiaohong Li, Jianjin Zhang, Jun Sun, Chuanrui Hu, Yunyun Han, Lidong Bing, Yafeng Deng, Tianqiao Chen

机构 * Evermind ； Shanda Group（盛大集团） ； Peking University（北京大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MSA，一种高效的端到端可训练内存模型框架，通过可扩展稀疏注意力和文档级RoPE实现线性复杂度，支持从16K到100M标记的扩展，同时保持稳定性，且在100M标记推理中实现2xA800 GPU的高效处理。

FlashMem: Distilling Intrinsic Latent Memory via Computation Reuse

FlashMem: 通过计算复用提炼内在潜在记忆

Yubo Hou, Zhisheng Chen, Tao Wan, Zengchang Qin

机构 * School of ASEE, Beihang University（北京航空航天大学ASEE学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； School of BME, Beijing Advanced Innovation Center for BME, Beihang University（北京航空航天大学生物医学工程学院/北京生物医学工程高精尖创新中心） ； CAIR and CECS, VinUniversity（VinUniversity计算与人工智能研究中心/计算机工程与计算机科学系） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 FlashMem通过计算复用直接从临时推理状态提炼内在记忆，消除冗余重参数化，提升推理效率和持久认知能力。

Trust Your Memory: Verifiable Control of Smart Homes through Reinforcement Learning with Multi-dimensional Rewards

相信你的记忆：通过多维奖励的强化学习实现智能家庭的可验证控制

Kai-Yuan Guo, Jiang Wang, Renjie Zhao, Tianyi Wang, Wandong Mao, Yu Gao, Mou Xiao Feng, Yi Xu

机构 * AI Research Center, Midea Group（美的集团人工智能研究中心） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出MemHomeLife和MemHome基准，通过多维奖励强化学习提升智能家庭的记忆驱动设备控制能力，解决现有方法在评估和方法论上的不足。

Synthius-Mem: Brain-Inspired Hallucination-Resistant Persona Memory Achieving 94.4% Memory Accuracy and 99.6% Adversarial Robustness on LoCoMo

Synthius-Mem: 基于大脑启发的hallucination抵抗性人格记忆实现94.4%的记忆准确率和99.6%的对抗鲁棒性于LoCoMo

Artem Gadzhiev, Andrew Kislov

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 Synthius-Mem通过结构化人格记忆系统在LoCoMo基准上实现94.4%的记忆准确率和99.6%的对抗鲁棒性，优于现有系统并超越人类表现。

Time is Not a Label: Continuous Phase Rotation for Temporal Knowledge Graphs and Agentic Memory

时间并非标签：连续相位旋转用于时间知识图谱与智能记忆

Weixian Waylon Li, Jiaxin Zhang, Xianan Jim Yang, Tiejun Ma, Yiwen Guo

机构 * University of Edinburgh（爱丁堡大学） ； LIGHTSPEED ； University of St Andrews（圣安德鲁斯大学） ； Independent Researcher（独立研究员） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出RoMem模块，通过连续相位旋转技术解决时间信息在知识图谱中的表示问题，提升时间推理和记忆保持性能，实现状态-of-the-art结果。

Anchored Sliding Window: Toward Robust and Imperceptible Linguistic Steganography

基于锚定滑动窗口：迈向稳健且不可察觉的语言隐写术

Ruiyi Yan, Shiao Meng, Yugo Murawaki

机构 * Graduate School of Informatics, Kyoto University（京都大学信息学研究科） ； School of Software, Tsinghua University（清华大学软件学院） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL

AI总结 本文提出锚定滑动窗口框架，通过引入提示和桥接上下文提升语言隐写术的隐蔽性和鲁棒性，实验表明其在文本质量、隐蔽性和鲁棒性上均优于基线方法。

Comments ACL2026 Main

MemDLM: Memory-Enhanced DLM Training

MemDLM：增强记忆的DLM训练

Zehua Pei, Hui-Ling Zhen, Weizhe Lin, Sinno Jialin Pan, Yunhe Wang, Mingxuan Yuan, Bei Yu

机构 * The Chinese University of Hong Kong（香港中文大学） ； Huawei Technologies Co., Ltd（华为技术有限公司） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL

AI总结 MemDLM通过引入双通道记忆机制，利用Bi-level优化在训练中嵌入模拟去噪轨迹，提升长上下文表示和训练效率，同时在推理时启用内循环实现特定提示适应。

MerNav: A Highly Generalizable Memory-Execute-Review Framework for Zero-Shot Object Goal Navigation

MerNav：一种高度可泛化的记忆-执行-审查框架用于零样本物体目标导航

Dekang Qi, Shuang Zeng, Xinyuan Chang, Feng Xiong, Shichao Xie, Xiaolong Wu, Mu Xu

机构 * Amap, Alibaba Group（高德，阿里巴巴集团） ； Xi’an Jiaotong University（西安交通大学） 纠错

专题命中 长上下文与记忆 ：SFT(abstract)；分类 cs.CL

AI总结 本文提出MerNav框架，通过记忆、执行和审查模块提升视觉语言导航任务中的成功率和泛化能力，在多个数据集上均取得显著提升。

Comments 9 pages, 2 figures, 5 tables, conference

From GPT-3 to GPT-5: Mapping their capabilities, scope, limitations, and consequences

从GPT-3到GPT-5：映射其能力、范围、限制及后果

Hina Afridi, Habib Ullah, Sultan Daud Khan, Mohib Ullah

机构 * University of Bergen（卑尔根大学） ； Norwegian University of Life Sciences（挪威生命科学大学） ； Sohar University（苏哈尔大学） ； Norwegian University of Science and Technology（挪威科技大学） ； Kristiania University of Applied Sciences（克里斯蒂安尼亚应用科学大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 本文比较分析GPT系列从GPT-3到GPT-5的发展，探讨技术演进、能力变化、部署转变、持续限制及下游影响，强调后续版本不仅是更大更准的模型，而是更复杂的系统。

CodeComp: Structural KV Cache Compression for Agentic Coding

CodeComp: 用于代理编程的结构化KV缓存压缩

Qiujiang Chen, Jing Xiong, Chenyang Zhao, Sidi Yang, Ngai Wong

机构 * The University of Hong Kong（香港大学） ； LMSYS Org（LMSYS组织） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL

AI总结 CodeComp通过引入静态程序分析，在LLM推理中整合代码属性图先验，有效压缩KV缓存，提升代码定位和生成任务的准确性与效率。