语言大模型 / LLM

What to Keep, What to Forget: A Rate--Distortion View of Memory Compaction in LLMs and Agents

保留什么，遗忘什么：大语言模型和智能体中内存压缩的率失真视角

Ashwin Gerard Colaco, Nada Lahjouji

机构 * University of California, Irvine（加州大学尔湾分校） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究大语言模型和智能体内存压缩问题，提出基于率失真视角统一分类各层方法，构建七轴分类法并转移机制，还针对相关问题未被测量及缺乏统一基准的情况，转化为提案、实验、原则并梳理开放问题。

A-TMA: Decoupling State-Aware Memory Failures in Long-Term Agent Memory

A-TMA: 解耦长期智能体记忆中的状态感知记忆故障

Zitong Shi, Yixuan Tang, Anthony Kum Hoe Tung

机构 * National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 针对长期记忆中状态不一致导致的幽灵记忆问题，提出A-TMA方法，通过状态感知覆盖层在存储、检索和回答三个层面解耦故障，在冲突密集基准上显著提升时间F1。

Rank-Order N-of-M Codes for Sparse Distributed Memory: Disentangling Representation and Learning Effects in Noise Robustness Against Contemporary Neuromorphic Architectures

用于稀疏分布式内存的秩排序N选M码：在针对当代神经形态架构的噪声鲁棒性中解开表示和学习效应

Joy Bose

机构 * Independent Researcher（独立研究者） ； Bengaluru, India（印度班加罗尔） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对大语言模型持续学习受限问题，评估秩排序N选M编码替代稀疏分布式内存阈值二进制编码器。通过重新实现验证架构等效，实验表明其在容量和误码率鲁棒性上有优势，还分析了编码能量，为相关架构提供指导。

Comments 14 pages, 8 tables, 2 figures. Revisits rank-order sparse distributed memory for continual learning and memory-augmented AI. Includes comparisons with CALM and SpikingMamba, statistical evaluation, and real embedding experiments

PraMem: Practice-derived Experiential Memory for Long-horizon Behavior Prediction

PraMem：用于长时行为预测的实践衍生经验记忆

Zhuoqun Li, Boxi Cao, Jiawei Chen, Hanshu Zhou, Ruoxi Xu, Guiping Jiang, Ruotong Pan, Tingting Gao, Han Li, Xiangyu Wu, Hongyu Lin, Yaojie Lu, Xianpei Han, Le Sun

机构 * Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所中文信息处理实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； Fudan University（复旦大学） ； Kuaishou Technology（快手科技） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究长时行为预测问题，针对大语言模型在该任务中的不足，提出PraMem范式，通过对历史序列预实践构建经验记忆辅助长时行为预测，实验证明其性能优于现有方法。

MMIR-TCM: Memory-Integrated Multimodal Inference and Retrieval for TCM Clinical Decision Support

MMIR-TCM：面向中医临床决策支持的记忆集成多模态推理与检索

Lihui Luo, Joongwon Chae, Ziyan Chen, Yang Liu, Siyi Cheng, Weihan Gao, Zelin Zeng, Xiaoming Yin, Samaneh Beheshti Kashi, Dongmei Yu, Lian Zhang, Jing Sui, Zeming Liang, Jiansong Ji, Peter E. Lobie, Peiwu Qin

机构 * Institute of Biopharmaceutics and Health Engineering, Tsinghua Shenzhen International Graduate School（清华深圳国际研究生院生物医药与健康工程研究院） ； Chinese Medicine Guangdong Laboratory（广东省中医药实验室） ； Beijing Normal University（北京师范大学） ； First Hospital of Hebei Medical University（河北医科大学第一医院） ； Lishui Hospital of Zhejiang University（浙江大学丽水医院） ； XiaoMing TCM Hospital（小明中医医院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出MMIR-TCM框架，结合多模态大模型、记忆增强分割与检索增强生成，解决中医舌诊中的主观性和语义鸿沟问题，在MedTCM数据集上优于GPT-4o等模型。

TiRex-2: Generalizing TiRex to Multivariate Data and Streaming

TiRex-2: 将 TiRex 推广到多变量数据和流式处理

Patrick Podest, Marco Pichler, Elias Bürger, Levente Zólyomi, Bernhard Voggenberger, Wilhelm Berghammer, Daniel Klotz, Sebastian Böck, Günter Klambauer, Sepp Hochreiter

机构 * ELLIS Unit Linz, LIT AI Lab & Institute for Machine Learning, JKU Linz, Austria（ELLIS 林茨单元，LIT AI 实验室与机器学习研究所，林茨约翰·开普勒大学，奥地利） ； NXAI Lab, Linz, Austria（NXAI 实验室，林茨，奥地利） ； NXAI GmbH, Linz, Austria（NXAI 有限公司，林茨，奥地利） ； Interdisciplinary Transformation University Austria, Linz, Austria（奥地利跨学科转型大学，林茨，奥地利） 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 提出基于 xLSTM 的循环时间序列基础模型 TiRex-2，通过记忆中心设计实现多变量预测与流式处理，在零样本任务上达到最优性能。

SocialPersona: Benchmarking Personalized Profiling and Response with Multimodal Social-Media Context

SocialPersona: 基于多模态社交媒体上下文的个性化画像与回复基准测试

Qinkai Zhang, Yanyan Zhao, Xin Lu, Yulin Hu, Pengtao Han, Bing Qin

机构 * Harbin Institute of Technology（哈尔滨工业大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出SocialPersona基准，评估多模态大语言模型从社交媒体时间线推断用户偏好并用于对话的能力，实验表明模型在细粒度与近期偏好上表现不足。

SAFARI: Scaling Long Horizon Agentic Fault Attribution via Active Investigation

SAFARI: 通过主动调查扩展长时域智能体故障归因

Chenyang Zhu, Jiayu Yao, Kushal Chawla, Youbing Yin, Nathan Wolfe, Pengshan Cai, Jingyu Wu, Spencer Hong, Sangwoo Cho, Shi-Xiong Zhang, Daben Liu, Sambit Sahu, Erin Babinsky

机构 * Department of Engineering Sciences（工程科学系） ； Applied Mathematics, Northwestern University（应用数学，西北大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出SAFARI框架，用工具增强的诊断循环替代线性上下文加载，结合短期记忆解耦诊断准确性与上下文限制，在Who&When和TRAIL GAIA数据集上分别提升20%和19%，并在超出上下文窗口5倍时保持0.58精度。

Comments Published at the Second Workshop on Agents in the Wild: Safety, Security, and Beyond (AIWILD) at ICML 2026

MEMPROBE: Probing Long-Term Agent Memory via Hidden User-State Recovery

MEMPROBE：通过隐藏用户状态恢复探测长期智能体记忆

Enze Ma, Yufan Zhou, Wei-Chieh Huang, Jie Yang, Huanhuan Ma, Zixuan Wang, Chengze Li, Chunyu Miao, Philip S. Yu, Zhen Wang

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） ； KU Leuven（库尔勒大学） ； UC San Diego（圣地亚哥大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 提出MEMPROBE基准，通过从智能体记忆重建隐藏用户状态来直接评估长期记忆，发现任务完成与记忆可恢复性是不同的能力。

Forget Without Compromise: Nexus Sampling for Streaming KV-Cache Eviction Under Fixed Budgets

无需妥协的遗忘：固定预算下流式KV缓存驱逐的Nexus采样

Duc Duong, Hoang Anh Duy Le, Jianwen Xie, Anshumali Shrivastava, Zhaozhuo Xu

机构 * Department of Computer Science, Grinnell College（格林内尔学院计算机科学系） ； Department of Computer Science, Rice University（莱斯大学计算机科学系） ； Lambda, Inc（Lambda公司） ； Workato（Workato公司） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 提出Nexus采样方法，通过迭代注意力计算和加权水库采样替代确定性top-K选择，在固定预算下保留微妙重要令牌，理论证明其长期优势，实验在80%驱逐率下性能接近密集注意力。

Randomized YaRN Improves Length Generalization for Long-Context Reasoning

随机化 YaRN 提升长上下文推理的长度泛化能力

Manas Mehta, Fangcong Yin, Greg Durrett

机构 * New York University（纽约大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出随机化 YaRN 方法，通过结合 YaRN 位置外推、随机位置编码和长度课程，在短上下文训练数据上提升模型对长上下文（16K-128K）的推理性能。

RaMem: Contextual Reinstatement for Long-term Agentic Memory

RaMem: 面向长期智能体记忆的上下文重建

Wei Yang, Bryce Kan, Shixuan Li, Li Li, Yuehan Qin, Jiate Li, Paul Bogdan, Jesse Thomason

机构 * University of Southern California（南加州大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 针对长期记忆中的上下文坍塌问题，提出RaMem框架，通过证据锚定、回忆条件归纳、有效性感知检索和上下文保留合成四个阶段，将检索到的记忆片段转化为可验证的上下文证据，在多个基准上平均F1提升超10%。

Caring Without Feeling: Affective Dynamics as the Control Layer of Human-AI Agent Collaboration

无感关怀：情感动态作为人-AI智能体协作的控制层

Junjie Xu, Xingjiao Wu, Zihao Zhang, Yujia Xu, Yuzhe Yang, Jin Zhu, Luwei Xiao, Wen Wu, Liang He

机构 * East China Normal University（华东师范大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文综述情感动态在人-AI智能体协作中的作用，提出将情感视为协调层而非AI内部属性，用于校准信任、委托和治理。

LiveStarPro: Proactive Streaming Video Understanding with Hierarchical Memory for Long-Horizon Streams

LiveStarPro: 具有分层记忆的主动式流视频理解用于长时域流

Zhenyu Yang, Kairui Zhang, Bing Wang, Shengsheng Qian, Changsheng Xu

机构 * IEEE 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出LiveStarPro，通过流验证解码、流因果注意力掩码和树结构分层记忆三个组件，实现长时域流媒体视频的主动理解，在语义正确性和时序误差上分别提升28.9%和降低18.2%。

Shattering the Autoregressive Curse: Dynamic Epistemic Entropy Orchestrated Erasable Reinforcement Learning for LLMs

打破自回归诅咒：动态认知熵编排的可擦除强化学习用于大语言模型

Ziliang Wang, Kang An, Faqiang Qian, Jialu Cai, Cijun Ouyang, Yuhang Wang, Qibing Ren, Yichao Wu

机构 * SenseTime（商汤科技） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出动态认知熵编排的可擦除强化学习（E³RL），通过将模型内生的局部自回归交叉熵作为认知不确定性坐标，利用分段自适应动态阈值和优势分配精准切除逻辑缺陷并重用KV缓存，解决长序列推理中的自回归级联崩溃问题。

Semantic Flip: Synthetic OOD Generation for Robust Refusal in Embodied Question Answering and Spatial Localization

Semantic Flip: 用于具身问答和空间定位中鲁棒拒绝的合成OOD生成

Dongbin Na, Chanwoo Kim, Giyun Choi, Dooyoung Hong

机构 * RGA Inc.（RGA公司） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 提出Semantic Flip框架，通过合成辅助OOD样本训练轻量拒绝模块，使冻结的视觉语言模型在无外部OOD标注下实现鲁棒拒绝，在具身问答和空间定位基准上优于强提示基线。

Comments 18 pages, 3 figures. Code and data: https://github.com/ndb796/SemanticFlip ; project page: https://ndb796.github.io/SemanticFlip

XFlow: An Executable Protocol Programming System for Reliable Multi-Agent Workflows

XFlow: 一个用于可靠多智能体工作流的可执行协议编程系统

Hanqi Li, Jing Peng, Zijian Wang, Lu Chen, Kai Yu

机构 * X-LANCE Lab, School of Computer Science, Shanghai Jiao Tong University, Shanghai, China（X-LANCE实验室，计算机科学学院，上海交通大学，上海，中国） ； Jiangsu Key Lab of Language Computing, Suzhou, China（江苏省语言计算重点实验室，苏州，中国） ； Suzhou Laboratory, Suzhou, China（苏州实验室，苏州，中国） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出XFlow可执行协议编程系统及其领域特定语言XPF，通过将工作流承诺从提示移至可检查、可执行的协议结构，并利用生命周期管理的符号中介智能体输出，提升多智能体工作流的可靠性。

AgentSpec: Understanding Embodied Agent Scaffolds Through Controlled Composition

AgentSpec: 通过受控组合理解具身智能体脚手架

Jixuan Chen, Jianzhi Shen, Haoqiang Kang, Zhi Hong, Qingyi Jiang, Soham Bose, Yiming Zhang, Leon Leng, Amit Vyas, Lingjun Mao, Siru Ouyang, Kun Zhou, Lianhui Qin

机构 * University of California, San Diego（加利福尼亚大学圣迭戈分校） ； Johns Hopkins University（约翰霍普金斯大学） ； University of Washington（华盛顿大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 提出AgentSpec模块化规范框架，将具身智能体表示为可复用策略组件的类型化组合，通过标准化接口实现受控组件替换与重组，揭示脚手架兼容性和交互效应对性能的主导作用。

The Containment Gap: How Deployed Agentic AI Frameworks Fail Public-Facing Safety Requirements

遏制缺口：已部署的自主AI框架如何未能满足面向公众的安全要求

Md Jafrin Hossain, Mohammad Arif Hossain, Weiqi Liu, Nirwan Ansari

机构 * New Jersey Institute of Technology（新泽西理工学院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究发现主流自主AI框架缺乏架构级安全保证，内存完整性漏洞可导致定向腐败，提出轻量级遏制机制消除攻击向量。

Comments ICML 2026 (AI4GOOD Workshop)

Task-Aware Structured Memory for Dynamic Multi-modal In-Context Learning

任务感知结构化记忆用于动态多模态上下文学习

Zhirui Chen, Ziwei Chen, Ling Shao

机构 * Zhihui Chen（陈志辉） ； Ziwei Chen（陈子伟） ； Ling Shao（邵令） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出TASM框架，通过任务向量引导压缩、语义感知令牌合并和层次化记忆结构，解决多模态大语言模型上下文学习中记忆压缩导致的语义破坏和静态问题。

Comments Accepted to ICML 2026

Decentralized Multi-Agent Systems with Shared Context

具有共享上下文的去中心化多智能体系统

Yuzhen Mao, Azalia Mirhoseini

机构 * Stanford University（斯坦福大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出DeLM框架，通过并行智能体、共享上下文和任务队列去中心化协调，解决集中式MAS的瓶颈，在软件工程和长上下文推理中提升性能并降低成本。

Learning Explicit Behavioral Models with Adaptive Questions and World-Model Probes

通过自适应问题和世界模型探针学习显式行为模型

Hikaru Shindo, Yu Deng, Teng Cao, Quentin Delfosse, Christopher Tauchmann, Jannis Blüml, Gopika Sudhakaran, Kristian Kersting

机构 * Artificial Intelligence and Machine Learning Lab（人工智能与机器学习实验室） ； Technical University of Darmstadt（德累斯顿技术大学） ； Hessian Center for Artificial Intelligence (hessian.AI)（黑森人工智能中心） ； German Research Center for Artificial Intelligence (DFKI)（德国人工智能研究中心） ； Department of Computer Science（计算机科学系） ； Centre for Cognitive Science（认知科学中心） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.LG

AI总结 提出显式符号行为模型（ESBM），通过自适应问题和世界模型探针将任务性能与可解释机制结合，在Atari任务中学习高分策略并生成显式答案和机制预测。

Beyond Teacher Likelihood: Group-Calibrated On-Policy Distillation for Long-Context Reasoning

超越教师似然：面向长上下文推理的组校准在线策略蒸馏

Zhu Zhang, Jixun Wang, Xiaoang Xu, Xiaorong Wang, Zihan Zhou, Zhiyuan Wang, Shuo Wang, Chaojun Xiao, Yuezhi Zhou

机构 * Tsinghua University（清华大学） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； OpenBMB 纠错

专题命中 长上下文与记忆 ：post-training(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究针对长上下文推理中 OPD 的教师-验证器分歧问题，提出 GC-OPD 方法，结合验证器结果优化 OPD，在五个长上下文基准上显著提升 Qwen3 模型性能。

Comments 20 pages, 5 figures

LT-Mem: Volatility-Aware Spatio-Temporal Memory for Lifelong Scene Understanding

LT-Mem：面向终身场景理解的感知时间动态的时空记忆

Yumin Lee, Hyoseok Ju, Giseop Kim

机构 * DGIST（大邱庆北科学技术院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 该研究针对机器人长期场景理解的时间遗忘问题，提出LT-Mem时空记忆框架，结合多会话SLAM与Tri-Memory结构，在LT-VQA数据集上性能优于基线且token消耗更少。

Comments 8 pages, 8 figures, 6 tables. Accepted to the 2026 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2026)

A Tight Linear Deterministic Competitive Ratio for Fully Online KV-Cache Scheduling

全在线KV缓存调度的紧线性确定性竞争比

Ian D'Ambrosio

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 该研究针对全在线KV缓存调度问题，通过构造困难实例得到确定性竞争比下界，利用均匀因果串行策略得到上界，在Lean 4中完成机器验证，证明其竞争比为紧线性的Θ(n)。

Comments 6 pages. The exact fully online model, fixed-memory-before-scheduler quantifier order, serial upper bound, and wide-short lower bound are checked in Lean 4. A separate reproducibility archive contains pinned-source bootstraps, exact finite controls, formal proofs, tests, and canonical SHA-256 manifests

Proteus: Incremental Memory Activation for Long-Context Sequence Modeling

Proteus：面向长上下文序列建模的增量式内存激活机制

Reza Bayat, Ali Behrouz, Vahab Mirrokni, Aaron Courville

机构 * Mila（米拉计算科学研究所） ； Google（谷歌公司） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 Proteus 是一种增量式内存激活机制，可嵌入多种神经内存架构，应用于 SWLA 等模型后，能在长上下文相关任务上实现性能提升，证明调度有效容量对序列建模的适用性。

What to Remember, What to Reveal: Privacy-Aware Memory for Conversational Agents

该记住什么，该透露什么：面向对话智能体的隐私感知记忆

Wenjie Wang, Wenhe Si, Xinyue Xu, Yue Xu

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 该研究针对对话智能体的隐私风险，提出SP-Mem隐私感知记忆架构，通过全生命周期隐私设计实现更强个性化并减少不必要隐私暴露，还构建了相关基准。

BCMT: Blockwise Causal Memory Transformer

BCMT：分块因果记忆Transformer

Rachid Arezki

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究提出BCMT架构，通过分块局部自注意力与指数因果记忆解耦长程依赖建模，在1024token上下文的语言建模中，性能与密集Transformer相当，且训练吞吐量更高、内存消耗更低。

Comments 19 pages. Official implementation: https://github.com/rachidlabs/BCMT

Memoir: Learning, Verifying, and Evolving False-Positive Memories for Static Application Security Testing Tools

Memoir：针对静态应用安全测试工具的误报记忆学习、验证与演化

Shenyuan Guan, Qiaodan Hou, Yanjun Chen, Xincheng Wen, Jia Feng, Keke Lian, Cuiyun Gao

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 本研究针对SAST工具的误报问题，提出Memoir框架，通过构建与演化语义记忆实现误报识别，在CWE-Bench-Java上表现优异，且记忆库可跨工具泛化。

Muscle Memory for Agents: Compile not Merely Retrieve

智能体的肌肉记忆：编译而非仅检索

Pouya Ghiasnezhad Omran, Soujanya Lanka, Qin Zhang, Tanya Dixit

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 本文提出将重复用户意图编译为专用专家智能体的肌肉记忆范式，通过四阶段流水线实现，在90个场景中专家触发时胜率达88.9%，优于传统检索模式，为智能体记忆设计提供新方向。

Comments 12 pages, 2 figures