语言大模型 / LLM

"My agent understands me better": Integrating Dynamic Human-like Memory Recall and Consolidation in LLM-Based Agents

Yuki Hou, Haruki Tamoto, Homei Miyashita

专题命中 长上下文与记忆 ：LLM(title)；large language model(abstract)；language model(abstract)

Comments Accepted to CHI 2024 Late-Breaking Work

A Language Model with Limited Memory Capacity Captures Interference in Human Sentence Processing

William Timkey, Tal Linzen

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments To appear in Findings of the Association for Computational Linguistics: EMNLP 2023

CLIN: A Continually Learning Language Agent for Rapid Task Adaptation and Generalization

Bodhisattwa Prasad Majumder, Bhavana Dalvi Mishra, Peter Jansen, Oyvind Tafjord, Niket Tandon, Li Zhang, Chris Callison-Burch, Peter Clark

专题命中 长上下文与记忆 ：language agent(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Project page: https://allenai.github.io/clin/

Lexinvariant Language Models

Qian Huang, Eric Zelikman, Sarah Li Chen, Yuhuai Wu, Gregory Valiant, Percy Liang

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Prompt Compression and Contrastive Conditioning for Controllability and Toxicity Reduction in Language Models

David Wingate, Mohammad Shoeybi, Taylor Sorensen

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Empirical Methods in Natural Language Processing, 2022 (Main-Long Paper)

Sparse Meta Networks for Sequential Adaptation and its Application to Adaptive Language Modelling

Tsendsuren Munkhdalai

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 9 pages, 4 figures, 2 tables

Frustratingly Short Attention Spans in Neural Language Modeling

Michał Daniluk, Tim Rocktäschel, Johannes Welbl, Sebastian Riedel

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Published as a conference paper at ICLR 2017

Bounded Context Management for Tabular Foundation Models on Stream Learning

表格基础模型在流学习中的有界上下文管理

Jinmo Lee, Doyun Choi, Moongi Choi, Jaemin Yoo

机构 * Seoul National University（首尔大学） ； KAIST（韩国科学技术院） 纠错

专题命中 长上下文与记忆 ：foundation model(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对表格流学习中分布漂移问题，提出上下文管理策略CURE，通过不确定性门控准入和冗余感知驱逐管理上下文，在七个流上相对提升最高27.0%。

Comments Accepted as a spotlight oral (top 5%) at the 2nd ICML Workshop on Foundation Models for Structured Data (FMSD@ICML2026)

CABLE: Extending the Reach of Memory Retrieval via Complementary Antecedent-Based Linking and Expansion

CABLE：通过基于互补前项的链接与扩展扩展记忆检索的覆盖范围

Zheling Tan, Jin Gao, Dequan Wang

机构 * Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 CABLE是一种插件式记忆检索增强模块，通过构建互补关联扩展检索覆盖范围，在多个模型和数据集上的系统级评估中提升了证据可及性的LLM评判分数。

Comments Accepted by COLM 2026

Demystifying Agent Skills: Why They Work-Until They Don't

揭秘智能体技能：为何它们有效——直至失效

Zhiyuan Jiang, Fangrui Huang, Hanwen Xing, Xander Wu, Yipeng Gao, Rui Cao, Mengdi Wang, Shilong Liu, Yijiang Li

机构 * Princeton University（普林斯顿大学） ； UC San Diego（加州大学圣迭戈分校） ； Stanford University（斯坦福大学） ； University of Southern California（南加利福尼亚大学） ； Johns Hopkins University（约翰斯·霍普金斯大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 该研究探究 LLM 智能体技能的有效与失效原因，通过对比实验与轨迹分析揭示技能的作用机制，发现其主要靠程序锚定稳定动作，还指出检索瓶颈等问题，为智能体评估与优化提供指导。

Retry, Switch, or Abstain? Learning Strategy-Aware Tool-Use Policies via Controlled Error Injection

重试、切换还是弃权？通过受控错误注入学习策略感知的工具使用策略

Chaoran Chen, Vy Nguyen, Ziji Zhang, Abhinav Gullapalli, Ziyi Wang, Yuxuan Lu, Dakuo Wang, Jing Huang, Zhou Yu, Jin Lai

机构 * Amazon（亚马逊） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 该研究提出BENCH2ROBUST框架，结合BTM与课程强化学习，提升LLM智能体在工具故障下的稳健性，在零售任务中BTM可提稳健性16.8个百分点，二者结合达40.8-45.5%。

LinearKV: One Cached State Suffices for Position-Independent Caching in Hybrid LLMs

LinearKV：混合大语言模型中与位置无关缓存仅需一个缓存状态

Yirui Liu, Ruoling Qi, Longwen Wang, Xuaner Wu, Jian Chen, Yuxin Jin, Jiawei Shao, Xuelong Li

机构 * Institute of Artificial Intelligence, China Telecom (TeleAI)（中国电信人工智能研究院（TeleAI）） ； Shanghai Jiao Tong University（上海交通大学） ； University at Buffalo（纽约州立大学布法罗分校） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 LinearKV 是一种无需训练的混合大语言模型与位置无关缓存框架，仅需单个缓存状态初始化，在三类混合模型、三类选择器上均优于或等效于同期的 HYPIC 方案，可大幅提升 LLM 服务效率。

EvoMem: Memory-Augmented Evolution for Code Optimization

EvoMem：用于代码优化的记忆增强进化算法

Viktor Volkov, Valentin Khrulkov, Andrey V. Galichin, Danil Sivtsov, Nikita Glazkov, Olga Volkova, Konstantin Pchelin, Iaroslav Bespalov, Dmitry V. Dylov, Petr Anokhin, Ivan Oseledets

机构 * AXXX ； Lomonosov Moscow State University（莫斯科罗蒙诺索夫国立大学） ； Applied AI Institute（应用人工智能研究院） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 EvoMem是用于LLM驱动的进化程序搜索的持久记忆架构，可捕获复用变异知识，在多任务基准测试中提升了目标指标或搜索速度，减少冗余探索。

Agentic Router: An Execution-Grounded Continual Learning Approach With Memory

智能体路由器：一种基于执行的带记忆的持续学习方法

Yuxuan Chen, Rongpeng Li, Zhifeng Zhao, Yuntao Liu, Xing Xu, Honggang Zhang

机构 * Zhejiang University（浙江大学） ； Zhejiang Lab（之江实验室） ； State Grid Hebei Electric Power Co., Ltd.（国网河北省电力有限公司） ； Macau University of Science and Technology（澳门科技大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对CLI-based SONiC操作，提出基于执行的双路径后果感知智能体，通过生成动作、预测后果、重排序选择，提升可行动作覆盖度与执行成功率，两条路径互补增益。

Toward Metacognitive One-Shot Indirect Prompt Injection: Strategy Abstraction Via Outcome-Conditioned Reflection

迈向元认知少样本间接提示注入：基于结果条件反射的策略抽象

Sihan Hou, Xinmeng Hou, Zhijun Zhang, Zehao Wang, Xuhong Ren, Sibo Qin, Kuntharrgyal Khysru, Qing Guo

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出SAVOR方法，将攻击适配转向离线策略蒸馏，仅需一次目标智能体查询，在多基准与模型上攻击成功率显著优于现有方法，且记忆可跨防御迁移。

TRACE-Memory: Public-Conditioned Retrieval and Utility-Aware Evidence Admission for Personalized Generation

TRACE-Memory：用于个性化生成的公共条件检索与效用感知证据接纳

Jing Wang, Zhu Wang, Yifan Guo, Yulong Yang, Yunji Liang

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；SFT(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对个性化生成系统中记忆使用的效用问题，提出TRACE-Memory两阶段框架，经多阶段训练后在三类数据集的4500个任务上表现优于多种记忆使用方法，支持选择性个性化。

Comments 9 pages, 4 figures, and 6 tables. Submitted to the 41st AAAI Conference on Artificial Intelligence (AAAI 2027)

Every Cache Entry Earns Its Place: Global Allocation of Resolution and Coverage for KV Cache Compression

每个缓存条目都有其位置：KV缓存压缩的分辨率与覆盖范围的全局分配

Haolin Tian, Yuzhe Liu, Tonghan Wang

专题命中 长上下文与记忆 ：LLM(summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对LLM长上下文处理的KV缓存瓶颈，提出无需额外训练的GraceKV方法，通过全局资源分配平衡缓存的分辨率与覆盖范围，在32项实验设置中24项排名第一，128倍压缩仍稳健。

CoSA: Accelerating Long-Context Inference via Proxy-Kernel Co-Designed Sparse Attention

CoSA：通过代理内核协同设计的稀疏注意力加速长上下文推理

Yufei Xue, Lin Niu, Hong Liu, Siran Liu, Hanyong Shao, Wei Liu, Guanghua Yu, Jianchen Zhu, Jun Zhang

机构 * Tencent（腾讯） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 研究针对自注意力长上下文推理成本高的问题，提出CoSA方法，通过结合内核感知代理与有序跳过内核，在两阶段实现高效稀疏注意力，在主流LLM和长上下文基准测试中，以低预算获高精度，加速注意力并减少端到端时间。

Causal Episodic Memory for Feedback-Driven Agent Repair

用于反馈驱动智能体修复的因果情景记忆

Khang Nhat Hoang Vo, Tam Minh Chu, Anh Trac Duc Dinh, Thuyen Vinh Ha Bui, Tho Quan

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Faculty of Computer Science and Engineering, Ho Chi Minh City University of Technology (HCMUT), VNU-HCM（胡志明市理工大学计算机科学与工程学院（HCMUT，VNU-HCM）） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.CL

AI总结 本文提出无需训练的MERIT智能体，通过维护双极性记忆辅助LLM智能体修复，在Spider、BIRD数据集上提升了Text-to-SQL任务的执行准确率，同时明确了因果跨查询记忆的适用场景。

DASH: Decoupled Adaptive Surrogate - Acquisition Harness for Automated Bayesian Optimization

DASH：用于自动化贝叶斯优化的解耦自适应代理-采集调控器

Changquan Zhao, Yuxiang Sun, Ruihao Zhu, Cheng Hua, Yulian He

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 DASH是用于LLM增强AutoBO的解耦自适应调控器，通过分离代理与采集的适配逻辑，在四项化学优化任务中较最佳AutoBO基线实现了12.51%的轨迹级加速因子提升和5.00%的端点增强因子提升。

DragonCrawl: A Generative, Intent-Based Framework for Scalable Mobile End-to-End Testing

DragonCrawl：一种用于可扩展移动端到端测试的生成式意图框架

Sowjanya Puligadda, Mengdie Zhang, Ali Zamani, Dhruva Dixith Kurra, Eric Chen, Juan Marcano

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 DragonCrawl是基于GPT-4o多模态的移动端到端测试框架，通过验证用户流程阻止问题提交，缩短测试入门时间，节省大量维护工作量，实现规模化持续质量保证。

Comments 12 pages, 6 figures, 6 pages

Securing Agentic AI: From Per-Action Checks to Trajectory Assurance

安全智能体AI：从单步行动检查到轨迹保障

Alireza Lotfi, Subangkar Karmaker Shanto, Imtiaz Karim, Elisa Bertino

机构 * Purdue University（普渡大学） ； University of Texas at Dallas（德克萨斯大学达拉斯分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究围绕自主智能体安全领域，梳理了单智能体、多智能体及宏观层面的各类安全挑战，提出安全需成为智能体架构等的可验证属性，为可信自主智能体部署提供路线图。

Comments 6 pages. Accepted to the ACM AI Leadership Summit 2026 (Visionary Track)

Context Compaction Theory

上下文压缩理论

Hayder Tirmazi, Sam Markelon, Allison Bishop, Michael Mitzenmacher

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文对上下文压缩开展形式化研究，构建含两个博弈的框架，证明上下文生成博弈与单向通信复杂性等价，还通过案例评估Anthropic的上下文压缩端点性能。

Comments 21 pages, 2 figures, Preliminary version

TrajWiki: Source-Grounded Memory Trajectories for Long-Horizon Dialogue Agents

TrajWiki：面向长程对话智能体的基于来源的记忆轨迹

Jingyu Sun, Yuyang Xue, Mingyang Li, Zhengtao Yao, Jiachen Li, Yang Cui, Wenhao Cai, Haozhe Liu, Fangying Wang, Magdalene Katharina Montgomery, Syed Murtuza Baker, Hongpeng Zhou

机构 * The University of Manchester（曼彻斯特大学） ； The University of Melbourne（墨尔本大学） ； The University of Edinburgh（爱丁堡大学） ； University of Southern California（南加州大学） ； The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 该研究针对长程对话智能体的记忆可追溯性与透明性问题，提出TrajWiki框架，通过轨迹式记忆表示与Memory Wiki中间层提升对话性能及可解释性。

ObjectStream: Latent Objects as Memory Anchors for Streaming Video Understanding

ObjectStream：将潜在对象作为记忆锚点用于流视频理解

Mingkang Dong, Muxin Pu, Jie Li, Bohan Guo, Songruo Chen, Bin Ren, Xu Zheng, Chen Zhao, Tianwen Qian, Mohamed Elhoseiny, Yuqian Fu

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出无需训练的 ObjectStream 框架，以潜在对象为记忆锚点组织流视频证据，使 Video-LLMs 无需改动即可推理对象相关内容，在多基准上实现性能提升且内存与推理效率显著优化。

Comments https://github.com/DMK041218/ObjectStream

DCC: Data-Centric Compilation of Machine Learning Kernels for Processing-In-Memory Architectures

DCC: 面向处理-内存架构的机器学习内核数据驱动编译

Peiming Yang, Sankeerth Durvasula, Ivan Fernandez, Mohammad Sadrosadati, Onur Mutlu, Gennady Pekhimenko, Christina Giannoula

机构 * University of Toronto（多伦多大学） ； Vector Institute（向量研究所） ； Barcelona Supercomputing Center（巴塞罗那超级计算中心） ； ETH Zürich（苏黎世联邦理工学院） ； Nvidia（英伟达） ； Max Planck Institute for Software Systems（马克斯·普朗克软件系统研究所） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对PIM系统中数据重排与计算代码优化相互依赖的问题，提出数据驱动的编译器DCC，通过统一调优联合优化数据重排与计算代码，在HBM-PIM和AttAcc PIM上分别实现平均2.21倍和3.92倍的加速。

AgenticRepair: Multi-Faceted Program Context Engineering for Agentic Vulnerability Repair

AgenticRepair：面向智能体漏洞修复的多维度程序上下文工程

Michael Fu, Qiyue Mei, Patanamon Thongtanunam, Kla Tantithamthavorn

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 针对现有智能体漏洞修复方法缺乏多维度程序上下文工程的问题，提出AgenticRepair框架，协调三个LLM子智能体构建三类上下文，在SEC-Bench上取得73%的修复成功率，显著优于基线。

Comments Under Review at IEEE TSE

MemForest: An Efficient Agent Memory System with Hierarchical Temporal Indexing

MemForest: 一种具有层次化时间索引的高效智能体记忆系统

Han Chen, Zining Zhang, Wenqi Pei, Bingsheng He, Ming Wu, Jason Zeng, Michael Heinrich, Wei Wu, Hongbao Zhang

机构 * National University of Singapore（新加坡国立大学） ； Zero Gravity Labs（零重力实验室） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 针对长上下文LLM智能体记忆系统中粗粒度状态管理和顺序更新导致的维护开销问题，提出MemForest框架，通过并行块提取和层次化时间索引树MemTree实现高效写入和局部更新，在LongMemEval-S上达到79.8% pass@1准确率，吞吐量比现有方法高约6倍。

Comments 12 pages. Extended version with appendix as supplemental material. Submitted to VLDB

IDP AutoOpt: Agent-Driven Optimization of Document Processing Pipeline Configurations

IDP AutoOpt：智能文档处理流水线配置的智能体驱动优化

David Kaleko, Sergey Ivanov, Md Mofijul Islam

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 IDP AutoOpt是自主LLM智能体，通过闭环流程优化IDP流水线配置，在多领域任务上性能优于人类专家且成本更低，还可扩展至RAG等其他企业AI系统。

Forensic Trajectory Signatures for Agent Memory Poisoning Detection

用于智能体记忆中毒检测的法医轨迹签名

Jun Wen Leong

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.LG

AI总结 发现LLM智能体在持久记忆中毒下的行为不变性，利用轨迹特征实现高精度检测（AUC=0.9904），并能区分记忆通道攻击与提示注入攻击。

Comments 16 pages, 3 figures. v2: adds preregistered deployment boundary study (N=4,360, 13 models). Companion to arXiv:2605.08442