语言大模型 / LLM

Don't Lose Focus: Activation Steering via Key-Orthogonal Projections

不要失去焦点：通过键正交投影进行激活引导

Haoyan Luo, Mateo Espinosa Zarlenga, Mateja Jamnik

机构 * University of Cambridge（剑桥大学） ； University of Oxford（牛津大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出SKOP方法，通过约束有害的注意力重路由，减少激活引导对推理和检索性能的负面影响，实现最佳的引导-实用性平衡。

Memory as Action: Autonomous Context Curation for Long-Horizon Agentic Tasks

记忆作为行动：面向长周期智能任务的自主上下文编纂

Yuxiang Zhang, Jiangming Shu, Ye Ma, Xueyuan Lin, Shangxi Wu, Jitao Sang

机构 * School of Computer Science and Technology, Beijing Jiaotong University（北京交通大学计算机科学与技术学院） ； Hithink Research（慧思科技） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； Peng Cheng Lab（鹏城实验室） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出MemAct框架，将工作记忆管理作为可学习的策略动作，通过端到端强化学习优化信息保留与任务表现，实验显示其在保持准确性的同时显著减少上下文长度。

What Happens Inside Agent Memory? Circuit Analysis from Emergence to Diagnosis

代理记忆内部发生了什么？从涌现到诊断的电路分析

Xutao Mao, Jinman Zhao, Gerald Penn, Cong Wang

机构 * City University of Hong Kong（香港城市大学） ； University of Toronto（多伦多大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 研究揭示了代理记忆中控制与内容电路的因果关系及共享枢纽的机制，开发出76.2%准确率的无监督诊断工具，优于监督基线13分。

On Stable Long-Form Generation: Benchmarking and Mitigating Length Volatility

关于稳定长形式生成：基准测试与缓解长度波动

Zhitao He, Haolin Yang, Rui Min, Zeyu Qin, Yi R. Fung

机构 * Hong Kong University of Science and Technology（香港理工大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出VOLTBench基准测试，通过分析注意力轨迹发现长形式生成中的波动原因，并提出GLoBo方法提升生成稳定性与准确性，实验验证了主流模型的长形式输出不稳定问题。

OCR-Memory: Optical Context Retrieval for Long-Horizon Agent Memory

OCR-Memory：光学上下文检索用于长周期智能体记忆

Jinze Li, Yang Zhang, Xin Yang, Jiayi Qu, Jinfeng Xu, Shuo Yang, Junhua Ding, Edith Cheuk-Han Ngai

机构 * The University of Hong Kong（香港大学） ； University of North Texas（北得克萨斯大学） ； University of Tsukuba（筑波大学） ； Yonsei University（延世大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 OCR-Memory通过视觉模态高密度表示智能体经验，实现长周期记忆存储与检索，减少token消耗并提升证据恢复准确性。

Comments Accepted to ACL 2026 (Main Conference)

AgentWard: A Lifecycle Security Architecture for Autonomous AI Agents

AgentWard: 为自主AI代理设计的生命周期安全架构

Yixiang Zhang, Xinhao Deng, Jiaqing Wu, Yue Xiao, Ke Xu, Qi Li

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出AgentWard架构，通过跨层协调实现对自主AI代理五个阶段的安全防护，展示了一个原型实现，为运行时安全控制提供了具体蓝图。

Comments 7 pages, 1 figure;

RefEvo: Agentic Design with Co-Evolutionary Verification for Agile Reference Model Generation

RefEvo: 基于共进化验证的代理设计用于敏捷参考模型生成

Yifan Zhang, Jianmin Ye, Jiahao Yang, Xi Wang

机构 * School of Integrated Circuits, Southeast University, China（东南大学集成电路学院，中国） ； National Center of Technology Innovation for EDA, China（EDA技术创新国家中心，中国） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 RefEvo通过动态设计规划、共进化验证机制和规格锚定策略，提升SoC设计参考模型的敏捷性和可靠性，实现95%的通过率和71.04%的上下文优化。

Comments 6 pages, 7 figures, accepted by ISEDA2026

Gated Tree Cross-Attention for Checkpoint-Compatible Syntax Injection in Decoder-Only LLMs

基于门控树交叉注意力的检查点兼容语法注入解码器-only LLMs

Xinyu Gao, Shaonan Wang, Nai Ding

机构 * College of Biomedical Engineering & Instrument Science, Zhejiang University（浙江大学生物医学工程与仪器科学学院） ； Department of Language Science and Technology, The Hong Kong Polytechnic University（香港理工大学语言科学与技术系） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出一种检查点兼容的门控树交叉注意力机制，用于在解码器-only LLMs中注入语法结构，提升语法鲁棒性而不影响问答和常识推理性能。

Comments ACL 2026 MainConference

Memanto: Typed Semantic Memory with Information-Theoretic Retrieval for Long-Horizon Agents

Memanto：基于信息论检索的类型语义记忆用于长周期智能体

Seyed Moein Abtahi, Rasa Rahnema, Hetkumar Patel, Neel Patel, Majid Fekri, Tara Khani

机构 * Moorcheh 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 Memanto通过信息论检索引擎实现高效持久记忆，无需复杂知识图谱，提升长周期智能体性能，实现89.8%和87.1%的高准确率。

Comments 13 Pages, 10 Tables, 8 Figures

The Root Theorem of Context Engineering

上下文工程的根定理

Borja Odriozola Schick

机构 * Independent Researcher（独立研究者） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出上下文工程的根定理，通过形式化约束推导出信号-token比最大化原则，揭示了连续对话系统中信息质量退化与上下文窗口限制的本质规律。

Comments 17 pages, 2 figures

FSFM: A Biologically-Inspired Framework for Selective Forgetting of Agent Memory

FSFM：一种生物启发的智能体记忆选择性遗忘框架

Yingjie Gu, Wenjian Xiong, Liqiang Wang, Pengcheng Ren, Chao Li, Xiaojing Zhang, Yijuan Guo, Qi Sun, Jingyao Ma, Shidang Shi

机构 * China Mobile Digital Intelligence Business Unit（中国移动数字智能业务部） ； China Mobile Jiutian Company（中国移动蓟田公司） ； China Mobile Jiutian Research Institute（中国移动蓟田研究院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出FSFM框架，通过生物启发机制实现智能体记忆的选择性遗忘，提升效率、质量和安全性，经实验验证在访问效率、内容质量和安全性能上均有显著提升。

Comments 28 pages, 5 figures, 3 tables

Stateless Decision Memory for Enterprise AI Agents

无状态决策记忆用于企业AI代理

Vasundra Srinivasan

机构 * Vasundra Srinivasan 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出无状态决策记忆(DPM)，在企业监管领域中通过无状态设计提升决策精度和可审计性，同时提高效率。

Comments 16 pages, 4 figures, 4 tables. Companion paper to "Four-Axis Decision Alignment for Long-Horizon Enterprise AI Agents" (arXiv:TBD). Code and reproducibility artifacts at https://github.com/vasundras/stateless-decision-memory-enterprise-ai-agents

Stream-CQSA: Avoiding Out-of-Memory in Attention Computation via Flexible Workload Scheduling

Stream-CQSA：通过灵活的工作负载调度避免注意力计算中的内存不足

Yiming Bian, Joshua M. Akey

机构 * Lewis-Sigler Institute of Integrative Genomics（刘易斯-西格勒整合基因组学研究所） ； Princeton University（普林斯顿大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出Stream-CQSA框架，通过分解注意力计算为可调度的子任务，实现内存适应性调度，使单GPU可处理十亿token序列的精确注意力计算。

MiroThinker: Pushing the Performance Boundaries of Open-Source Research Agents via Model, Context, and Interactive Scaling

MiroThinker：通过模型、上下文和交互扩展推动开源研究代理的性能边界

MiroMind Team, Song Bai, Lidong Bing, Carson Chen, Guanzheng Chen, Yuntao Chen, Zhe Chen, Ziyi Chen, Jifeng Dai, Xuan Dong, Wenhan Dou, Yue Deng, Yunjie Fu, Junqi Ge, Chenxia Han, Tammy Huang, Zhenhang Huang, Jerry Jiao, Shilei Jiang, Tianyu Jiao, Xiaoqi Jian, Lei Lei, Ruilin Li, Gen Luo, Tiantong Li, Xiang Lin, Ziyuan Liu, Zhiqi Li, Jie Ni, Qiang Ren, Pax Sun, Shiqian Su, Chenxin Tao, Bin Wang, Wenhai Wang, Haonan Wang, James Wang, Jin Wang, Jojo Wang, Letian Wang, Shizun Wang, Weizhi Wang, Zixuan Wang, Jinfan Xu, Sen Xing, Chenyu Yang, Hai Ye, Jiaheng Yu, Yue Yu, Muyan Zhong, Tianchen Zhao, Xizhou Zhu, Yanpeng Zhou, Yifan Zhang, Zhi Zhu

机构 * MiroMind Team（MiroMind团队） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 MiroThinker通过模型、上下文和交互扩展提升开源研究代理性能，实现更深入的交互和更复杂的任务处理，其72B版本在多个基准测试中表现优异，接近商业模型。

Comments Technical Report

StepFly: Agentic Troubleshooting Guide Automation for Incident Diagnosis

StepFly: 用于事件诊断的代理自动化故障排查指南

Jiayi Mao, Liqun Li, Yanjie Gao, Zegang Peng, Shilin He, Chaoyun Zhang, Si Qin, Samia Khalid, Qingwei Lin, Saravan Rajmohan, Sitaram Lanka, Dongmei Zhang

机构 * Tsinghua University（清华大学） ； Microsoft（微软） ； Microsoft Research（微软研究院） ； Renmin University of China（中国人民大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 StepFly通过三阶段框架实现故障排查指南自动化，提升TSG质量并支持并行执行，实测在GPT-4.1上达到94%的成功率。

ASTRA: An Automated Framework for Strategy Discovery, Retrieval, and Evolution for Jailbreaking LLMs

ASTRA：一种用于对抗大语言模型 jailbreak 的自动化框架

Xu Liu, Yan Chen, Kan Ling, Yichi Zhu, Hengrun Zhang, Guisheng Fan, Huiqun Yu

机构 * School of Information Science and Engineering, East China University of Science and Technology, Shanghai, China（东华大学信息科学与工程学院，上海，中国） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 ASTRA 提出了一种自动化框架，通过闭环机制自动发现、检索和演化攻击策略，提升攻击策略的多样性和适应性。

Comments Acccepted by ACL 2026, 20 pages, 7 figures, 13 tables

Video Panels for Long Video Understanding

用于长视频理解的视频面板

Lars Doorenbos, Federico Spurio, Juergen Gall

机构 * University of Bonn（波恩大学） ； Lamarr Institute for Machine Learning and Artificial Intelligence（拉马尔机器学习与人工智能研究所） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；prompting(abstract)；分类 cs.AI

AI总结 本文提出一种无需训练的视觉提示策略，通过将多帧组合成图像以换取时间分辨率，提升了长视频理解模型的性能，实验表明在多个基准上效果显著。

Comments CVPR 2026

Layer-wise MoE Routing Locality under Shared-Prefix Code Generation: Token-Identity Decomposition and Compile-Equivalent Fork Redundancy

层间MoE路由局部性在共享前缀代码生成中的研究：令牌身份分解与编译等效分支冗余

Shun-ichiro Hayashi, Daichi Mukunoki, Tetsuya Hoshino, Takahiro Katagiri

机构 * Shun-ichiro Hayashi（Hayashi 馃一郎） ； Daichi Mukunoki（Mukunoki 大地） ； Tetsuya Hoshino（Hoshino 艾田） ； Takahiro Katagiri（Katagiri 谷田） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 研究探讨了在共享前缀代码生成中，MoE专家路由的层间局部性，通过令牌身份分解和编译等效分支冗余分析，揭示了路由重叠模式及优化搜索效率的潜力。

CIG: Measuring Conversational Information Gain in Deliberative Dialogues with Semantic Memory Dynamics

CIG：基于语义记忆动态的辩论对话中会话信息增益测量

Ming-Bin Chen, Jey Han Lau, Lea Frermann

机构 * School of Computing and Information Systems, The University of Melbourne（墨尔本大学计算与信息系统学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出CIG框架，通过语义记忆动态评估辩论对话中每个发言对集体理解的推进，展示基于记忆动态的指标比传统方法更有效。

Comments 24 pages, 5 figures

SOK: A Taxonomy of Attack Vectors and Defense Strategies for Agentic Supply Chain Runtime

SOK：代理供应链运行时的攻击向量和防御策略分类

Xiaochong Jiang, Shiqi Yang, Wenting Yang, Yichen Liu, Cheng Ji

机构 * Independent Researcher（独立研究者） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文系统化了现有研究，提出统一的运行时框架，区分数据和工具供应链攻击，并识别出病毒代理循环现象，主张采用零信任运行时架构。

Comments Published at ICLR 2026 Workshop on AI for Mechanism Design and Strategic Decision Making

BrainMem: Brain-Inspired Evolving Memory for Embodied Agent Task Planning

BrainMem: 为具身智能任务规划设计的脑启发式记忆系统

Xiaoyu Ma, Lianyu Hu, Wenbing Tang, Zixuan Hu, Zeqin Liao, Zhizhen Wu, Yang Liu

机构 * Nanyang Technological University, Singapore（南洋理工大学，新加坡） ； Tianjin University, Tianjin, China（天津大学，天津，中国） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出BrainMem，一种无训练的分层记忆系统，通过构建知识图谱和符号指南，提升具身智能在复杂环境中的任务规划能力，尤其在长周期和空间复杂任务中表现突出。

PRINCIPLES: Synthetic Strategy Memory for Proactive Dialogue Agents

PRINCIPLES：面向前瞻性对话代理的合成策略记忆

Namyoung Kim, Kai Tzu-iunn Ong, Yeonjun Hwang, Minseok Kang, Iiseo Jihn, Gayoung Kim, Minju Kim, Jinyoung Yeo

机构 * Department of Artificial Intelligence, Yonsei University（燕山大学人工智能学院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出PRINCIPLES，一种基于离线自play模拟的合成策略记忆，用于提升前瞻性对话代理的策略规划能力，无需额外训练和数据标注，在情感支持和说服领域均表现出色。

Comments Accepted to EMNLP 2025 Findings

Journal ref Findings of the Association for Computational Linguistics: EMNLP 2025, pages 21329-21368

Latent-Condensed Transformer for Efficient Long Context Modeling

基于MLA的潜在压缩Transformer用于高效长上下文建模

Zeng You, Yaofo Chen, Qiuwu Chen, Ying Sun, Shuhai Zhang, Yingjian Li, Yaowei Wang, Mingkui Tan

机构 * South China University of Technology（南方科技大学） ； Pengcheng Laboratory（鹏城实验室） ； AIGCode ； Harbin Institute of Technology（哈尔滨工业大学） ； Pazhou Laboratory（琶洲实验室） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出Latent-Condensed Attention，通过在MLA的潜在空间内压缩上下文，减少计算成本和KV缓存，同时保持性能。

Comments Accepted by ACL 2026

VideoStir: Understanding Long Videos via Spatio-Temporally Structured and Intent-Aware RAG

VideoStir：通过时空结构化和意图感知的RAG理解长视频

Honghao Fu, Miao Xu, Yiwei Wang, Dailing Zhang, Jun Liu, Yujun Cai

机构 * University of Queensland（昆士兰大学） ； University of California, Merced（加州大学默塞德分校） ； Institute of Automation, CAS（中国科学院自动化研究所） ； Lancaster University（兰卡斯特大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 VideoStir通过构建时空图和意图相关性评分器，改进长视频RAG框架，实现基于意图的结构化推理，无需辅助信息即可竞争现有最佳基线。

Comments Accepted by ACL 2026

MAGMA: A Multi-Graph based Agentic Memory Architecture for AI Agents

MAGMA：一种基于多图的代理记忆架构用于AI代理

Dongming Jiang, Yi Li, Guanpeng Li, Bingzhe Li

机构 * Department of Computer Science, The University of Texas at Dallas（德克萨斯大学达拉斯分校计算机科学系） ； Department of Electrical and Computer Engineering, University of Florida（佛罗里达大学电气与计算机工程系） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MAGMA通过多图结构实现记忆表示，提升长时序推理任务的性能，提供透明推理路径和细粒度检索控制。

Comments ACL 2026 Main

Memory as Metabolism: A Design for Companion Knowledge Systems

记忆作为代谢：一种陪伴知识系统的 设计

Stefan Miteski

机构 * CODE University Berlin（CODE大学柏林） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出一种针对单用户知识维基的治理框架，通过五项操作处理记忆中的矛盾证据，以避免固化问题。

Comments 41 pages, 1 table. Preprint v3.642. Concept DOI: 10.5281/zenodo.19501651

When to Forget: A Memory Governance Primitive

何时遗忘：一种记忆治理原语

Baris Simsek

机构 * Baris Simsek（巴里·西姆塞克） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出Memory Worth，一种通过跟踪记忆与成功/失败结果共现次数来评估记忆质量的机制，为动态管理提供理论基础，并在实验中验证其有效性。

Comments 12 pages, 5 figures

DRPG (Decompose, Retrieve, Plan, Generate): An Agentic Framework for Academic Rebuttal

DRPG（分解、检索、计划、生成）：一种用于学术反驳的代理框架

Peixuan Han, Yingjie Yu, Jingjun Xu, Jiaxuan You

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 本文提出DRPG框架，通过分解评审、检索证据、计划反驳策略和生成回应四个步骤，提升学术反驳的自动化水平，实验表明其性能超越现有方法并达到人类水平。

FlashMem: Distilling Intrinsic Latent Memory via Computation Reuse

FlashMem: 通过计算复用提炼内在潜在记忆

Yubo Hou, Zhisheng Chen, Tao Wan, Zengchang Qin

机构 * School of ASEE, Beihang University（北京航空航天大学ASEE学院） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； School of BME, Beijing Advanced Innovation Center for BME, Beihang University（北京航空航天大学生物医学工程学院/北京生物医学工程高精尖创新中心） ； CAIR and CECS, VinUniversity（VinUniversity计算与人工智能研究中心/计算机工程与计算机科学系） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 FlashMem通过计算复用直接从临时推理状态提炼内在记忆，消除冗余重参数化，提升推理效率和持久认知能力。

Trust Your Memory: Verifiable Control of Smart Homes through Reinforcement Learning with Multi-dimensional Rewards

相信你的记忆：通过多维奖励的强化学习实现智能家庭的可验证控制

Kai-Yuan Guo, Jiang Wang, Renjie Zhao, Tianyi Wang, Wandong Mao, Yu Gao, Mou Xiao Feng, Yi Xu

机构 * AI Research Center, Midea Group（美的集团人工智能研究中心） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出MemHomeLife和MemHome基准，通过多维奖励强化学习提升智能家庭的记忆驱动设备控制能力，解决现有方法在评估和方法论上的不足。