语言大模型 / LLM

Q-Interference: Memory-Efficient Phase-Aware Quantum-Inspired Attention

Q-干涉：内存高效的相位感知量子启发注意力机制

Emama Nahid, Tahmid Imtiaz Imu, Huayue Gu, Liran Ma, Zhipeng Cai, Honghui Xu

机构 * Kennesaw State University（肯尼索州立大学） ； Miami University（迈阿密大学） ； Georgia State University（佐治亚州立大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL

AI总结 本研究提出Q-Interference，一种内存高效的相位感知量子启发注意力机制，通过精确三角分解避免大型中间张量，适配GPT架构，在基准实验中训练稳定且内存优势显著。

Comments Preprint

Authorization Before Context: A Model-Neutral Audience Boundary Against Cross-Audience Memory Leakage in Agentic Systems

上下文之前的授权：一种针对智能体系统中跨受众记忆泄露的模型无关受众边界

Sibo Liu

专题命中 长上下文与记忆 ：language agent(abstract)；分类 cs.AI

AI总结 本研究针对智能体系统的跨受众记忆泄露问题，提出模型无关的受众边界方法，通过反单调授权规则确保未授权事实不进入上下文，在合成数据集上验证了其有效性。

Comments 13 pages, 3 figures. Author preprint. Accepted for presentation at AdvML-Frontiers x CoTMA, a non-archival workshop at COLM 2026

SkillEffect: Checked Lowering for Memory-Bounded Agent Tools

SkillEffect：面向内存受限智能体工具的经校验的降阶机制

Yinuo Wang, Yiyu Shi

机构 * Sichuan University（四川大学） ； University of Notre Dame（圣母大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 本文提出SkillEffect架构，通过经校验降阶运行时与独立校验器，在智能体工具调度时强制实施异构内存关系，可降低峰值内存并提升固定内存上限下的任务完成率。

Bridging the Gap between Labeled and Unlabeled Data via Unified Flow with Feature Memory Bank

通过带特征记忆库的统一流缩小标注数据与未标注数据之间的差距

Shanwen Wang, Xin Sun, Danfeng Hong, Junyu Dong, Patrick Le Callet

机构 * City University of Macau（澳门城市大学） ； Southeast University（东南大学） ； Ocean University of China（中国海洋大学） ； Nantes Université（南特大学） ； Ecole Centrale Nantes（南特中央理工学院） ； CAPACITES SAS ； CNRS（法国国家科学研究中心） ； LS2N（南特数字科学实验室） 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)；分类 cs.AI

AI总结 针对半监督语义分割中伪标签质量差的问题，提出带特征记忆库的统一流方法，结合视觉基础模型与遥感领域教师优化标注与未标注数据，在遥感数据集上优于当前最优方法。

MicroVerse: An Instrument for Measuring Self-Authored Identity Drift in Long-Horizon Multi-Agent Language-Model Simulations

MicroVerse：用于测量长 horizon 多智能体语言模型模拟中自我构建身份漂移的工具

Sky Ng, Brihi Joshi, Ishan Gupta, Shirley Huang, Zonglin Di, Yun Shen, Qianfeng Wen, Yifan Simon Liu, Ruoqi Gao, Yilan, Fan, Zhiwei Zhang, Muhammad Ahmed Mohsin, Yucheng Lu, Xiaoyi Liu, Heming Liu, Qianyu Zhu, Hanwen Xing, Zhengyang Shan, My Chiffon Nguyen, Guanghui Min, Jianheng, Hou, Yunze, Xiao, Keyang Xuan, Hannah Collison, Jintao Huang, Jiatong Li, Sankalp Jajee, Yunhan Zhao, Bing Hu, Xupeng Chen, Binghang Lu, Weihang Xiao, Aravind Mohan, Bolun Sun, Yunshu Wu, Yuanda Xu, Runyu Zhang, Zheyuan Deng, Xinchen, Tan, Dianzhuo Wang, Yijun Wang, Yixuan He, Koutian Wu, Cheng Cheng, Xiaomin Li, Yuexing Hao

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL

AI总结 MicroVerse 是测量长 horizon 多智能体 LM 模拟中身份漂移的工具，通过 50×50 环境等设计开展实验，发现反自我欺骗自发出现且系统对阈值鲁棒。

Intent-Driven Situation Tracking for User-Centric Multi-Turn Agents

面向以用户为中心的多轮智能体的意图驱动情境跟踪

Meiling Tao, Yiling Tao, Peng Wang

机构 * University of Electronic Science and Technology of China（电子科技大学） ； Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract_cn)；分类 cs.AI

AI总结 该研究针对以用户为中心的多轮智能体，提出无需训练的IDSS框架，通过维护明确情境状态提升任务完成度等性能，为智能体情境跟踪提供有效方案。

GraphLoom: Reliability-Calibrated Graph Evidence Routing for Multimodal KG-RAG

GraphLoom：面向多模态KG-RAG的可靠性校准图证据路由

Zafar Ali, Asad Khan, Aalia Malik, Pavlos Kefalas

机构 * School of Computer Science and Engineering, Southeast University（东南大学计算机科学与工程学院） ； Aristotle University（亚里士多德大学） ； Dashub（达舒布） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 提出GraphLoom框架，通过可靠性校准的图证据路由实现多模态KG-RAG，在ScienceQA等数据集上提升了答案质量与证据忠实度。

On the Principles Behind Neural Network Optimizers

神经网络优化器背后的原理

Yushun Zhang

机构 * School of Data Science, The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）数据科学学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract_cn)；分类 cs.LG

AI总结 本论文为优化器Adam建立了有原则的基础，通过海森矩阵结构分析其在Transformer上优于SGD的原因，提出内存减半且性能不变的新优化器Adam-mini，还为其他NN优化器提供了新见解。

When Local Variance Optimality Is Not Enough: RoPE-Aligned Q/K Rotations for Dynamic 4-Bit Quantisation

当局部方差最优性不足时：用于动态4比特量化的RoPE对齐Q/K旋转

Shuhan Wang, Yilin Luo, Nan Xu, Chi Wang Cheung

专题命中 长上下文与记忆 ：post-training(abstract)；分类 cs.LG

AI总结 本文针对动态4比特量化，研究RoPE对齐的Q/K旋转，推导了相关旋转角度，发现结构化代理最优性在与量化器尺度统计量不匹配时无法降低量化误差。

Spatial Memory Agent: Experience-Grounded Procedure Memory for Spatial Intelligence

空间记忆智能体：用于空间智能的基于经验的过程记忆

Haokai Zhang, Yuhang Ding, Yunshu Zhou, Xinze Du, Shengtao Zhang, Zhiyue Zhao, Yuling Xi, Hao Chen

机构 * Zhejiang University（浙江大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shanghai Innovation Institute（上海创新研究院） 纠错

专题命中 长上下文与记忆 ：post-training(abstract)；分类 cs.AI

AI总结 该研究提出SMA框架，让冻结VLM智能体无需外部空间工具，通过无参数更新自进化提升空间推理，在多基准和模型上表现最优，提供了空间自进化的实用路径。

Comments Under Review

Governed Persistent Memory: Source-Bound State Semantics and Fail-Closed Release for Long-Horizon Agents

受控持久内存：长程智能体的源绑定状态语义与故障关闭式释放

Guodong Xu

机构 * Qingdao Guodongxiansheng Network Technology Co., Ltd.（青岛果动先生网络科技有限公司） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 本文针对长程智能体内存的矛盾记录问题，提出受控持久内存（GPM）模型，经多组基准测试与服务评估，其在GPM-ReleaseBench、中英文指令分支等场景均实现零不匹配，修复大量基线故障且无退化。

Comments 23 pages, 2 figures, 11 tables. Includes a sealed end-to-end governed-memory service evaluation with an ungoverned local Qwen2.5-7B comparison

MARCH: Scaling Recurrent Memory with Content-Routed State Anchors

MARCH：通过内容路由状态锚点扩展循环记忆

Ming Zhang, Kaisen Yang, Shu Yu, Ermo Hua, Ning Ding, Xia Hu, Bowen Zhou, Chaochao Lu, Youbang Sun

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Tsinghua University（清华大学） ； Fudan University（复旦大学） 纠错

专题命中 长上下文与记忆 ：pretraining(abstract)；分类 cs.LG

AI总结 本文提出MARCH架构，通过内容路由状态锚点扩展循环记忆，在长序列上保持计算效率，经预训练后在多个长程任务中优于线性注意力变体，增强了循环长程记忆能力。

Reinforcement Learning based DBMS Buffer Pool Auto-Tuning for Optimal Memory Utilization

基于强化学习的数据库管理系统缓冲池自动调优以实现最优内存利用

Yifan Wang, Patrick Royer, Raphaël Féraud, David Delande

专题命中 长上下文与记忆 ：prompting(abstract)；分类 cs.AI

AI总结 该研究提出基于强化学习的MicroTune系统，用于DBMS缓冲池自动调优，可在保障SLA合规的同时减少内存浪费，性能优于基线方法。

Cracks in the Foundation: Seemingly Minor Architectural Choices Impact Long Context Extension

基础的裂痕：看似微小的架构选择会影响长上下文扩展

Amanda Bertsch, Luca Soldaini, Matthew R. Gormley, Graham Neubig, Hannaneh Hajishirzi, Kyle Lo, Dirk Groeneveld

机构 * Ai2 ； Carnegie Mellon University（卡内基梅隆大学） ； University of Washington（华盛顿大学） 纠错

专题命中 长上下文与记忆 ：pretraining(abstract)；分类 cs.CL

AI总结 该研究发现，Olmo、Llama、Qwen等稠密模型系列的四个微小架构决策会复合降低长上下文性能，结合三个及以上选择可使性能降47%，经17万余GPU小时训练发布OlmPool，其部分模型长上下文性能优于Llama 3。

Comments 29 pages; accepted to COLM 2026

Quantum Coordination Advantages in AI State-Tracking Tasks: Semantic Compilation and Latent Memory

人工智能状态跟踪任务中的量子协调优势：语义编译与潜在记忆

Ming Yang

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 该研究证明AI状态跟踪任务存在推理阶段量子协调优势，提出边界保持语义编译定理，通过问答、需求审计、稳定器对话等应用展示量子与经典方法的内存及协调分离。

Comments Comments and suggestions are welcome on alphaXiv

RotaryQuant: Fitting 120B MoE Models on Consumer Hardware via Fused Compressed-Space Attention

RotaryQuant：通过融合压缩空间注意力在消费级硬件上运行1200亿参数的混合专家模型

Anthony. Lui, Mohamed. Elsaied, N. P. Savani

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.LG

AI总结 RotaryQuant通过三轴压缩系统及IsoQuant等技术，在消费级硬件上实现1200亿参数MoE模型的高效运行，内存占用低且性能损失极小。

Comments 9 Pages, 9 Tables, Initial submission into NeurIPS 2026

Locating Failure in Multi-Page Visually Rich Document Understanding: An Empirical Attribution

多页视觉丰富文档理解中的故障定位：实证归因

Lewei Xu, Yihao Ding, Zihan Xu, Daniel Yitian Su, Daochang Liu, Siwen Luo, Yifan Peng, Wei Liu

机构 * The University of Western Australia（西澳大利亚大学） ； The University of Melbourne（墨尔本大学） ； Weill Cornell Medicine（威尔康奈尔医学院） 纠错

专题命中 长上下文与记忆 ：prompting(abstract)；分类 cs.AI

AI总结 该研究针对MP-VRDU的错误答案，分离出表示、选择、推理三种故障模式，发现视觉信息不可替代、缺失页面影响准确率等结果，给出固定计算预算下的系统构建指导。

Adversarial Attacks on Deep OCR Systems

针对深度OCR系统的对抗攻击

Wenbo Sun, Hongzong LI, Yanyun Wang, Jiahao MA, Shuxin Zhuang, Rong Feng, Shiqin Tang, Zi Liang

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 本文提出首个针对生成式OCR视觉语言模型的纯黑盒对抗攻击，将其转化为零阶优化问题，在Deep-OCR上验证了攻击有效性并揭示解码器故障，还表明可控有目标改写更难实现。

ConWriter: Transition-Constrained Stateful Long-Form Story Generation with Lightweight Neuro-Symbolic Consistency Control

ConWriter：基于轻量级神经符号一致性控制的带状态长文本故事生成，受过渡约束

Jindong Li, Yang Yang, Zihao Liu, Yutao Yue, Menglin Yang

专题命中 长上下文与记忆 ：prompting(abstract)；分类 cs.CL

AI总结 针对现有长故事生成方法易累积各类错误的问题，提出无训练框架ConWriter，通过维护故事状态、验证叙事过渡并结合风险信号实现一致性控制，在ConStory-Bench上完成多模型多任务评估。

S-CEReBrO: Breaking the Memory Barrier in Continuous EEG Monitoring

S-CEReBrO：突破连续脑电图监测中的内存瓶颈

Glenn Anta Bucagu, Thorir Mar Ingolfsson, Yawei Li, Luca Benini

机构 * ETH Zurich（苏黎世联邦理工学院） ； Nanyang Technological University（南洋理工大学） ； University of Bologna（博洛尼亚大学） 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)；分类 cs.LG

AI总结 该研究针对连续EEG监测中Transformer架构的内存瓶颈，提出S-CEReBrO架构，通过窗口交替注意力实现内存恒定，在EEG下游任务中性能领先且效率提升。

Comments This is the pre-rebuttal version of a paper accepted at MICCAI 2026. The camera-ready version will be posted following the embargo

UniMem: Complementary Episodic-to-Parametric Memory for Boundary-Agnostic Task Streams

UniMem：用于无边界任务流的互补情景到参数记忆

Siyu Xia, Chenheng Zhang, Yanting Wu, Haoxuan Li, Jiajun Chai, Xiaohan Wang, Guojun Yin, Wei Lin, Zhouchen Lin, Haifeng Zhang, Jun Wang

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； State Key Lab of General Artificial Intelligence, School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院通用人工智能国家重点实验室） ； Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） ； Meituan（美团） ； AI Centre, Department of Computer Science, University College London（伦敦大学学院计算机科学系人工智能中心） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL

AI总结 研究针对大语言模型在无边界任务流部署的稳定性 - 可塑性困境，提出UniMem自路由框架，用可学习路由令牌协调互补记忆路径，能按需扩展记忆，实验证明其在长周期流任务序列中优于基线并保持执行保真度。

Towards an Agent Operating System - Lessons from Classical and Cloud OS

迈向智能体操作系统——从经典操作系统和云操作系统中汲取的经验教训

Gosia Steinder, Hubertus Franke

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI

AI总结 智能体人工智能系统处于发展试验阶段，缺乏核心抽象概念共识。研究提出借鉴经典和云操作系统发展路径，扩展原语推导新智能体抽象概念，精确指定语义并整合，以推动该领域发展。

Eviction as Estimation: A Fixed-Lag Smoothing View of Test-Time Memory, and When Measuring Beats Accumulating

作为估计的逐出：测试时内存的固定延迟平滑视图，以及测量何时胜过累积

Maruthi Vemula, Neeraj Praneeth Gajula

机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； New York University（纽约大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 研究语言模型内存管理，将存储项保留决策转化为对项目是否被重用的估计问题，提出固定延迟平滑策略RMM。在受控设置中有优势，在第三方基准测试中表现一般，贡献了框架及测量与累积效果对比的映射。

Comments 8 pages, 3 figures, 3 tables

MEMOIR: Temporal Behavioral Memory for Recommendation Across the Preference-Drift Spectrum

MEMOIR：偏好漂移谱上推荐的时间行为记忆

Younggue Bae

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL

AI总结 研究提出MEMOIR框架用于推荐，将用户交互历史按时间窗口分割，用语言模型生成记忆并聚合为用户表示。在亚马逊评论数据上实验，与UniSRec对比，发现其在不同偏好漂移程度用户中有不同表现，此漂移分层模式是主要贡献。

Comments 6 pages, 2 figures

ACM: Agentic Context Management for Long Horizon Tasks

ACM：长期任务的智能体上下文管理

Xiaochuan Li, Ryan Ming, Meng Chu, Shuai Shao, Rong Jin, Chenyan Xiong

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Meta 纠错

专题命中 长上下文与记忆 ：post-training(abstract)；分类 cs.AI

AI总结 研究长期智能体任务上下文管理问题，提出ACM框架，受人类记忆启发让智能体自主管理上下文，还开发训练后管道，能提升模型在相关任务上的性能，有效管理上下文可降低压力、实现扩展探索并产生更一致方案。

Persistent Computational State: A Session-Centric Runtime for Generative World Models

持久计算状态：用于生成式世界模型的以会话为中心的运行时

Zhen Lin

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI

AI总结 研究发现当前视频世界模型用作模拟器失败的归因不完整，定义了持久计算状态（PCS），构建以会话为中心的运行时，通过测量发现PCS，实现低检查点和恢复成本以及新的内存管理方式。

Comments 29 pages, 8 figures, 10 tables

AgentKVShift: Efficient KV Cache Reuse for Agentic Memory Systems

AgentKVShift：用于智能体记忆系统的高效KV缓存重用

Nilesh Prasad Pandey, Jason Kong, Lanxiang Hu, Quanling Zhao, Yujie Zhao, Onat Gungor, Hao Zhang, Tajana Rosing

机构 * University of California, San Diego（加利福尼亚大学圣地亚哥分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI

AI总结 研究针对内存增强语言模型智能体推理成本高的问题，提出无训练、探针引导的AgentKVShift方法，通过估计内存级偏移量校正重用令牌，在多语言模型和基准测试中表现出色，实现低重新计算量和预填充加速，还能与缓存量化正交组合提升性能。

Naju: A Native Discrete State-Space Model with Independent Retention and Writing for Long-Sequence Memory

Naju：一种具有独立保留和写入功能的用于长序列记忆的原生离散状态空间模型

Hyuk Lim, Seunghyun Yoon

机构 * Korea Institute of Energy Technology (KENTECH)（韩国能源技术研究所） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 研究针对长序列记忆跟踪中保留与覆盖的矛盾需求，提出Naju模型，将循环更新分解为离散极点、写入增益及映射。该模型在训练长度4倍时仍兼具保留与覆盖能力，在多任务中结合长距记忆与良好性能，优于Mamba基线。

ArbiGraph: Arbitrarily Scalable Verifiable Task Graphs for Evaluating Context Management

ArbiGraph：用于评估上下文管理的任意可扩展可验证任务图

Pavel Golikov, Evgenii Opryshko, Gennady Pekhimenko, Mark C. Jeffrey

机构 * University of Toronto（多伦多大学） ； Vector Institute（向量研究所） 纠错

专题命中 长上下文与记忆 ：language agent(abstract)；分类 cs.AI

AI总结 ArbiGraph作为基准生成器，将任务表示为带Python求解器的自然语言问题，通过类型化中间状态组合任务。用多种任务类别实例化并评估智能体，发现其在孤立任务和复杂相关任务上表现不同，揭示了单任务评估无法发现的问题。

Exploratory and Assimilating Reflection: Reflective Recall Cycle for Long-term Memory

探索性与同化性反思：用于长期记忆的反思性回忆循环

Ganesh Senrayan, Moyuru Yamada, Ishan Jindal, Kiran Purohit

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI

AI总结 研究基于大语言模型的自主智能体外部记忆问题，提出探索性 - 同化性反思（EAR）框架，结合探索性反思与同化性反思两种机制，提高初始检索性能和样本效率，在长期对话基准上比基线检索器提升检索率达 17.9%，且样本效率高、抗噪声反馈。