语言大模型 / LLM

MutMem: Cryptographically Authorized Mutation in Persistent Agent Memory

MutMem：持久智能体内存中的密码学授权突变

Walid Saidi

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本研究针对持久智能体内存的授权与防篡改问题，提出HOM-AIMOS中的MutMem协议，经实验验证其在多个基准任务中表现良好，可有效抵御中毒攻击。

Comments https://github.com/wallidsaydi-creator/HOM-AIMOS. 32 Pages

When Memory Becomes Authority: Benchmarking Authority Collapse at the Memory Consolidation Boundary

当记忆成为权威：在记忆整合边界处对权威崩溃进行基准测试

Qiuyang Zhan, Rui Zhang, Sheng Guo, Lepeng Zhao, Zhuotao Liu

机构 * Tsinghua University（清华大学） ； East China Normal University（华东师范大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本研究推出AuthMem-Bench基准，发现智能体记忆整合存在权威崩溃问题，自动保留权威标签可大幅降低未授权动作率，证明记忆适配需同时保留权威信息。

Comments 38 pages, 2 figures

Long-Horizon Autonomous Architecture Research with a Language-Model Agent: A Behavioural Case Study

基于语言模型智能体的长时自主架构研究：一项行为案例研究

Aon Safdar, Mohamed Saadeldin

机构 * University College Dublin（都柏林大学学院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究以语言模型智能体为唯一研究者开展长时神经架构设计案例，经三阶段约100次实验改进了视觉Transformer，揭示其生产力阶段结构等四项发现，提出自主研究的未来方向。

Comments This work has been submitted to the IEEE for possible publication. Copyright may be transferred without notice, after which this version may no longer be accessible

PGMem: Tightly Coupled Persona-Memory Graph for Lifelong Personalized Agents

PGMem：用于终身个性化智能体的紧耦合角色记忆图

Wonjun Choi, Yerim Kim, Yukyung Lee, Susik Yoon

机构 * Korea University（高丽大学） ； Boston University（波士顿大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；small language model(abstract)；分类 cs.CL

AI总结 该研究针对现有对话智能体记忆系统的角色与事件松散耦合问题，提出PGMem异构角色记忆图，通过溯源边关联角色与事件，在多个基准测试中性能优于多种基线方法。

Salami Attack: Stealthy Collusive Memory Poisoning against OpenClaw

Salami攻击：针对OpenClaw的隐蔽合谋式内存投毒

Zheng Lin, Yuzhe Huang, Zhenxing Niu, Xianmin Ye, Haichang Gao

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 针对OpenClaw，提出MemCollusion框架，采用Salami策略生成合谋式内存投毒攻击，在48种场景下平均内存保存率81.3%、攻击成功率75.0%，可应对良性内存稀释与内存级防御。

When Memory Updates but Behavior Does Not: Repairing Implicit Stale Dependencies in Personalized Agent Responses

当记忆更新但行为未更新时：修复个性化智能体响应中的隐式陈旧依赖

Haofei Sun, Lin He

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对智能体存在的隐式陈旧依赖问题，提出StateAuditor反向审计方法，在STALE基准上实现显著性能提升，验证了转换机制对修复IPA缺口的有效性。

Comments 9 pages, 4 figures; supplementary material in ancillary files

Linear Multi-Timescale Retention as a Memory-Efficient Vision-Language Bridge

线性多时间尺度保留作为内存高效的视觉-语言桥梁

Ashfak Yeafi, Mehedi Hasan, Md Khairul Islam

专题命中 长上下文与记忆 ：language model(abstract)；instruction tuning(abstract)；分类 cs.AI

AI总结 该研究针对视觉-语言模型高分辨率图像处理的内存瓶颈，提出线性多时间尺度保留模块，兼具O(N)复杂度与上下文路由能力，在长序列任务、硬件效率及MME基准上均优于MLP基线。

S$^4$R: Selective Sampling, Subspaces, and Sparse Reconstruction for Compressed Long-Context KV Caching

S$^4$R：用于压缩长上下文KV缓存的选择性采样、子空间与稀疏重构

Jialong Han, You Wu, Kewei Tu

机构 * School of Information Science and Technology, ShanghaiTech University（上海科技大学信息科学与技术学院） ； Shanghai Engineering Research Center of Intelligent Vision and Imaging（上海智能视觉与成像工程研究中心） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 S$^4$R通过选择性采样token构建低秩子空间、稀疏重构KV表示，在LongBench等数据集上实现最高5倍KV压缩且接近全缓存准确率，兼顾压缩效率与提示词适应性。

Width, Memory, and Delay: A Resource Accounting for the Limits of Flat Multi-Agent Systems

宽度、内存与延迟：扁平多智能体系统的资源限制核算

Oleksandr Kuznetsov, Emanuele Frontoni

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对扁平多智能体系统，构建了基于宽度、内存、延迟的定量资源模型，反驳了其存在不可约因果下限的结论，明确资源不可替代性并给出设计规则。

AIvilization v0: Toward Large-Scale Artificial Social Simulation with a Unified Agent Architecture and Adaptive Agent Profiles

AIvilization v0：迈向大规模人工社会模拟的统一代理架构与自适应代理档案

Wenkai Fan, Shurui Zhang, Xiaolong Wang, Haowei Yang, Tsz Wai Chan, Xingyan Chen, Junquan Bi, Zirui Zhou, Jia Liu, Kani Chen

机构 * The Hong Kong University of Science and Technology（香港科学与技术大学） ； Bauhinia AI 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 AIvilization v0通过统一代理架构和自适应代理档案，实现大规模人工社会模拟，解决目标稳定性与反应正确性矛盾，支持长周期自主性和多目标环境下的稳健性。

Comments v2: major revision. Agent architecture and environment consolidated into self-contained sections; new problem-setting section formalizing the asynchronous event model; evaluation reorganized by experiment with results reported alongside each protocol; added action-simulator audit, and human-steering analyses; other sections rewritten

Memory Decoder at Scale: A Pretrained, Parametric Long-Term Memory

规模化的记忆解码器：一种预训练的参数化长期记忆

Rubin Wei, Jiaqi Cao, Jiarui Wang, Junming Zhang, Qipeng Guo, Bowen Zhou, Zhouhan Lin

专题命中 长上下文与记忆 ：language model(abstract)；pretraining(abstract)；分类 cs.CL

AI总结 本研究将记忆解码器扩展至69亿参数并在3000亿token上预训练，通过分布式Faiss等技术解决索引瓶颈，发现独立扩展记忆可更高效提升语言模型性能，在多基准测试中验证了其优势。

MemSecBench: Tracking Agent Memory Poisoning from Persistence to Consequence and Repair

MemSecBench：追踪智能体内存中毒从持久性到后果及修复的全生命周期

Xuanze Chen, Xukang Xie, Wentao Fu, Jiajun Zhou, Shanqing Yu, Qi Xuan

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本研究提出MemSecBench基准测试，通过24种配置的实验发现不同内存系统栈在智能体内存中毒的持久性、后果及选择性修复上存在显著差异，为智能体内存安全评估提供了工具。

Functional Cache Grafting: Robust and Rapid Code-Policy Synthesis for Embodied Agents

功能缓存嫁接：具身智能体的鲁棒且快速代码策略合成

Saehun Chun, Wonje Choi, Sera Choi, Sanghyun Ahn, Honguk Woo

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出FCGraft框架，通过维护函数级验证代码骨架及其键值缓存，对新任务进行缓存嫁接（拼接和修补），减少预填充计算并复用验证结构，实现更鲁棒和快速的策略合成。

Comments Accepted at ICML 2026

Speculate While You Reason: Teaching Agents to Predict Their Next Tool Call via Joint Agent-Speculator RL

推理时进行推测：通过联合智能体-推测器强化学习教智能体预测其下一个工具调用

Jiabao Ji, Yujian Liu, Li An, Rohit Jain, Gungor Polatkan, Siyu Zhu, Shiyu Chang

机构 * University of California, Santa Barbara（加利福尼亚大学圣巴巴拉分校） ； Linkedin Inc（领英公司） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对大型语言模型智能体等待工具调用结果时间长的问题，提出联合智能体-推测器强化学习方法，统一智能体和推测器为自推测智能体，复用缓存，提升了Qwen不同模型下一个工具调用的Hit@1指标及任务成功率。

Authoring Agent Skills: A Software-Engineering Approach

编写智能体技能：一种软件工程方法

Giuseppe Destefanis

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究如何编写智能体技能，遵循软件工程原则，以Claude Code为参考实现阐述技能结构等，与其他塑造智能体行为机制比较并给出选择规则，还介绍评估驱动编写过程等，为智能体技能编写提供方法。

MusiChat: Vibe Composing for Music Creation

MusiChat：用于音乐创作的氛围作曲

Callie C. Liao, Duoduo Liao, Ellie L. Zhang

机构 * Stanford University（斯坦福大学） ； George Mason University（乔治梅森大学） ； IntelliSky（智能天空） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对AI音乐创作中迭代难问题，提出MusiChat系统，通过分层可控框架、记忆增强架构及混合意图路由机制，实现人机协作音乐创作，经评估在交互准确率和用户喜好比例上表现良好，支持多轮音乐创作和人机共创。

DynaCalKV: Key-Value Cache Compression via Head Grouping and Adaptive Rank Allocation

DynaCalKV：通过头部分组和自适应秩分配实现键值缓存压缩

Tan T. Nguyen, Quan V. Dang

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对大语言模型KV缓存瓶颈问题，提出DynaCalKV框架，通过基于CKA相似性动态分组注意力头并自适应分配秩预算处理键缓存，值缓存采用ReCalKV方法优化，实验表明能减少键缓存参数且保持准确率，对MHA模型效果好，对GQA模型应用需更谨慎。

Disentangling Semantic Attention from Structural Bias in the Attention Manifold

在注意力流形中分离语义注意力与结构偏差

Pengkun Jiao, Bin Zhu, Jingjing Chen, Yu-gang Jiang

机构 * Fudan University（复旦大学） ； Singapore Management University（新加坡管理大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究多模态大语言模型中注意力机制对无信息视觉 tokens 关注过多的问题，提出无需训练的 SPAR 方法，通过净化噪声和重分配注意力，有效恢复真实视觉基础且计算开销小。

Embodied GPT-5.1: Evidence of a World Model?

具身化GPT-5.1：世界模型的证据？

Roberto Spinelli, Thiago C. Martins

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究探索无实体化训练的GPT-5.1能否控制物理移动机器人，通过低分辨率图像和离散动作集执行任务。它展现出空间推理等新兴能力，但也有效率和感知局限。结果挑战传统观点，促使深入研究大语言模型中物理理解相关问题。

Comments 6 pages, 16 figures. Published in the 2026 Brazilian Conference on Robotics (CROS)

Journal ref R. Spinelli and T. C. Martins, "Embodied GPT-5.1: Evidence of a World Model?," 2026 Brazilian Conference on Robotics (CROS), pp. 394-399, 2026

MEMENTO: Memory-Guided Memetic Code-as-Policy Evolution

MEMENTO：内存引导的基于代码的策略进化的模因算法

Alkis Sygkounas, Victor Aregbede, Amy Loutfi, Andreas Persson

机构 * Center for Applied Autonomous Sensor Systems (AASS), Örebro University（应用自主传感器系统中心（AASS），于默奥大学） ； Örebro University（于默奥大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究长期具身任务中基于代码的策略进化问题，提出内存引导单精英模因框架MEMENTO，通过进化展开评估器及利用反馈指标改进策略，在相关领域实验中性能优于基线，还证明了模拟到现实转移的可行性。

LiteTopK: Exploiting the Curse of Dimensionality for a Fused Indexer-TopK Kernel in Long-Context Sparse Attention

LiteTopK：利用维度诅咒设计长上下文稀疏注意力中的融合索引器 - TopK 内核

Ziqi Yin, Jianyang Gao, Peiqi Yin, Jiangneng Li, Gao Cong

机构 * Nanyang Technological University（南洋理工大学） ； ETH Zurich（苏黎世联邦理工学院） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对现有 GPU 索引器 - TopK 内核效率低的问题，利用维度诅咒设计 LITETOPK 内核，通过采样估计得分范围划分候选结果桶，降低内存开销，在实际部署中加速 GLM 5.2 预填充阶段，提升了效率。

Decoupled Attention Fusion: Accelerating RAG with Efficient KV Cache Reuse

解耦注意力融合：通过高效的键值缓存重用加速检索增强生成

Xiabao Wu, Wentao Liu, Yongchao Liu, Jiajun Zheng

机构 * Ant Group, China（蚂蚁集团，中国） ； Southeast University, Nanjing, China（东南大学，南京，中国） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对RAG在长上下文场景中TTFT延迟高及缓存问题，提出解耦注意力融合（DAF）框架，将注意力过程解耦为三个阶段，与Flash-Attention内核兼容，实验显示其在不牺牲准确性的情况下，相比CacheBlend和完全重新计算有显著加速。

Comments Accepted by EuroSys 2026 (poster track)

news-crawler-LM: A Small Long-Context Model For High-Quality News Crawling

新闻爬虫语言模型：一种用于高质量新闻爬虫的小型长上下文模型

Pascal Stolzenburg, Jonas Golde, Max Dallabetta, Alan Akbik

机构 * Humboldt-Universität zu Berlin（柏林洪堡大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究旨在解决新闻页面结构化内容提取难题，提出基于眼底新闻爬虫库微调的小型长上下文语言模型news-crawler-LM，能将HTML转换为文本和JSON，在HTML到Markdown和JSON提取任务中性能出色，且向研究社区发布了所有模型和工件。

Comments KONVENS 2026

PrefReward: Learning User Preference Matrix for Personalized Text Generation

PrefReward：学习用于个性化文本生成的用户偏好矩阵

Yue Wu, Chengbing Wang, Yimeng Bai, Xiaoyan Zhao, Yang Zhang, Fuli Feng

机构 * University of Science and Technology of China（中国科学技术大学） ； The Chinese University of Hong Kong（香港中文大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究针对大语言模型个性化生成中存在的问题，提出PrefReward框架，通过提取用户特定偏好矩阵并将其作为奖励信号指导生成，实验证明该框架在生成质量和个性化可解释性上优于基线。

Planning with Transformers: Chain of Computation and Structured Context Windows

使用Transformer进行规划：计算链与结构化上下文窗口

Ehsan Futuhi, Nathan R. Sturtevant

机构 * Department of Computing Science, University of Alberta（阿尔伯塔大学计算科学系） ； Alberta Machine Intelligence Institute (Amii)（阿尔伯塔机器智能研究所） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究大语言模型解决规划问题的不足，提出计算链架构，利用结构化上下文窗口，让语言模型学习规划策略、预测世界模型并执行算术运算，在多个任务上取得高成功率，能解决复杂汉诺塔问题且减少训练数据。

SelKV: Selective KV Cache Merging with Per-Token Merge-or-Drop and Attention Compensation

SelKV：基于逐令牌合并或丢弃及注意力补偿的选择性键值缓存合并

Soumia Bouyahiaoui, Manel Kara laouar, Aicha Boutorh, Mohamed Hadj Ameur

机构 * National School of Artificial Intelligence (ENSIA)（国家人工智能学院） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 针对大型语言模型KV缓存内存占用瓶颈问题，提出无训练的SelKV双组件框架，通过软余弦门和注意力比率补偿机制进行缓存压缩，在LongBench数据集上仅保留25%缓存时性能强大，在多文档问答任务中表现出色且解码加速。

No Subspace to Track: Non-Identifiability and Optimizer State in Low-Rank Training

无迹可循：低秩训练中的不可识别性与优化器状态

Noel Thomas

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究低秩训练中优化器子空间不可识别性问题，发现不同小批量计算的子空间估计差异大，平均无法恢复其余方向。提出将刷新视为坐标变化，如LDAdam表现良好，还明确了GaLore有效原因及相关检查要点在于可重现秩k*。

Comments 21 pages, 5 figures, under review at ICOMP2026

MOSS Transcribe Diarize Technical Report

MOSS 语音转录与说话人识别技术报告

MOSI. AI, :, Donghua Yu, Zhengyuan Lin, Hanfu Chen, Chen Yang, Yiyang Zhang, Jingqi Chen, Ke Chen, Liwei Fan, Yi Jiang, Jie Zhu, Muchen Li, Wenxuan Wang, Yang Wang, Zhe Xu, Botian Jiang, Yitian Gong, Yuqian Zhang, Wenbo Zhang, Songlin Wang, Zhiyu Wu, Zhaoye Fei, Qinyuan Cheng, Shimin Li, Xipeng Qiu

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 MOSS转录与识别通过端到端多模态大语言模型，实现了说话人属性化和时间戳化的转录，解决了现有系统在上下文窗口、长距离说话人记忆和时间戳输出方面的不足。

COBS: Cumulant Order Block Sparse Attention

COBS：累积阶数块稀疏注意力

Alexander Tian, Aditya Ghai, Sanjit Neelam, Zaal Vasania, Akshay Mishra

机构 * MatX 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究大语言模型中缓解KV缓存读取瓶颈的块稀疏注意力方法，以DeepSeek的NSA为代表分析其块选择问题。通过累积量展开指出现有方法局限，提出COBS方法，在32k RULER基准上提升了NSA基线分数，缩小与密集注意力差距，且减少了KV缓存读取流量。

Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents

令牌流防火墙：持久人工智能代理的语义运行时审计

Puji Wang, Yingchen Zhang, Ruqing Zhang, Jiafeng Guo, Xueqi Cheng

机构 * State Key Laboratory of AI Safety（人工智能安全国家重点实验室） ； Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所） ； University of Chinese Academy of Sciences, Beijing, China（中国科学院大学北京校区） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对持久人工智能代理不安全内容传播问题，提出TokenWall运行时防御框架，通过对令牌流进行语义审计及相关操作，实现安全-效用权衡，实验显示其有效降低攻击成功率，保持高良性通过率且增加延迟少。