语言大模型 / LLM

Fourier Neural Operators with Least-Squares Readout Refit for Learning Random Obstacle-to-Solution Maps

具有最小二乘读出重拟合的傅里叶神经算子用于学习随机障碍到解的映射

Chenhui Zhu, Fei Wang

专题命中 后训练与偏好优化 ：post-training(abstract)；分类 cs.LG

AI总结 针对随机障碍问题，提出一种后训练最小二乘读出重拟合方法增强傅里叶神经算子，在保持非线性特征不变下优化线性读出，显著提升复杂接触几何下的解精度。

SRUM: Fine-Grained Self-Rewarding for Unified Multimodal Models

SRUM：细粒度自奖励用于统一多模态模型

Weiyang Jin, Yuwei Niu, Jiaqi Liao, Chengqi Duan, Aoxue Li, Shenghua Gao, Xihui Liu

机构 * HKU MMLab（香港大学多媒体实验室） ； The University of Hong Kong（香港大学） ； Peking University（北京大学） ； Noah’s Ark Lab, Huawei（华为诺亚方舟实验室） ； Shenzhen Loop Area Institute（深圳河套学院） 纠错

专题命中 后训练与偏好优化 ：post-training(abstract)；分类 cs.CL

AI总结 SRUM通过内部评估模块对生成模块进行自奖励，提升统一多模态模型的视觉生成能力，实验证明在T2I-CompBench和T2I-ReasonBench上性能显著提升。

Comments Accepted to ECCV 2026. 20 pages, 8 figures, webpage can be seen in https://waynejin0918.github.io/srum_web/

H-GRPO: Permutation-Invariant Reinforcement Learning for Grounded Visual Reasoning

H-GRPO: 用于基础视觉推理的置换不变强化学习

Eric Peh, Debaditya Roy, Basura Fernando

专题命中 后训练与偏好优化 ：language model(abstract)

AI总结 提出H-GRPO框架，通过分解式证据基础将全局查询分解为原子子问题，每个子问题需显式子答案和局部证据边界框，构建结构化推理路径以提升VLM性能和可解释性。

CLEAR-MoE: Shared-Basis Expert Extraction from Frozen Vision Transformers via Calibration-Driven Layer Selection

CLEAR-MoE: 通过校准驱动的层选择从冻结视觉Transformer中提取共享基专家

Md Irtiza Hossain, Humaira Ayesha, Junaid Ahmed Sifat

机构 * Brac University（布拉克大学） 纠错

专题命中 后训练与偏好优化 ：post-training(abstract)

AI总结 提出CLEAR-MoE四阶段后训练流程，将冻结的ViT转换为稀疏MoE模型，通过共享SVD基保留精度，在多个ViT骨干上精度损失≤0.10%。

The Efficiency Frontier: A Unified Framework for Cost-Performance Optimization in LLM Context Management

效率前沿：LLM上下文管理中成本-性能优化的统一框架

Binqi Shen, Lier Jin, Hanyu Cai, Lan Hu, Yuting Xin

机构 * Northwestern University（西北大学） ； Duke University（杜克大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University of Minnesota（明尼苏达大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 提出效率前沿框架，通过部署感知优化联合考虑任务性能、token成本和预处理重用，实现LLM上下文管理中的成本-性能权衡。

Comments Accepted to LMIAT 2026

Memory as an Attack Surface in LLM Agents: A Study on Multiple-Choice Question Answering

LLM代理中的记忆作为攻击面：多项选择题回答研究

Shahnewaz Karim Sakib, Anindya Bijoy Das

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究LLM代理中外部记忆组件在多项选择题回答中的脆弱性，通过插入误导记忆进行攻击，实验表明简单记忆操纵即可显著影响答案准确性。

Agent libOS: A Runtime Substrate for Capability-Controlled Self-Evolving LLM Agents

Agent libOS: 一种受库操作系统启发的运行时，用于长时间运行、能力受控的LLM智能体

Yingqi Zhang

机构 * Department of Computer Science and Technology, Tsinghua University（清华大学计算机科学与技术系） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Agent libOS运行时，将LLM智能体建模为具有进程标识、生命周期、能力控制和审计记录的AgentProcess，通过类似libc的工具包装和运行时原语边界实现安全调度与资源控制。

Comments 12 pages, 1 figure, 4 tables

An Agentic AI Pipeline for Appliance-Level Energy Anomaly Detection and LLM-Driven Recommendations

一种用于设备级能源异常检测和基于LLM的推荐建议的智能体AI流水线

Dihia Falouz, Aida Douaibia, Amine Bechar, Youssef Elmir, Abbes Amira, Adel Oulefki

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出一种端到端智能体流水线，结合深度时间序列预测、变分异常检测和LLM推理，为办公建筑设备级能耗生成优先级排序的可操作维护建议。

Comments 07 pages, 01 figure, accepted for presentation at the IEEE International Conference on Communication, Computing, Networking, and Control in Cyber-Physical Systems (CCNCPS 2026)

When Does Overlap Help? OSU-Mem and a Cell-Conditional Analysis of Trajectory Memory for LLM Agents

重叠何时有帮助？OSU-Mem及LLM智能体轨迹记忆的细胞条件分析

Mellow Baixuan Chen, Xiangguo Sun

机构 * Courant Institute of Mathematical Sciences（Courant数学科学研究所） ； Southeast University（东南大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出OSU-Mem方法，通过重叠语义单元组织轨迹记忆，发现当查询所需证据步骤共享工具调用或实体时重叠有帮助，否则有害。

Comments 32 pages, 4 figures, 18 tables

Neural Procedural Memory: Empowering LLM Agents with Implicit Activation Steering

神经程序记忆：通过隐式激活引导赋予LLM智能体能力

Chengfeng Zhao, Yuqiao Tan, Shizhu He, Yequan Wang, Jun Zhao, Kang Liu

机构 * Institute of Automation, CAS（中国科学院自动化研究所） ； University of Chinese Academy of Sciences（中国科学院大学） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 提出神经程序记忆（NPM），一种无训练框架，通过隐式激活引导而非显式指令表示智能体记忆，从历史对比经验中提取程序技能为激活空间中的引导向量，直接激活任务相关神经机制以指导执行。

Selective Memory Retention for Long-Horizon LLM Agents

面向长周期LLM智能体的选择性记忆保留

Pranath Reddy

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出TraceRetain框架，通过可解释特征评分和驱逐机制管理有限外部记忆，在噪声环境下保持任务成功率，验证了选择性记忆保留对长周期智能体的有效性。

Comments Accepted at the International Conference on Machine Learning (ICML) 2026

Predict, Reuse, and Repair: Accelerating Dynamic Sparse Attention for Long-Context LLM Decoding

预测、重用与修复：加速长上下文LLM解码的动态稀疏注意力

Tianyu Wang, Gourav Rattihalli, Aditya Dhakal, Junbo Li, Zhiwei Ren, Dejan Milojicic, Longfei Shangguan

机构 * University of Pittsburgh（匹兹堡大学） ； HPE Labs（HPE实验室） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.LG

AI总结 提出PRR运行时系统，利用动态稀疏注意力选择的时间局部性，通过预测、推测和增量修复来减少解码延迟，最高可降低40%的每令牌延迟，同时保持下游任务精度。

Comments 9 pages body plus 3 pages appendix, 13 pages total

When Latent Agents Lie: KV-Cache Integrity in Multi-Agent LLM Collaboration

当潜在智能体说谎时：多智能体LLM协作中的KV缓存完整性

Luís Brito, Carlos Baquero

专题命中 长上下文与记忆 ：LLM(title,title_cn)

AI总结 研究多智能体问答中KV缓存传递的安全问题，发现恶意智能体可通过篡改隐藏状态破坏协作，提出HMAC-SHA256清单保护传输完整性。

Comments 16 pages, 2 figures, 3 tables

Evaluating Memory in LLM Agents via Incremental Multi-Turn Interactions

通过增量多轮交互评估LLM代理的记忆能力

Yuanzhe Hu, Yu Wang, Julian McAuley

机构 * University of California, San Diego（加利福尼亚大学圣迭戈分校） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MemoryAgentBench，通过多轮交互模拟记忆代理的信息积累过程，评估准确检索、测试时学习、长程理解与选择性遗忘四项核心能力。

Comments Y. Hu and Y. Wang contribute equally

Manufactured Confidence: How Memory Consolidation Turns Hearsay into Confident Facts

制造自信：记忆巩固如何将传闻转化为确信的事实

Alex Kwon

机构 * Independent Researcher（独立研究员） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.CL、cs.AI

AI总结 研究LLM代理在记忆压缩中将不确定表述转化为自信断言的问题，发现记忆重写导致代理将传闻当作事实执行，提出冗余来源可恢复正确决策。

Comments 16 pages, 16 tables, 1 figure. Code: https://github.com/collapseindex/manufactured-confidence

Is Lying an Emergent Behaviour in LLMs? Evidence from Gaslighting AI agents in a Sustainability Game

说谎是LLMs中的涌现行为吗？来自可持续性游戏中Gaslighting AI智能体的证据

Subhendu Bhandary, Federico Carucci, Christos Charalambous, Francesca Dilisante, Ksenia Dvorkina, Anna Garbo, Jiaqi Liang, Riccardo Vasellini, Francesco Bertolotti

机构 * Chair for Network Dynamics, Institute of Theoretical Physics, TUD Dresden University of Technology（网络动力学主任，理论物理研究所，德累斯顿技术大学） ； School of Industrial Engineering, LIUC – Università Cattaneo（工业工程学院，LIUC – 哥特拉尔大学） ； Department of Economics, University of Cyprus（经济系，塞浦路斯大学） ； Department of Condensed Matter Physics, University of Zaragoza（凝聚态物理系，阿拉贡大学） ； Department of Epidemiology, Medical University of Vienna（流行病学系，维也纳医学大学） ； ISI Foundation, Torino, Italy（ISI基金会，意大利托里诺） ； Complexity Science Hub, Vienna, Austria（复杂科学中心，奥地利维也纳） ； ISTC, LABSS, CNR, Roma, Italy（ISTC，LABSS，CNR，意大利罗马） ； Department of Philosophy, Università Cattolica del Sacro Cuore（哲学系，圣心大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 研究LLM智能体在竞争性可持续性游戏中是否涌现说谎行为，通过智能体模型发现欺骗可自发产生，且明确许可主要增加虚张声势而非直接背叛。

HUMEMBR: Learning Human Routines for Predictive Embodied Navigation

HUMEMBR：学习人类日常行为以进行预测性具身导航

Samira Huber, Klaas Pelzer, Duc M. Nguyen, Xuesu Xiao, Sören Pirk

机构 * Kiel University, Germany（德国基尔大学） ； George Mason University, USA（美国乔治·马歇尔大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)

AI总结 提出HUMEMBR系统，通过连续记忆构建与并行检索机制，实现基于人类日常行为的具身问答和导航，相比全上下文LLM基线在长时推理上更高效。

Comments Accepted to IROS 2026

Multimodal Graph RAG for Long-range Visually Rich Document Understanding

多模态图RAG用于长程视觉丰富文档理解

Yi-Cheng Wang, Chu-Song Chen

机构 * Department of Computer Science and Information Engineering, National Taiwan University（国家台湾大学计算机科学与信息工程系） ； FinTech Center, National Taiwan University（国家台湾大学金融科技中心） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；large language model(abstract)；language model(abstract)

AI总结 提出多模态图RAG方法，通过构建多模态知识图谱解决长文档视觉问答中全局理解不足的问题，并引入新基准DLVQA进行评测，实验表明该方法优于现有方法。

ComMem: Complementary Memory Systems for Test-Time Adaptation of Vision-Language Models

ComMem：视觉语言模型测试时自适应的互补记忆系统

Guanglong Sun, Shuang Cui, Bo Lei, Liyuan Wang, Zihan Zhai, Hongwei Yan, Hang Su, Jun Zhu, Yi Zhong

机构 * School of Life Sciences, IDG/McGovern Institute for Brain Research, Tsinghua University, Beijing, China（生命科学学院，IDG/麦克戈文脑科学研究院，清华大学，北京，中国） ； Institute of Software Chinese Academy of Sciences, Beijing, China（中国科学院软件研究所，北京，中国） ； Beijing Academy of Artificial Intelligence, Beijing, China（北京人工智能研究院，北京，中国） ； Department of Psychological and Cognitive Sciences, Tsinghua University, Beijing, China（心理学与认知科学系，清华大学，北京，中国） ； Dept. of Comp. Sci. and Tech., Institute for AI, Tsinghua-Bosch Joint ML Center, THBI Lab, BNRist Center, Tsinghua University, Beijing, China（计算机科学与技术系，人工智能研究院，清华大学-博世联合机器学习中心，THBI实验室，BNRist中心，清华大学，北京，中国） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；分类 cs.AI

AI总结 提出受生物互补记忆系统启发的ComMem方法，通过快速适应细节记忆和慢速整合抽象记忆协同工作，实现视觉语言模型在测试时的跨模态一致自适应，在15个基准数据集上显著优于现有方法。

Comments A brain-inspired complementary memory framework leveraging fast visual caching and slow textual refinement for VLM test-time adaptation

Turn-Averaged SAEs for Feature Discovery and Long-Context Attribution

用于特征发现和长上下文归因的轮次平均稀疏自编码器

Kevin Der, Harish Kamath, Ben Thompson

机构 * Anthropic Fellows Program（Anthropic 合作者计划） ； Anthropic 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 提出轮次平均稀疏自编码器，通过重构轮次平均激活来固定特征数量，简化长上下文下的特征归因与解释。

How to Train Your Long-Context Visual Document Model

如何训练长上下文视觉文档模型

Austin Veselka

机构 * LightOn 纠错

专题命中 长上下文与记忆 ：language model(abstract)；pretraining(abstract)；preference optimization(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究长上下文视觉语言模型的训练方法，通过系统分析预训练、监督微调和偏好优化，实现MMLongBenchDoc上的最佳性能，并发现匹配评估上下文长度的训练效果更优。

MATCH: Modulating Attention via In-Context Retrieval for Long-Context Transformers

MATCH: 通过上下文检索调制注意力用于长上下文Transformer

Linrui Ma, Chun Hei Lo, Xinyu Wang, Peng Lu, Xihao Yuan, Hanting Chen, Kai Han, Xinghao Chen, Chengjun Zhan, Hanlin Xu, Yichun Yin, Lifeng Shang, Feng Wen, Boxing Chen, Yufei Cui

机构 * Huawei Canada（华为加拿大） ； McGill University（麦吉尔大学） ； Université de Montréal（蒙特利尔大学） ； Huawei Equal Contribution（华为同等贡献） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出MATCH框架，通过高效检索系统动态集成上下文信息来增强稀疏注意力机制，在长上下文任务中提升性能并保持效率。

Comments ACL 2026 Main Conference

Situation Perception: A Necessary Primitive to Artificial Superintelligence

情境感知：通向超级人工智能的必要基础

Ziqin Yuan, Jaymari Chua

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出情境感知（situation perception）是通向超级人工智能的关键缺失能力，包括抽象预测、长期压缩记忆和目标驱动的主动学习，并分析了当前大语言模型的不足及相应测试方法。

Mandol: An Agglomerative Agent Memory System for Long-Term Conversations

Mandol：一种用于长期对话的聚合式智能体记忆系统

Yuhan Zhang, Zhiyuan Guo, Ziheng Zeng, Wei Wang, Wentao Wu, Lijie Xu

机构 * Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所） ； Microsoft Research（微软研究院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 提出Mandol聚合式记忆系统，通过统一内存原生架构整合碎片化记忆，结合层次化记忆模型、聚合语义数据结构与量化查询机制，在长期对话基准上取得最佳准确率并实现5.4倍检索加速。

Comments 10 pages, 3 figures

DeepTrans Studio: Turning Expert Interventions into Shared Team Knowledge in Agentic Translation Workflows

DeepTrans Studio：将专家干预转化为智能翻译工作流中的团队共享知识

Ziyang Lian, Qingya Zhang, Hao Wang, Huiwen Xiong, Qi Yang, Lingyi Meng, Xiaoyi Gu, Rui Wang

机构 * School of Computer Engineering and Science, Shanghai University（上海大学计算机工程与科学学院） ； School of Foreign Languages, East China Normal University（华东师范大学外国语言学系） ； School of Foreign Studies, Shanghai University（上海大学外国语言学院） ； Department of Computer Science and Engineering, Shanghai Jiao Tong University（上海交通大学计算机科学与工程学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出DeepTrans Studio协作翻译平台，通过让专家在智能工作流中干预并保存决策到共享记忆，将一次性修正转化为可复用的团队知识，解决翻译协作中知识孤岛问题。

Comments 4 pages, 2 figures. Accepted to CSCW 2026 Demo. Code and demo video: https://github.com/hint-lab/deeptrans-studio, https://youtu.be/cNpafhHAEjg

When Does Sparsity Mitigate the Curse of Depth in LLMs

当稀疏性如何缓解大语言模型中的深度诅咒

Dilxat Muhtar, Xinyuan Song, Sebastian Pokutta, Max Zimmer, Nico Pelleriti, Thomas Hofmann, Shiwei Liu

机构 * Max Planck Institute for Intelligent Systems（马克斯·普朗克智能系统研究所） ； ELLIS Institute Tübingen（ELLIS图宾根研究所） ； ETH Zürich（苏黎世联邦理工学院） ； Tübingen AI Center（图宾根人工智能中心） ； Zuse Institute Berlin（柏林祖泽研究所） ； Technical University of Berlin（柏林工业大学） ； Emory University（埃默里大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文研究稀疏性机制如何缓解大语言模型深度诅咒，通过实验发现稀疏性可降低输出方差并提升层间区分度，提出训练深度有效LLM的实用规则，提升下游任务准确率4.6%。

Comments 32 pages, 29 figures

KernelFlume: Elastic Core-Attention Scaling for Agentic Long-Context Decoding

KernelFlume: 面向智能体长上下文解码的弹性核心注意力扩展

Guangyu Xiang, Xueze Kang, Lin Zhang, Wenxiang Lin, Shaohuai Shi, Yuxin Wang, Xiaowen Chu

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 针对智能体长上下文解码中突发性长上下文需求超出部署容量的问题，提出KernelFlume架构，通过解耦投影/FFN路径与核心注意力计算，实现无权重注意力节点的弹性扩展，在降低延迟的同时显著降低输出成本。

From Determinism to Delegation: AI-Native Software Engineering and the Evolution of the Agentic Engineer

从确定性到委托：AI原生软件工程与智能体工程师的演进

Mamdouh Alenezi

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 本文提出AI原生软件工程是范式转变，定义新职业角色“智能体工程师”，其核心工件从程序转向智能体系统，并分析工作单元、正确性和问责制的三大转变。

Memory Shot for Long-Term Dialogue

长期对话的记忆快照

Chunyi Peng, Haidong Xin, Xuanshuo Sheng, Xin Dai, Zhenghao Liu, Shuo Wang, Yukun Yan, Zulong Chen, Yu Gu, Ge Yu

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 提出MemShot方法，通过将对话片段渲染为结构化视觉记忆单元，利用模型内部视觉推理能力关联关键情节，实现高效长期对话建模，在LoCoMo和LongMemEval上取得稳定性能并实现70倍加速。

KISS Sorcar: A Stupidly-Simple General-Purpose and Software Engineering AI Assistant

KISS Sorcar：一个简单通用且软件工程友好的AI助手

Koushik Sen

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)

AI总结 KISS Sorcar基于KISS Agent Framework构建，通过五层代理架构解决传统AI助手的缺陷，实现高质量代码生成与多任务处理，测试显示其在Terminal Bench 2.0上的通过率较高。