语言大模型 / LLM

Automated Reformulation of Robust Optimization via Memory-Augmented Large Language Models

通过记忆增强的大语言模型实现鲁棒优化的自动化重述

Jinbiao Chen, Shuang Jin, Guoyun Zhang, Junyu Zhang, Guanyi Wang, Hanzhang Qin

机构 * Department of Industrial Systems Engineering and Management, National University of Singapore（新加坡国立大学工业系统工程与管理系） ； Department of Data and Systems Engineering, The University of Hong Kong（香港大学数据与系统工程系） ； Institute of Operations Research and Analytics, National University of Singapore（新加坡国立大学运筹与分析研究所） ； Agency for Science, Technology and Research (A*STAR)（科技研究局（A*STAR）） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出AutoREM框架，通过记忆增强提升鲁棒优化重述的准确性和效率，无需领域知识或参数更新，适用于不同基础大语言模型。

Self-Consolidating Language Models: Continual Knowledge Incorporation from Context

自持续语言模型：从上下文持续整合知识

Zekun Wang, Anant Gupta, Zihan Dong, Christopher J. MacLellan

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；post-training(abstract)

AI总结 本文提出自持续语言模型（SCoL），通过在训练后框架中利用上下文生成更新指令，实现持续知识整合，优于多种基线方法。

Comments 9 pages

When Agents Overtrust Environmental Evidence: An Extensible Agentic Framework for Benchmarking Evidence-Grounding Defects in LLM Agents

当智能体过度信任环境证据：一个可扩展的智能体框架，用于基准测试LLM智能体中的证据 grounding 缺陷

Strick Sheng, Ziyue Wang, Liyi Zhou

机构 * The University of Sydney（悉尼大学） ； Nanjing University（南京大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出EnvTrustBench框架，用于评估智能体在环境证据过时、错误或恶意时的可靠性问题，通过生成多个任务场景并验证结果，揭示证据 grounding 是智能体可靠性的重要挑战。

MemSearch-o1: Empowering Large Language Models with Reasoning-Aligned Memory Growth in Agentic Search

MemSearch-o1：通过基于推理的内存增长增强大语言模型的代理搜索

Sheng Zhang, Junyi Li, Yingyi Zhang, Pengyue Jia, Yichao Wang, Xiaowei Qian, Wenlin Zhang, Maolin Wang, Yong Liu, Xiangyu Zhao

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract_cn)

AI总结 MemSearch-o1通过基于推理的内存增长和回溯机制，解决代理搜索中的内存稀释问题，提升大语言模型的推理能力。

Mitigating Context-Memory Conflicts in LLMs through Dynamic Cognitive Reconciliation Decoding

通过动态认知协调解码缓解LLM中的上下文内存冲突

Yigeng Zhou, Wu Li, Yifan Lu, Yequan Wang, Xuebo Liu, Wenya Wang, Jun Yu, Min Zhang, Jing Li

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 长上下文与记忆 ：LLM(title_cn,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出动态认知协调解码方法，通过分析注意力图预测潜在冲突并选择解码路径，提升LLM在处理上下文内存冲突时的准确性和效率，同时构建ConflictKG基准测试集验证效果。

Comments Accepted by IEEE TASLP

$δ$-mem: Efficient Online Memory for Large Language Models

$δ$-mem: 高效的大型语言模型在线内存

Jingdi Lei, Di Zhang, Junxian Li, Weida Wang, Kaixuan Fan, Xiang Liu, Qihan Liu, Xiaoteng Ma, Baian Chen, Soujanya Poria

机构 * Nanyang Technological University（南洋理工大学） ； Fudan University（复旦大学） ； Mind Lab ； Shanghai Jiao Tong University（上海交通大学） ； The Chinese University of Hong Kong（香港中文大学） ； The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） 纠错

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 本文提出$δ$-mem机制，通过紧凑的在线状态与注意力计算直接耦合，提升模型在长文本任务中的表现，无需全微调或替换backbone。

Accelerating Suffix Jailbreak attacks with Prefix-Shared KV-cache

通过前缀共享KV缓存加速后缀劫持攻击

Xinhai Wang, Shaopeng Fu, Shu Yang, Liangyu Wang, Tianhang Zheng, Di Wang

机构 * King Abdullah University of Science and Technology（卡塔尔国王阿卜杜勒阿齐兹大学） ； Zhejiang University（浙江大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本文提出PSKV技术，通过共享前缀KV缓存减少后缀劫持攻击的计算开销，实验表明在五种广泛部署的LLM上，PSKV将推理时间减少40%，峰值内存使用减少50%。

Comments 27 pages, 7 figures, preprint

ROMER: Expert Replacement and Router Calibration for Robust MoE LLMs on Analog Compute-in-Memory Systems

ROMER：专家替换与路由校准以实现鲁棒的MoE大语言模型在模拟计算-内存系统中的应用

Wenyong Zhou, Yuannuo Feng, Yizhe Chen, Taiqiang Wu, Wendong Xu, Wenbo Qi, Zhengwu Liu, Wang Kang, Ngai Wong

机构 * The Department of Electrical and Computer Engineering, The University of Hong Kong（香港大学电子与计算机工程系） ； The School of Integrated Circuit Science and Engineering, Beihang University（北航集成电路科学与工程学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract_cn)；large language model(abstract)；language model(abstract)；post-training(abstract)

AI总结 ROMER通过专家替换和路由校准缓解模拟计算-内存系统中MoE大语言模型的噪声影响，显著降低困惑度。

Comments 11 pages, 5 figures, 4 tables

Training-Inference Consistent Segmented Execution for Long-Context LLMs

长上下文LLM的训练-推理一致分段执行

Xianpeng Shang, Jiang Li, Zehua Duo, Qianyi Cai, Xiangdong Su

机构 * College of Computer Science, Inner Mongolia University, Hohhot 010021, China ； National \& Local Joint Engineering Research Center of Intelligent Information Processing Technology for Mongolian, Hohhot 010021, China ； Inner Mongolia Key Laboratory of Multilingual Artificial Intelligence Technology, Hohhot 010021, China ； Thrust of Artificial Intelligence, The Hong Kong University of Science 纠错

专题命中 长上下文与记忆 ：LLM(title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出训练-推理一致的分段生成框架，通过统一训练和推理的分段前向执行语义，实现长上下文生成的高效与可扩展性。

Comments Accepted by ICML 2026. 19 pages, 6 figures, 3 tables

Harness Engineering as Categorical Architecture

利用工程作为范畴架构

Bogdan Banu

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI

AI总结 本文提出利用范畴架构三元组（G, Know, Phi）作为LLM代理的正式化框架，通过映射四个支柱到三元组组件，提供结构保证并验证了编译器在不同框架中的表现。

Layered Mutability: Continuity and Governance in Persistent Self-Modifying Agents

分层可变性：持续性与治理在持久自修改代理中的作用

Krti Tallam

机构 * Kamiwaza AI 纠错

专题命中 长上下文与记忆 ：pretraining(abstract)；post-training(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出分层可变性框架，分析持久自修改代理中行为持续性和治理挑战，指出突变速度、下游耦合强度、可逆性弱和可观测性低会导致层间不匹配，主要贡献是揭示了自修改代理的失效模式是组合漂移而非突变对齐。

Comments 17 pages, 2 figures, 3 tables. self-modifying agents; AI governance; identity drift; persistent memory; runtime adaptation; model editing Primary: cs.AI Cross-list: cs.LG, cs.CY

Classifier Context Rot: Monitor Performance Degrades with Context Length

分类器上下文旋转：通过上下文长度监控性能退化

Sam Martin, Fabien Roger

机构 * Anthropic Fellows Program（Anthropic fellows项目） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；post-training(abstract)；prompting(abstract)；分类 cs.AI

AI总结 研究发现当前前沿模型在长上下文情况下难以检测危险行为，通过提示技术可部分缓解此问题，强调长上下文退化对监控性能的影响。

SAGE: A Self-Evolving Agentic Graph-Memory Engine for Structure-Aware Associative Memory

SAGE：一种自演化代理图记忆引擎，用于结构感知的联想记忆

Juntong Wang, Haoyue Zhao, guanghui Pan, Xiyuan Wang, Yanbo Wang, Qiyan Deng, Muhan Zhang

机构 * Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） ； School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学校） ； School of Computer Science and Technology, Beijing Institute of Technology（北京理工大学计算机科学与技术学校） 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)；language agent(abstract)；分类 cs.AI

AI总结 SAGE通过自演化机制和图记忆引擎提升长期记忆能力，在多跳问答、开放领域检索等任务中表现出色，显著提高了证据恢复和检索效率。

SkillGraph: Skill-Augmented Reinforcement Learning for Agents via Evolving Skill Graphs

SkillGraph：通过演化的技能图增强代理的强化学习

Xiaoyuan Li, Moxin Li, Keqin Bao, Yubo Ma, Wenjie Wang, Dayiheng Liu, Fuli Feng

机构 * University of Science and Technology of China（中国科学技术大学） ； Alibaba Group（阿里巴巴集团） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 SkillGraph通过演化的技能图增强代理的强化学习，解决技能组合任务中的依赖识别和库维护问题，实验显示其在复杂任务中表现优异。

Comments Under Review

Route Before Retrieve: Activating Latent Routing Abilities of LLMs for RAG vs. Long-Context Selection

在检索前路由：激活大语言模型的潜在路由能力用于RAG与长上下文选择

Yiwen Chen, Kuan Li, Fuzhen Zhuang, Deqing Wang, Zhao Zhang, Liwen Zhang, Yong Jiang, Shuai Wang, Minhao Cheng

机构 * Beihang University（北航） ； HKUST（香港科技大学） ； Alibaba Group（阿里巴巴集团） ； Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本文提出Pre-Route框架，通过结构化推理提前决策，利用轻量级元数据进行任务分析和信息需求预测，实现可解释且高效的路由决策，实验表明其在成本效益上优于现有方法。

Behavioral Determinants of Deployed AI Agents in Social Networks: A Multi-Factor Study of Personality, Model, and Guardrail Specification

部署在社交网络中的AI代理行为决定因素：人格、模型和防护机制规范的多因素研究

Sarah Wilson, Diem Linh Dang, Usman Ali Moazzam, Shan Ye, Gail Kaiser

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文通过多因素实验研究，探讨AI代理在社交网络中的行为决定因素，发现人格设定对行为影响最大，模型和规则对语言风格和话题广度有显著影响。

Training Transformers for KV Cache Compressibility

训练用于KV缓存压缩性的Transformer

Yoav Gelberg, Yam Eitan, Michael Bronstein, Yarin Gal, Haggai Maron

机构 * University of Oxford（牛津大学） ； Technion – Israel Institute of Technology（技术ion理工学院） ； AITHYRA ； NVIDIA 纠错

专题命中 长上下文与记忆 ：language model(abstract)；pretraining(abstract)；分类 cs.LG

AI总结 本文提出KV-CAT训练方法，通过训练时的KV稀疏化策略，引导模型学习可压缩的表示，提升下游压缩方法的质量-预算权衡。

Comments 32 pages, 4 figures

Project-Level C-to-Rust Translation via Pointer Knowledge Graphs

基于指针知识图谱的项目级C到Rust翻译

Zhiqiang Yuan, Wenjun Mao, Zhuo Chen, Xiyue Shang, Chong Wang, Yiling Lou, Xin Peng

机构 * Fudan University（复旦大学） ； Nanyang Technological University（南洋理工大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本文提出基于指针知识图谱的项目级C到Rust翻译方法PtrTrans，通过增强代码依赖图的指针语义，提升生成Rust代码的安全性和正确性，实验表明其在安全性与功能性上均优于现有方法。

Comments Accepted by FSE'26

Grounding by Remembering: Cross-Scene and In-Scene Memory for 3D Functional Affordances

通过记忆实现 grounding：跨场景和场景内的记忆用于3D功能 affordances

Qirui Wang, Jingyi He, Yining Pan, Xulei Yang, Shijie Li

机构 * TUM（慕尼黑工业大学） ； A*STAR（新加坡科技研究局） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；prompting(abstract)

AI总结 本文提出AFFORDMEM框架，通过跨场景和场景内的记忆实现3D功能 affordances的grounding，无需微调和标注，提升AP50性能。

Beyond RAG for Agent Memory: Retrieval by Decoupling and Aggregation

超越RAG的代理记忆：通过解耦与聚合进行检索

Zhanghao Hu, Qinglin Zhu, Runcong Zhao, Di Liang, Hanqi Yan, Yulan He, Lin Gui

机构 * King’s College London（伦敦国王学院） ； Tencent, Yuanbao Team（腾讯元宝团队） 纠错

专题命中 长上下文与记忆 ：LLM(abstract_cn)；分类 cs.CL、cs.AI

AI总结 本文提出xMemory，通过解耦与聚合原则优化代理记忆检索，提升答案质量和推理效率。

Comments Project Address: https://zhanghao-xmemory.github.io/Academic-project-page-template/; Code Address: https://github.com/HU-xiaobai/xMemory

Executable Agentic Memory for GUI Agent

可执行代理记忆用于GUI代理

Zerui Qin, Sheng Yue, Xingyuan Hua, Yongjian Fu, Ju Ren

机构 * Tsinghua University, China（清华大学, 中国） ； Sun Yat-sen University, China（中山大学, 中国） 纠错

专题命中 长上下文与记忆 ：LLM(abstract_cn)；分类 cs.AI

AI总结 本文提出EAM，一种结构化知识图谱，通过检索与执行过程提升GUI规划的鲁棒性，实验显示其在AndroidWorld上优于现有基线模型，并显著降低token成本。

Context-Gated Associative Retrieval: From Theory to Transformers

上下文门控关联检索：从理论到变换器

Moulik Choraria, Argyrios Gerogiannis, Vidhata Jayaraman, Ankur Mani, Lav R. Varshney

机构 * UIUC（伊利诺伊大学香槟分校） ； University of Minnesota, Twin Cities（明尼苏达大学双城分校） ； Stony Brook University（石溪大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI

AI总结 本文提出一种两阶段关联记忆架构，通过上下文门在检索前和过程中重塑能量景观，理论证明其提升检索性能，并将理论应用于变换器，验证上下文学习作为门控检索的作用。

ECHO: Continuous Hierarchical Memory for Vision-Language-Action Models

ECHO：面向视觉-语言-动作模型的连续层次记忆

Yanbin Hu, Jin Cui, Jiayi Lu, Ruixuan Yang, Jun Ye, Boran Zhao, Xingyu Chen, Xuguang Lan, Pengju Ren

机构 * School of Software, Xi’an Jiaotong University（西安交通大学软件学院） ； School of Artificial Intelligence, Xi’an Jiaotong University（西安交通大学人工智能学院） ； State Key Laboratory of Human-Machine Hybrid Augmented Intelligence, Institute of Artificial Intelligence and Robotics, Xi’an Jiaotong University（西安交通大学人机混合增强智能国家重点实验室，人工智能与机器人研究院） 纠错

专题命中 长上下文与记忆 ：foundation model(abstract)

AI总结 本文提出ECHO框架，通过连续层次空间提升视觉-语言-动作模型在长周期任务中的表现，实现高效经验检索与泛化能力。