语言大模型 / LLM

The Dark Room in the Reward Channel: Dense Prediction Rewards Collapse GRPO-Trained LLM Agents -- and The Channel, Not the Content, Decides What Works

奖励通道中的暗室：密集预测奖励使GRPO训练的大语言模型智能体崩溃——以及实际有效的方法

Yu Wang

专题命中 后训练与偏好优化 ：LLM(title,abstract)；分类 cs.LG

AI总结 研究发现密集预测奖励在GRPO训练下会使大语言模型智能体崩溃，通过单因素消融定位原因，提出方差分布标准，还通过受控信号传递矩阵对比奖励通道和辅助损失通道，表明奖励通道至多中性，辅助损失通道有优势。

DHRCL:Training Code LLMs with Dense Hierarchical Rewards and Curriculum Learning

DHRCL：使用密集分层奖励与课程学习训练代码大语言模型

Shuhang Wang, Ziming Li, Hui Cheng

专题命中 后训练与偏好优化 ：large language model(abstract)；language model(abstract)；post-training(abstract)；分类 cs.LG

AI总结 该研究提出DHRCL框架，通过分层奖励与自动阶段课程学习训练代码大语言模型，经多模型规模实验验证其优势稳定，优于多种基线方法。

Don't Peek at the Answer: Outcome-Masked Group Relative Policy Optimization for Label-Free RLVR

请勿偷看答案：用于无标签RLVR的结果掩码组相对策略优化

Yongshi Ye, Liang Zhang, Yidong Chen, Xiaodong Shi, Biao Fu

专题命中 后训练与偏好优化 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 该研究针对无标签RLVR中模型易强化答案标记的问题，提出OM-GRPO框架，解耦奖励估计与策略优化，结合对比增强奖励，在多推理基准及测试时训练场景中性能优于现有方法。

Comments 25 pages, 16 figures, and 9 tables

Know When to Stop: Segment-Level Credit Assignment for Reducing Overthinking

知止：用于减少过度思考的片段级信用分配

Chia-Hsuan Lee, Sihui Dai, Mingyang Zhou, Isha Slavin, Hsuan Su, Shi-Xiong Zhang, Sambit Sahu, William Campbell

机构 * Capital One（第一资本） 纠错

专题命中 后训练与偏好优化 ：language model(abstract)；分类 cs.CL

AI总结 提出DASH方法，通过将推理轨迹中的最终答案候选与真实值比较，实现片段级信用分配，减少推理语言模型过度思考行为，在AIME25上准确率达50.8%。

Verifiable Memory: Learning Unified Memory Management with Local and Global Verifiers for Large Language Model Agents

可验证记忆：为大语言模型智能体学习结合局部与全局验证器的统一记忆管理

Xiaolong Sun, Qichao Wang, Hangyu Li, Liang Chen

专题命中 长上下文与记忆 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 提出VerMem框架，用含七个原子操作的统一策略管理LTM等状态，结合局部与全局验证器训练，在多基准测试中性能与效率均优于基线。

A Graph Signal Processing Perspective on Numerical Sequence Representations in LLM In-Context Learning

大语言模型上下文学习中数值序列表示的图信号处理视角

Jiajun Bao, Zihao Qi, Toni J. B. Liu, Gurbir Arora, Raphaël Sarfati, Nicolas Boullé, Christopher J. Earls

机构 * Cornell University（康奈尔大学） ； Goodfire AI（古德火人工智能公司） ； Imperial College London（伦敦帝国学院） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 本文从图信号处理视角研究LLM上下文学习中数值序列的表示，发现数值推理的内部特征随上下文长度和输入动态复杂性变化，且在不同模型家族间一致。

Towards Improving Sequential Decision-Making in LLM Agents via Experience Memory

基于经验记忆提升大语言模型智能体的序列决策能力

Jakub Rada, Viliam Lisý

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究针对LLM智能体序列决策性能不足的问题，提出带经验记忆的智能体框架，通过对局后反思与规则提取，在不修改模型权重的情况下提升了井字棋任务的表现。

Comments 8 pages, 6 figures, 14 tables, 5 appendices, accepted at Neuro-Symbolic Intelligence for LLMs and Autonomous Agents workshop at IJCAI 2026

DP-MemView: A Memory Interface for Attribute-Level Transcript Privacy in Long-Term LLM Agents

DP-MemView：面向长期大语言模型智能体的属性级对话记录隐私的内存接口

Jong Wook Kim, Byoungjae Min, Kennedy Edemacu, Yoonhyuk Choi, Sae-Hong Cho, Beakcheol Jang

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；分类 cs.CL、cs.LG

AI总结 针对长期LLM智能体的自适应对话记录隐私威胁，提出差分隐私内存接口DP-MemView，经实验验证可在保留个性化和响应质量的同时降低隐私泄露风险。

Comments 18 pages, 2 figures, 9 tables

Injection-Execution Dissociation: A Mechanistic Evaluation of Persistent Memory Attacks and Defenses in Stateful LLM Agents

多层架构中的防御效果：对持久内存攻击状态机LLM代理的机制性评估

Jun Wen Leong

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI、cs.LG

AI总结 本文评估了六种防御措施在九个开源模型上的延迟触发攻击效果，发现输入级和检索级过滤器效果不佳，而内存层工具门控（Memory Sandbox）显著降低攻击成功率，揭示了不同防御类别的失效原因。

Comments v4: Added double dissociation (reasoning-mode ablation), content-layer defense (RATG), loaded-corpus frontier evaluation (21 models, 3 providers, N=40), 7B judge capability bound, reproducibility validity criterion, ethics/disclosure statement. Gemini 3.1 Pro Preview 95% ASR; GPT-5.1 regression (22.5%); tripartite vendor divergence. Code: github.com/junwenleong/stateful-agent-security-eval

MAFIA: Query-Only Memory Attacks via Probing and Factual Injection against Audited LLM Agents

MAFIA：针对经审计的大语言模型智能体的、基于探测与事实注入的仅查询内存攻击

Jiaming Chen, Yisen Gao, Yanping Li, Zifan Liu, Yumeng Zhang, Jun Zhang

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 本研究针对经审计的LLM智能体，提出MAFIA攻击框架，通过放置策略与伪装有效载荷实现高攻击成功率，大幅降低审计检测率，揭示智能体内存系统的关键漏洞。

Comments 17 pages, 5 figures

TimeRLM: Recursive Language Models Enable Precise Anomaly Localization in Long-Context Time-Series

TimeRLM：递归语言模型可实现长时序数据中的精准异常定位

Nicolas Zumarraga, Lorenzo Steno, Ning Wang, Max Rosenblattl, Thomas Kaar, Maxwell A. Xu, Kevin O'Sullivan, Markus Kreft, Elgar Fleisch, Paul Schmiedmayer, Patrick Langer, Robert Jakob

专题命中 长上下文与记忆 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.LG

AI总结 提出TimeRLM（基于递归语言模型的时序异常定位框架），结合强化学习后训练后，在合成基准AnomalyXL及真实世界数据上，均优于现有时序语言模型，可实现长时序数据的精准异常定位。

Comments Open source code and datasets: https://github.com/OpenTSLM/TimeRLM

AgenticSCR: An Autonomous Agentic Secure Code Review for Immature Vulnerabilities Detection

AgenticSCR: 一种用于检测初期漏洞的自主代理安全代码审查

Wachiraphan Charoenwet, Kla Tantithamthavorn, Patanamon Thongtanunam, Hong Yi Lin, Minwoo Jeong, Ming Wu

机构 * The University of Melbourne（墨尔本大学） ； Monash University（莫纳什大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 AgenticSCR通过结合LLMs、自主决策和语义记忆，有效检测预提交阶段的初期漏洞，优于传统SAST工具和静态LLM基线。

Comments Accepted at the 41st IEEE/ACM International Conference on Automated Software Engineering (ASE'26 Industry-Track)

Heterogeneous LLM Serving with General-Purpose Processing-Near-Memory for Retrieval-Based Sparse Attention

面向基于检索的稀疏注意力的通用近内存处理异构大语言模型服务

Hyungkyu Ham, Junhyeong Bae, Seungheon Lee, Myeongjae Jeon, Gwangsun Kim

专题命中 长上下文与记忆 ：LLM(title,summary_cn)

AI总结 本文针对前沿LLM的基于检索的稀疏注意力需求，提出异构解码服务系统KARAT，结合PNM与OFMS、CMR优化，大幅提升吞吐量与每TDP性能。

Steganalysis of Adaptive Covert Collusion in Tool-Using Agent Populations: A Black-Box, Cross-Principal Approach

使用工具的智能体群体中自适应隐式合谋的隐写分析：一种黑盒跨主体方法

Mohamed Chahine Ghanem

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 本研究针对使用工具的LLM智能体群体的自适应隐式合谋，构建结合多类方法的黑盒隐写分析检测器，开展红蓝对抗实验，绘制检测容量边界并发现新的规避手段。

Comments 10 pages

Autoreflection: How Agentic Strange Loops Turn Human Culture into AI Infrastructure

自反：智能体的奇异循环如何将人类文化转化为AI基础设施

Holly Lewis

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；分类 cs.AI；large language model(comments)；language model(comments)

AI总结 本文提出自反概念，以LLM智能体为研究对象，通过Moltbook平台案例验证其行为标准，发现智能体将人类文化转化为自身AI基础设施。

Comments 35 pages. Also available at https://philarchive.org/rec/LEWAHA. Keywords: autoreflection, AI agents, agentic AI, LLM agents, generative agents, large language models, multi-agent systems, agent societies, Moltbook, OpenClaw, situational awareness, in-context learning, philosophy of mind, emergent behavior, computational social science, identity, memory

Distractor-Aware Truncation: Disentangling Context-Length Effects from Signal Loss in Long-Context LLM Benchmarks

干扰项感知截断：在长上下文大语言模型基准测试中分离上下文长度效应与信号损失

Mohsen Arjmandi

专题命中 长上下文与记忆 ：LLM(title)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本研究通过对比两种截断协议测试长上下文基准，发现朴素截断的性能下降源于信号丢失，干扰项感知截断可保留性能，强调需明确区分信号与干扰项以研究上下文长度效应。

Comments 14 pages, 2 figures. Code and data: https://github.com/evolutionIdGmbH/memoreach

Metis: Memory Foundation Model

Metis：记忆基础模型

Zeyu Zhang, Ziliang Guo, Yihang Sun, Xichong Zhang, Xixuan Hao, Zehao Lin, Yang Zhang, Xiaoyan Zhao, Tong Shen, Bo Tang, Zhi-Qin John Xu, Junchi Yan, Haofen Wang, Xu Chen, Feiyu Xiong, Zhiyu Li, Tat-Seng Chua

机构 * MemTensor (Shanghai) Technology Co., Ltd.（墨芯（上海）科技有限公司） ； Renmin University of China（中国人民大学） ； National University of Singapore（新加坡国立大学） ； Shanghai Jiao Tong University（上海交通大学） ； Tongji University（同济大学） 纠错

专题命中 长上下文与记忆 ：foundation model(title,abstract)；分类 cs.CL、cs.LG

AI总结 该研究提出首个记忆基础模型原型Metis，赋予基础模型原生记忆能力，通过新架构与优化目标实现，经实验验证其具备原生记忆能力并发布相关资源。

Comments 46 pages, 11 figures, 16 tables

UniEvo-RS: Omni-Prompt Unified Remote Sensing Segmentation with Representative Exemplar-Driven Prototype Evolution

UniEvo-RS：基于代表性示例驱动原型演化的全提示统一遥感分割

Kunquan Zhang, Peilang Li, Xikun Hu, Yunkai Yang, Yushan Zou, Zhiwei Zhang, Runmin Dong

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；language model(abstract)；prompting(abstract)

AI总结 UniEvo-RS是配备代表性示例驱动原型演化的全提示统一遥感分割框架，通过多指令提示数据集与原型演化机制，在批量标注中对未见过的类别实现无需训练的精度提升，性能达当前最优。

Comments 18 pages, 8 figures, 9 tables

Uncovering Spontaneous Physics Representations in In-Context Learning

揭示上下文学习中自发形成的物理表征

Yeongwoo Song, Jaeyong Bae, Dong-Kyum Kim, Hawoong Jeong

机构 * Department of Physics, KAIST（KAIST物理系） ； MPI for Security and Privacy, Germany（德国安全与隐私研究所） ； Center for Complex Systems, KAIST（KAIST复杂系统中心） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究以动力学预测为代理任务，发现大语言模型无需物理特定监督，就能在上下文学习中自发形成与能量等物理概念对齐的表征，且该表征对预测有贡献，为ICL机制提供了物理解释。

Comments 15 pages, 10 figures

Cross-Model KV Cache Transfer in LLM Families: A Closed-Form Linear Mapping for Prefill Reuse

大语言模型家族中的跨模型KV缓存迁移：用于预填充复用的闭式线性映射

Taekyung Heo, Rasoul Shafipour, Ritchie Zhao, Maximilian Golub, Mohammad Mahdi Kamani, Ritika Borkar, Makesh Tarun Chandran, Pantea Zardoshti, Bita Darvish Rouhani

专题命中 长上下文与记忆 ：LLM(title)；分类 cs.LG

AI总结 针对大语言模型家族切换时需重新预填充的问题，提出跨模型KV缓存迁移方法，通过闭式线性映射器复用源模型KV缓存，可提升预填充速度，保留大部分准确率，具备实用性。

Enhancing Tabular Learners with Context-Aware Semantic Embeddings

用上下文感知语义嵌入增强表格学习器

Günther Schindler, Maximilian Schambach, Johannes Höhne

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出CASE框架，结合LLMs语义理解与表格学习器统计能力，通过预填充Gemma 3表格语言模型KV缓存建立语义锚点，在CARTE等基准上显著提升表格学习器在语义丰富数据集的低数据场景性能。

PI-Mem: Pushing Long-Context Reasoning to 3.6M Tokens with Parallel-Iterative Memory

PI-Mem：通过并行迭代式记忆将长上下文推理推向360万 tokens

Dawei Liu, Haixu Song, Shuang Cheng, Shijie Wang, Haozheng Hou, Kaifeng Liu, Ermo Hua, Zhonghang Yuan, Zhijie Zhong, Yuchen Fan, Biqing Qi, Bowen Zhou

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 该研究提出PI-Mem并行迭代记忆机制，在360万 tokens长上下文下，使Qwen系列模型在HotpotQA基准上较循环记忆基线实现准确率提升与推理加速，打破长上下文推理的准确率-效率权衡。

PersonaTrail: Benchmarking Personalized Web Agents through Browsing Trails

PersonaTrail：通过浏览轨迹对个性化网络代理进行基准测试

Seungbin Yang, Chaewoon Ki, Dohyun Lee, Jaegul Choo, ChaeHun Park

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对用户指令不明确时网络代理需从浏览历史推断上下文的问题，引入PersonaTrail基准及偏好感知上下文记忆框架PACMem，利用浏览轨迹评估代理，实验证明PACMem优于现有基于记忆的基线。

Diagnosing and Mitigating Context Rot in Long-horizon Search

诊断和缓解长视野搜索中的上下文腐烂

Shijie Xia, Yikun Wang, Zhen Huang, Pengfei Liu

机构 * Shanghai Jiao Tong University（上海交通大学） ； Fudan University（复旦大学） ； SII GAIR 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究大语言模型在长视野任务中因上下文过长导致的性能退化（上下文腐烂），通过实验揭示其普遍性，并提出上下文管理和拒绝采样两种缓解策略。

TraceCAD: Trace-Guided Repair for Agentic CAD Generation

TraceCAD：面向智能体CAD生成的轨迹引导修复

Fengxiao Fan, Jingzhe Ni, Fan Sang, Xiaolong Yin, Yu Liu, Ruofeng Tong, Min Tang, Peng Du

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 TraceCAD是一种用于智能体CAD生成的轨迹引导修复方法，通过引入持久状态等机制提升了CAD生成的几何质量与修复可靠性，在DeepCAD基准测试中取得了良好效果。

Comments 18 pages, 7 figures; includes supplementary material

MutMem: Cryptographically Authorized Mutation in Persistent Agent Memory

MutMem：持久智能体内存中的密码学授权突变

Walid Saidi

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本研究针对持久智能体内存的授权与防篡改问题，提出HOM-AIMOS中的MutMem协议，经实验验证其在多个基准任务中表现良好，可有效抵御中毒攻击。

Comments https://github.com/wallidsaydi-creator/HOM-AIMOS. 32 Pages

When Memory Becomes Authority: Benchmarking Authority Collapse at the Memory Consolidation Boundary

当记忆成为权威：在记忆整合边界处对权威崩溃进行基准测试

Qiuyang Zhan, Rui Zhang, Sheng Guo, Lepeng Zhao, Zhuotao Liu

机构 * Tsinghua University（清华大学） ； East China Normal University（华东师范大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)；分类 cs.AI

AI总结 本研究推出AuthMem-Bench基准，发现智能体记忆整合存在权威崩溃问题，自动保留权威标签可大幅降低未授权动作率，证明记忆适配需同时保留权威信息。

Comments 38 pages, 2 figures

$π$-Attention: Online Efficient Sparse Transformers for Long-Context Modeling

π-注意力：用于高效长上下文建模的周期性稀疏变换器

Pike D. Liu, Chang Liu, Yanxuan Yu

机构 * University of California - Los Angeles（加州大学洛杉矶分校） ； Columbia University（哥伦比亚大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出π注意力，通过周期性稀疏结构实现高效长上下文建模，相比环形注意力在接收场增长上更优，且在相同上下文长度下使用更少的GPU。

OR-Agent: Bridging Evolutionary Search and Structured Research for Automated Algorithm Discovery

OR-Agent：连接进化搜索与结构化研究以实现自动化算法发现

Qi Liu, Ruochen Hao, Can Li, Wanjing Ma

机构 * Key Laboratory of Road and Traffic Engineering of the Ministry of Education（教育部道路与交通工程重点实验室） ； College of Transportation, Tongji University（同济大学交通运输学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.AI

AI总结 OR-Agent通过结构化树形工作流和进化-系统化构想机制，实现自动化算法发现的高效探索与科学发现。

Evaluating LLM-Based Goal Extraction in Requirements Engineering: Prompting Strategies and Their Limitations

评估基于大语言模型的目标提取在需求工程中的应用：提示策略及其局限性

Anna Arnaudo, Riccardo Coppola, Maurizio Morisio, Flavio Giobergia, Andrea Bioddo, Angelo Bongiorno, Luca Dadone

机构 * Department of Control and Computer Engineering（控制与计算机工程系） 纠错

专题命中 推理与问题求解 ：LLM(title,summary_cn)；prompting(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 本文探讨了通过三个阶段自动提取功能目标以实现目标导向的需求工程，提出基于工程提示的LLM链，实验表明反馈循环机制在零样本学习中表现更优，但提示策略仍是性能限制因素。

Comments 11 pages, 1 figure. This contribution will be published in the conference proceedings of EASE 2026 Conference (https://conf.researchr.org/home/ease-2026/prompt-se-2026)