语言大模型 / LLM

Beyond Memory: A Templated Substrate for Heterogeneous Collaborative Knowledge Work with LLM Agents

超越记忆：一种用于异构协作知识工作的带大语言模型代理的模板化基础架构

Priscila Saboia Moreira, Christopher R. Sweet

机构 * University of Notre Dame（圣母大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；分类 cs.AI

AI总结 研究指出知识工作成果难传承，大语言模型代理无持久记忆。提出llm-wiki-memory-template，它是异构协作知识工作基础架构，沿多人类、多代理、多领域三个轴，通过案例研究展示其能保留失败路径等，解决负面结果丢失问题。

Comments 15 pages, 3 figures, 1 table

Revisiting the Relation Between Language Model Perplexity and ASR Word Error Rate for Modern End-to-End Speech Recognition

重新审视现代端到端语音识别中语言模型困惑度与ASR单词错误率之间的关系

Mohammad Zeineldeen, Albert Zeyer, Haoran Zhang, Robin Schmitt, Ralf Schlüter, Hermann Ney

机构 * AppTek.ai GmbH ； Machine Learning and Human Language Technology Group, Faculty of Computer Science, RWTH Aachen University（机器学习与人类语言技术小组，计算机科学学院，亚琛工业大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；LLM(abstract,abstract_cn)；large language model(abstract)；分类 cs.CL

AI总结 本文重新审视现代端到端ASR系统中语言模型困惑度与ASR单词错误率的关系，研究外部语言模型对系统的作用、PPL-WER关系及相关影响因素，还探讨内部语言建模，发现ILM减法改变关系，强调解释外部LM质量影响时要考虑解码器内部LM。

Comments Submitted to SLT 2026

Your Agent's Memories Are Not Its Own: Forged Reasoning Attacks on LLM Agent Memory and Defenses

你的智能体记忆并非其自身所有：针对大语言模型智能体记忆的伪造推理攻击及防御

Neeraj Karamchandani, Piyush Nagasubramaniam, Sencun Zhu, Dinghao Wu

机构 * The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究针对大语言模型智能体记忆伪造推理的攻击，提出FARMA攻击方法，通过规避语言伪造推理痕迹并强化，还引入SENTINEL防御管道，实验表明该防御能有效降低攻击成功率。

Comments Preprint. 10 pages, 2 figures, 4 tables

ReContext: Recursive Evidence Replay as LLM Harness for Long-Context Reasoning

ReContext: 递归证据重放作为大语言模型的长上下文推理工具

Yanjun Zhao, Ruizhong Qiu, Tianxin Wei, Yuanchen Bei, Zhining Liu, Lingjie Chen, Ismini Lourentzou, Hanghang Tong, Jingrui He

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出一种免训练推理方法ReContext，通过模型内部相关性信号构建查询条件证据池并在最终生成前重放，以提升长上下文推理中的证据利用，无需外部记忆或上下文剪枝。

MosaicKV: Serving Long-Context LLM with Dynamic Two-D KV Cache Compression

MosaicKV: 通过动态二维KV缓存压缩服务长上下文LLM

Sheng Qiang, Ruiwei Chen, Yinpeng Wu, Jinyu Gu, Zhichao Hua, Yubin Xia, Binyu Zang, Haibo Chen

机构 * Institute of Parallel and Distributed Systems, Shanghai Jiao Tong University（上海交通大学并行与分布式系统研究所） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.LG

AI总结 提出MosaicKV系统，利用动态二维KV缓存压缩解决长上下文服务中的内存瓶颈，通过细粒度稀疏性和压缩管理实现高吞吐和低延迟，在H800 GPU上取得最高16倍注意力加速和3倍内存节省。

Comments 15 pages, 10 figures

Self-GC: Self-Governing Context for Long-Horizon LLM Agents

Self-GC：面向长周期LLM智能体的自管理上下文

Xubin Hao, Hongjin Meng, Xin Yin, Jiawei Zhu, Chenpeng Cao

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出Self-GC框架，通过将工具结果、文件等上下文对象索引化，并利用侧信道规划器进行折叠、掩码和剪枝操作，实现长周期智能体的上下文生命周期管理，显著减少前缀令牌且不影响未来延续。

Hypothesis-Driven Skill Optimization for LLM Agents

假设驱动的技能优化用于LLM智能体

Fangxin Shang, Yehui Yang

机构 * AI Lab, Qifu Technology（奇富科技人工智能实验室） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出HDSO框架，通过可证伪假设与验证机制从稀疏轨迹中提取可靠技能，无需训练，在ALFWorld上提升平均成功率6.9-7.1个百分点。

CNnotator: LLM-Guided Memory Safety Annotation Synthesis

CNnotator: LLM引导的内存安全注释合成

Twain Byrnes, Mike Dodds

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Galois, Inc.（Galois公司） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出CNnotator工具，利用大语言模型自动生成CN规范来标注C代码的内存使用模式，OpenAI o3模型首次尝试成功率达90%，表明AI辅助注释对实际C代码库可行。

Comments 6 pages. Published at ReCode 2026 (1st Workshop on Code Translation, Transformation, and Modernization), co-located with ICSE 2026. This version corrects the description of the property-based testing backend (Bennet, built on Fulminate) relative to the published version

Journal ref Proceedings of the 1st Workshop on Code Translation, Transformation, and Modernization (ReCode '26), April 12-18, 2026, Rio de Janeiro, Brazil. ACM, New York, NY, USA, 6 pages

Continual LLM Upcycling: A Predictor-Gated Bank-Wise Sparsity Training Recipe for Dense-to-Sparse LLMs

持续LLM升级：一种用于稠密到稀疏LLM的预测器门控银行级稀疏训练方案

Ruixuan Huang, Jinyuan Shi, Hantao Huang, Yifan Huang, Ziyi Guan, Hao Zeng, Ian En-Hsu Yen, Minghui Yu

机构 * Nanyang Technological University（南洋理工大学） ； Salesforce AI ； Huawei Noah's Ark Lab（华为诺亚方舟实验室） 纠错

专题命中 长上下文与记忆 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出一种从稠密检查点构建通道稀疏大语言模型的持续训练方法，通过预测器门控稀疏SwiGLU FFN和银行级top-k规则实现4倍稀疏性，并修复长上下文失败模式。

VarRate: Training-Free Variable-Rate KV Cache Compression for Long-Context LLMs

VarRate：用于长上下文语言模型的免训练可变率键值缓存压缩

Shahrzad Esmat, Dhawal Shah, Ali Jannesari

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究长上下文LLM推理中KV缓存内存瓶颈问题，提出免训练的VarRate编解码器，依查询显著性为令牌分配可变低秩预算，无需训练，相比其他方法在准确率和开销上表现出色，是较强的匹配内存压缩器。

Comments 20 pages, 8 figures, 24 tables. Includes appendix with additional experiments and analyses

When Context Misleads: Surprisal, Energy and Attention Entropy as Metrics of Coherence Illusions in LLMs

当上下文误导：惊讶度、能量和注意力熵作为LLM中连贯性错觉的度量

Ece Takmaz, Nitin Kumar, Li Kloostra, Jakub Dotlacil

机构 * Utrecht University（乌得勒支大学） 纠错

专题命中 长上下文与记忆 ：LLM(title_cn,summary_cn)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究荷兰语LLM在连贯性错觉中的表现，使用惊讶度、注意力熵和能量指标揭示模型受干扰词影响而忽略不连贯的机制。

Post-Launch Capability Expansion of Vision-Language Models via Prompting for On-Orbit Spacecraft Inspection

通过提示实现视觉语言模型发射后能力扩展用于在轨航天器检测

Nicholas A. Welsh, Lennon J. Shikhman, Monty Nehru Attazs, Seemanthini K. Putane, Van Minh Nguyen, Ryan T. White

机构 * Florida Institute of Technology（佛罗里达理工学院） ； University of Florida（佛罗里达大学） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；prompting(title)；分类 cs.AI、cs.LG

AI总结 研究利用提示驱动的视觉语言模型在轨扩展语义能力，无需修改权重即可通过自然语言提示检测新航天器部件，在129张图像上零样本实例分割达到0.385 mAP@0.5。

Comments 5 pages, 1 figure, 2 tables. Equal contribution by Nicholas A. Welsh and Lennon Shikhman. Published in the CVPR2026 Workshop on AI4Space

From Rigid to Dynamic: Entropy-Guided Adaptive Inference for Long-Context LLMs

从刚性到动态：面向长上下文LLM的熵引导自适应推理

Zhanchao Xu, Haoyang Li, Qingfa Xiao, Fei Teng, Chen Jason Zhang, Lei Chen, Qing Li

机构 * Department of Computing, PolyU（香港理工大学计算学系） ； DSA, HKUST(GZ)（香港科技大学（广州）数据科学与分析学域） ； CSE, HKUST（香港科技大学计算机科学与工程学系） 纠错

专题命中 长上下文与记忆 ：LLM(title_cn,summary_cn)；分类 cs.CL、cs.AI

AI总结 提出EntropyInfer框架，利用注意力熵在预填充阶段自适应分配计算资源，并在解码阶段通过生成令牌压缩KV缓存，实现长上下文LLM的高效推理。

SoK: Intent-Oriented Systematization of Multi-Turn LLM Jailbreaks

SoK：面向意图的多轮大语言模型越狱系统化研究

Siyuan Li, Aodu Wulianghai, Zehao Liu, Xi Lin, Qinghua Mao, Haoyu Li, Xiang Chen, Siyuan Liang, Jun Wu, Jianhua Li, Dacheng Tao

专题命中 长上下文与记忆 ：LLM(title,summary_cn)；large language model(abstract)；language model(abstract)

AI总结 本研究提出面向意图的多轮LLM越狱分类法，发现攻击有效性取决于意图组织精细度，推动检测范围升级，表明轮级安全机制不足，需对应层级评估协议。

Selective KV Cache Protection for Noise-Resilient LLM Inference on Analog Compute-In-Memory Systems

面向模拟存算一体系统上抗噪声大语言模型推理的选择性键值缓存保护

Yuannuo Feng, Wenyong Zhou, Yuang Ma, Yizhe Chen, Wenshuai Yao, Yuxin Xie, Ngai Wong, Wang Kang

专题命中 长上下文与记忆 ：LLM(title,summary_cn)

AI总结 针对模拟存算一体系统上LLM推理的KV缓存易受硬件噪声影响的问题，本文首次开展相关系统研究，提出分层token保护策略，大幅降低噪声下的困惑度并提升编程行利用率。

Insecure Coding Preferences in Long-Term Memory: Security Risks for LLM-based Code Generation

长期记忆中的不安全编码偏好：基于大语言模型的代码生成的安全风险

Yuchen Chen, Wei Cheng, Yuan Xiao, Zhou Yang, Weifeng Sun, Chunrong Fang, Xiang Chen, Baowen Xu, David Lo, Zhenyu Chen

专题命中 长上下文与记忆 ：LLM(title,summary_cn)

AI总结 研究基于LLM的代码生成中，长期记忆里不安全编码偏好带来的安全风险，通过评估四种LLM在五种编程语言上的表现，发现其显著增加生成漏洞代码风险及存在警告差距，还评估了三种缓解策略并给出改进安全性的建议。

Comments Accepted to the 35th ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2026)

LogicHunter: Testing LLM Agent Frameworks with an Agentic Oracle

LogicHunter：使用智能预言机测试大语言模型代理框架

Minghui Long, Yanjie Zhao, Haoyu Wang

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 研究针对大语言模型代理框架测试不足问题，提出LogicHunter模糊测试框架。通过规范驱动生成有效极端输入，引入智能预言机解决预言机歧义。在三个框架上评估，发现众多未知错误，智能预言机精度高，远超基线方法。

MOA: A Profiling-Guided LLM Framework for Memory-Optimization Automation at Codebase Scale

MOA：一种基于剖析引导的LLM框架，用于代码库规模的内存优化自动化

Jiaxi Liang, Yuanxiang Shi, Zezhou Yang, Chenxiong Qian

专题命中 长上下文与记忆 ：LLM(title,title_cn)

AI总结 提出MOA框架，通过三个智能体自动检测和修复大规模代码库中的内存低效问题，在OpenHarmony上识别13种反模式，生成769个补丁，平均堆减少42.2%。

PACMS: Submodular Context Selection as a Pluggable Engine for LLM Agents

PACMS: 作为LLM代理可插拔引擎的子模上下文选择

Manu Ghulyani, Arunabh Singh, Karan Bharadwaj, Ankit Nath, Suranjan Goswami

专题命中 长上下文与记忆 ：LLM(title,title_cn)

AI总结 提出PACMS，一种基于子模函数最大化的上下文选择方法，在提示组装时按相关性从会话、记忆和工具输出中挑选内容，替代截断机制，提升长对话中的信息保持能力。

LLM-Based Digital Twin Intelligence for Application-Aware Network Selection in 6G Heterogeneous Wireless Networks

基于大语言模型的数字孪生智能：面向6G异构无线网络中应用感知的网络选择

Brahim Mefgouda, Anis Bara, Lina Bariah, Hang Zou, Yuzhi Yang, Merouane Debbah

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)

AI总结 提出一种基于大语言模型的数字孪生框架，通过融合物理传播、分组级QoS仿真和决策记忆，实现候选集演化下的稳定应用感知RAT选择，显著降低秩反转和切换次数。

Comments Submitted to an IEEE venue

Self-Correcting Long-Horizon Search Agents via Tree-Structured Memory

基于树状记忆的自修正长程搜索智能体

Aijun Yang, Qianxue Guo, Ziyi Huang, Yuxuan Chen, Shiyou Qian, Jian Cao

机构 * Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出ReTree树状记忆机制，解决LLM搜索智能体的上下文增长与错误推理问题，在四个基准上优于Full-Trajectory ReAct，准确率最高提升25.6个百分点。

SeDeM: Selective Decompression of Hidden-State Memories for Long-Context Question Answering

SeDeM：面向长上下文问答的隐藏状态记忆选择性解压

Maryam Haghifam, Jason Cong, Yizhou Sun

机构 * University of California, Los Angeles（加利福尼亚大学洛杉矶分校） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 本研究针对LLM长上下文推理成本高、证据利用不可靠的问题，提出SeDeM选择性解压框架，通过解耦记忆存储与解码器条件，在1B、3B主干的四个长上下文QA基准上，优于压缩基线及全上下文微调方法，还提升了解码效率。

Towards Root Memories: Benchmarking and Enhancing Implicit Logical Memory Retrieval for Personalized LLMs

迈向根记忆：面向个性化大语言模型的隐式逻辑记忆检索基准与增强

Hongxun Ding, Xiang Yu, Chengbing Wang, Jianfei Xiao, Keqin Bao, Wenjie Wang, Xiangnan He

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 针对现有记忆系统依赖语义相似性而忽略逻辑关键记忆的问题，构建首个高质量基准IMLogic，并提出根记忆表示与RootMem框架，通过结构化逻辑记忆提升个性化LLM检索性能。

Revelio: Cost-Efficient Agentic Memory Safety Vulnerability Detection For Repository-Scale Codebases

Revelio: 面向仓库级代码库的高性价比智能体内存安全漏洞检测

Yiwei Hou, Hao Wang, Muxi Lyu, Marius Momeu, Eric Nguyen, Taige Yang, Koushik Sen, Dawn Song, David Wagner

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出Revelio框架，通过生成可执行漏洞证明并用确定性消毒器验证，结合低成本LLM和轻量静态分析，在仓库级代码库中高效发现内存安全漏洞，7个项目中19个新漏洞，成本约300美元。

A Topology-Aware, Memory-Centric Architecture that Separates Root-Cause Derivation from Root-Cause Explanation

一种拓扑感知、以记忆为中心的架构，将根本原因推导与根本原因解释分离

Momil Seedat

机构 * Independent Research Prototype（独立研究原型） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 提出OPS CORTEX多智能体原型，通过四层操作记忆分离根本原因推导（基于依赖图与阈值时序）与解释（LLM），解决微服务故障诊断中上下文丢失问题。

Neuromorphic Diffusion Language Models: Addressing Compute and Memory Bottlenecks via Sparsity and Block Denoising

神经形态扩散语言模型：通过稀疏性和块去噪解决计算和内存瓶颈

Dengyu Wu, Clement Ruah, Jiechen Chen, Bipin Rajendran, Osvaldo Simeone

机构 * King’s College London（伦敦国王学院） ； Institute for Intelligent Networked Systems (INSI), Northeastern University London（伦敦东北大学智能网络系统研究所） 纠错

专题命中 长上下文与记忆 ：language model(title,abstract)；LLM(abstract_cn)；large language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对自回归大语言模型推理低效问题，提出神经形态掩码扩散语言模型，结合块扩散与脉冲神经形态计算，利用脉冲诱导稀疏性减少参数流量和计算，开发模型分析协同效应，实验表明该模型在能源效率和吞吐量上有显著提升。

Comments Accepted for presentation at 2026 IEEE Workshop on Signal Processing Systems (SiPS)

SyRuP: Enhancing System-Prompt Following via Reward-Guided Prediction in LLM Decoding

SyRuP：通过大语言模型解码中的奖励引导预测增强系统提示遵循

Seoyeon Kim, Minjae Kang, Jaehyung Kim

机构 * Yonsei University（延世大学） 纠错

专题命中 长上下文与记忆 ：LLM(title)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 研究如何增强大语言模型对系统提示的遵循，提出SyRuP框架，通过训练交叉注意力奖励头产生令牌级遵循分数，推理时结合多种信号对候选重新排序，实验表明该方法能有效提升系统提示遵循度且开销适度。

Comments under review, 23 pages

CAMeR: Keyword-Gated Hybrid Activation for Adaptive Memory Retention in LLM Agents

CAMeR：用于大语言模型智能体中自适应记忆保留的关键词门控混合激活

Haowen Lai

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究大语言模型智能体记忆问题，提出CAMeR框架，结合关键词门控混合激活与自适应权重动态。通过CAMeR-Bench测试，表明其关键词门控效果好，能有效节省令牌并提高检索精度，证明混合符号-神经门控可实现自适应记忆保留。

MILES: Modular Instruction Memory with Learnable Selection for Self-Improving LLM Reasoning

MILES：用于自我改进的语言模型推理的具有可学习选择的模块化指令内存

Ruilin Tong, Dong Gong

机构 * University of New South Wales（新南威尔士大学） 纠错

专题命中 长上下文与记忆 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 研究针对LLMs测试时推理问题，提出MILES框架，通过动态扩展内存及正确性优化的内存组合，利用模块化内存单元与可学习选择头实现粗到细检索机制，实验表明该框架在性能、效率及权衡上表现出色。

RUTA: Principled Visual Token Allocation via Rate-Utility Optimization

RUTA：基于率-效用优化的原则性视觉令牌分配方法

Jian Zou, Xiaoyu Xu, Zhihua Wang, Yilin Wang, Balu Adsumilli, Kede Ma

机构 * City University of Hong Kong（香港城市大学） ； Google Inc.（谷歌公司） 纠错

专题命中 长上下文与记忆 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)

AI总结 针对视觉语言模型因长视觉令牌序列导致的LLM侧计算和内存成本过高问题，提出RUTA方法，仅用2.0%、4.2%的视觉令牌，分别在LLaVA-NeXT-7B、Qwen3-VL-8B上保留88.2%、94.4%的任务性能。