语言大模型 / LLM

Semi-Automated Knowledge Engineering and Process Mapping for Total Airport Management

半自动化知识工程与过程映射用于整体机场管理

Darryl Teo, Adharsha Sam, Chuan Shen Marcus Koh, Rakesh Nagi, Nuno Antunes Ribeiro

机构 * Aviation Studies Institute（航空研究所） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种半自动方法，通过符号知识工程与生成式大语言模型的双重融合，构建领域导向的知识图谱，以解决机场运营文档复杂性问题，并提升流程依赖关系的恢复能力。

Mi:dm K 2.5 Pro

KT Tech innovation Group

专题命中 长上下文与记忆 ：LLM(abstract)；post-training(abstract)；SFT(abstract)；分类 cs.CL、cs.AI

MERIT: Memory-Enhanced Retrieval for Interpretable Knowledge Tracing

MERIT: 用于可解释知识追踪的记忆增强检索

Runze Li, Kedi Chen, Guwei Feng, Mo Yu, Jun Wang, Wei Zhang

机构 * School of Computer Science and Technology, East China Normal University（东华师范大学计算机科学与技术学院） ； Shanghai Innovation Institute（上海创新研究院） ； WeChat AI, Tencent（微信AI，腾讯） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 MERIT提出一种无需训练的框架，结合冻结LLM推理与结构化教学记忆，通过语义去噪将学生分类为潜在认知模式，并构建模式库生成显式推理依据，提升教育诊断的可解释性和效率。

Improving Coherence and Persistence in Agentic AI for System Optimization

提升系统优化代理AI的连贯性与持续性

Pantea Karimi, Kimia Noorbakhsh, Mohammad Alizadeh, Hari Balakrishnan

机构 * MIT（麻省理工学院） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Engram架构，通过解耦长周期探索与单一上下文窗口约束，提升代理AI在多领域系统优化中的连贯性和持续性。

Multi-Agent Debate with Memory Masking

具有记忆掩码的多智能体辩论

Hongduan Tian, Xiao Feng, Ziyuan Zhao, Xiangyu Zhu, Rolan Yan, Bo Han

机构 * TMLR Group, Hong Kong Baptist University（香港 Baptist 大学 TMLR 团队） ； Search Algorithm Group, WeChat, Tencent（微信搜索算法团队，腾讯） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出MAD-M$^2$框架，通过在每轮辩论前屏蔽错误记忆以提升多智能体辩论的鲁棒性，实验证明其在数学和逻辑推理任务中表现更优。

Comments ICLR 2026

MemArchitect: A Policy Driven Memory Governance Layer

MemArchitect：一种基于策略的记忆管理层

Lingavasan Suresh Kumar, Yang Ba, Rong Pan

机构 * Arizona State University（亚利桑那州立大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 MemArchitect通过引入规则化的记忆治理机制，解决大语言模型代理中的内存管理问题，提升自主系统可靠性和安全性。

Comments This is an on going research work and will be updated periodically

KernelSkill: A Multi-Agent Framework for GPU Kernel Optimization

KernelSkill：一种用于GPU内核优化的多智能体框架

Qitong Sun, Jun Han, Tianlin Li, Zhe Tang, Sheng Chen, Fei Yang, Aishan Liu, Xianglong Liu, Yang Liu

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 KernelSkill通过多智能体框架和双层记忆架构，实现高效GPU内核优化，取得显著速度提升。

How Much Do LLMs Hallucinate in Document Q&A Scenarios? A 172-Billion-Token Study Across Temperatures, Context Lengths, and Hardware Platforms

在文档问答场景中，大型语言模型会有多大的幻觉？一项跨温度、上下文长度和硬件平台的1720亿token研究

JV Roig

机构 * Kamiwaza AI 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究通过大规模评估揭示了大型语言模型在文档问答中幻觉率与温度、上下文长度及硬件平台的关系，发现模型选择和温度设置显著影响准确性与伪造率。

Comments 18 pages, 12 tables, 2 figures

LatentMem: Customizing Latent Memory for Multi-Agent Systems

LatentMem: 为多智能体系统定制潜在记忆

Muxin Fu, Xiangyuan Xue, Yafu Li, Zefeng He, Siyuan Huang, Xiaoye Qu, Yu Cheng, Yang Yang

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 LatentMem通过定制智能体特定的记忆和优化策略，提升了多智能体系统的性能表现。

LLEMA: Evolutionary Search with LLMs for Multi-Objective Materials Discovery

LLEMA：基于LLM的多目标材料发现进化搜索

Nikhil Abhyankar, Sanchit Kabra, Saaketh Desai, Chandan K. Reddy

机构 * Department of Computer Science, Virginia Tech（弗吉尼亚理工学院计算机科学系） ； Center of Integrated Nanotechnologies, Sandia National Laboratories（桑迪亚国家实验室集成纳米技术中心） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 LLEMA结合大语言模型与进化规则，通过多目标优化提升材料发现效率，实现高命中率和稳定性质的候选材料生成。

Comments ICLR 2026

Beyond a Million Tokens: Benchmarking and Enhancing Long-Term Memory in LLMs

超越一百万词：评估和增强LLM长期记忆的基准测试

Mohammad Tavakoli, Alireza Salemi, Carrie Ye, Mohamed Abdalla, Hamed Zamani, J Ross Mitchell

机构 * University of Alberta（阿尔伯塔大学） ； University of Massachusetts Amherst（马萨诸塞大学阿姆赫斯特分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LIGHT框架，通过增强LLM的三种记忆系统，提升其在长对话任务中的表现，实验显示平均提升3.5%-12.69%。

Forget Forgetting: Continual Learning in a World of Abundant Memory

遗忘遗忘：在充足记忆世界中的持续学习

Dongkyu Cho, Taesup Moon, Rumi Chunara, Kyunghyun Cho, Sungmin Cha

机构 * New York University（纽约大学） ； Seoul National University（首尔国立大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；instruction tuning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种轻量级方法，通过权重空间巩固在充足内存环境下提升持续学习性能，挑战传统假设并提供低计算成本的替代方案。

Comments 26 pages, 11 figures

Chain of Summaries: Summarization Through Iterative Questioning

链条式摘要：通过迭代提问进行摘要生成

William Brach, Kristián Košťál, Lukas Galke Poech

机构 * Slovak Technical University（斯洛伐克技术大学） ； University of Southern Denmark（南部丹麦大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 通过迭代提问生成摘要，CoS在多个数据集上超越现有方法，提供更高效的信息摘要。

KernelBlaster: Continual Cross-Task CUDA Optimization via Memory-Augmented In-Context Reinforcement Learning

KernelBlaster: 通过记忆增强的上下文强化学习实现持续的跨任务CUDA优化

Kris Shengjun Dong, Sahil Modi, Dima Nikiforov, Sana Damani, Edward Lin, Siva Kumar Sastry Hari, Christos Kozyrakis

机构 * NVIDIA ； University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 KernelBlaster通过记忆增强的上下文强化学习框架提升CUDA代码优化性能，实现跨多个GPU架构世代的高效优化。

Comments 15 pages, 33 pages with appendix

AllMem: A Memory-centric Recipe for Efficient Long-context Modeling

AllMem: 一种面向高效长上下文建模的记忆导向方法

Ziming Wang, Xiang Wang, Kailong Peng, Lang Qin, Juan Gabriel Kostelec, Christos Sourmpis, Axel Laborieux, Qinghai Guo

机构 * ACS Lab, Huawei Technologies（华为技术有限公司先进计算实验室） ； Huawei Switzerland（华为瑞士） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 AllMem通过结合滑动窗口注意力与非线性测试时训练内存网络，实现了高效长上下文建模，显著降低计算和内存开销，同时提升长程建模的鲁棒性。

MAPLE: A Sub-Agent Architecture for Memory, Learning, and Personalization in Agentic AI Systems

MAPLE：一种用于代理AI系统中记忆、学习和个性化的核心架构

Deepak Babu Piskala

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 MAPLE通过分解记忆、学习和个性化为独立子代理，提升代理AI系统的个性化能力，实验显示在个性化得分和特征纳入率上有显著提升。

Comments 12 pages, 5 figures. Accepted to ALA Workshop at AAMAS 2026. Code: [](https://github.com/prdeepakbabu/maple-framework)<https://github.com/prdeepakbabu/maple-framework>

Short-Context Dominance: How Much Local Context Natural Language Actually Needs?

短上下文主导：自然语言实际上需要多少局部上下文？

Vala Vakilian, Zimeng Wang, Ankit Singh Rawat, Christos Thrampoulidis

机构 * University of British Columbia（不列颠哥伦比亚大学） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 研究探讨了自然语言中短上下文预测的主导地位，并提出DaMCL方法用于检测长上下文序列，通过减少偏差提升模型性能。

Comments 38 pages, 7 figures, includes appendix and references

Stateless Yet Not Forgetful: Implicit Memory as a Hidden Channel in LLMs

无状态却非遗忘：隐式记忆作为LLM中的隐藏通道

Ahmed Salem, Andrew Paverd, Sahar Abdelnabi

机构 * Microsoft Security Response Center (MSRC)（微软安全响应中心） ； ELLIS Institute Tübingen and MPI for Intelligent Systems（图宾根ELLIS研究所和智能系统研究所） ； Tübingen AI Center（图宾根人工智能中心） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 研究提出隐式记忆机制，使LLM在无显式存储的情况下通过输出编码信息实现跨交互状态传递，展示其在时间炸弹等安全问题中的应用及影响。

Comments Accepted at IEEE SaTML 2026

MemPot: Defending Against Memory Extraction Attack with Optimized Honeypots

MemPot：通过优化的陷阱来防御内存提取攻击

Yuhao Wang, Shengfang Zhai, Guanghao Jin, Yinpeng Dong, Linyi Yang, Jiaheng Zhang

机构 * National University of Singapore（新加坡国立大学） ； Tsinghua University（清华大学） ； Southern University of Science and technology（南方科技大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 MemPot通过优化陷阱文档和理论验证，有效防御内存提取攻击，提升检测性能与效率。

FadeMem: Biologically-Inspired Forgetting for Efficient Agent Memory

FadeMem: 基于生物机制的高效代理记忆遗忘

Lei Wei, Xiao Peng, Xu Dong, Niantao Xie, Bin Wang

机构 * Alibaba International Digital Commerce Group（阿里巴巴国际数字商业集团） ； School of Software and Microelectronics（软件与微电子学院） ； Peking University（北京大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 FadeMem通过生物启发的主动遗忘机制，提升代理记忆的效率与存储容量，实现更有效的信息管理与多跳推理能力。

The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution

行动背后的缘由：通过代理归因揭示内部驱动因素

Chen Qian, Peng Wang, Dongrui Liu, Junyao Yang, Dadi Guo, Ling Tang, Jilin Mei, Qihan Ren, Shuai Shao, Yong Liu, Jie Fu, Jing Shao, Xia Hu

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Renmin University of China（中国人民大学） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通用代理归因框架，通过分层方法识别代理行为的内部驱动因素，提升代理系统的安全性和可问责性。

Empirical-MCTS: Continuous Agent Evolution via Dual-Experience Monte Carlo Tree Search

经验-MCTS：通过双经验蒙特卡洛树搜索实现连续智能体进化

Hao Lu, Haoyuan Huang, Yulin Zhou, Chen Li, Ningxin Zhu

机构 * JianChengXingYun Technology Co., Ltd.（健成星云科技有限公司） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.AI

AI总结 经验-MCTS通过双环框架实现连续智能体进化，结合局部探索与全局记忆优化，提升复杂推理任务性能。

Comments 9 pages, 5 figures

Experience-Driven Multi-Agent Systems Are Training-free Context-aware Earth Observers

基于经验的多智能体系统是无需训练的上下文感知地球观测者

Pengyu Dai, Weihao Xuan, Junjue Wang, Hongruixuan Chen, Jian Song, Yafei Ou, Naoto Yokoya

机构 * The University of Tokyo（东京大学） ； RIKEN AIP（日本理化学研究所AIP） ； Hokkaido University（北海道大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 GeoEvolver通过结构化交互使LLM代理无需训练即可获得地球观测专业知识，提升复杂任务的成功率。

Comments 21 pages, 6 figures

Live-Evo: Online Evolution of Agentic Memory from Continuous Feedback

Live-Evo: 从连续反馈中在线进化智能记忆

Yaolun Zhang, Yiran Wu, Yijiong Yu, Qingyun Wu, Huazheng Wang

机构 * Oregon State University（俄勒冈州立大学） ； AG2 AI（AG2人工智能） ； Penn State University（宾夕法尼亚州立大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Live-Evo通过在线进化记忆系统，在连续反馈中提升任务性能和市场收益。

Comments 13 pages

Post-LayerNorm Is Back: Stable, ExpressivE, and Deep

Post-LayerNorm 是回潮：稳定、富有表现力且深

Chen Chen, Lai Wei

机构 * ByteDance Seed（字节跳动种子） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.LG

AI总结 Keel通过采用Highway风格连接的Post-LN架构，在极端深度下实现稳定训练，提升LLM的表达能力和扩展性。

S$^3$-Attention:Attention-Aligned Endogenous Retrieval for Memory-Bounded Long-Context Inference

S$^3$-Attention：基于注意力对齐的内源检索用于内存受限的长上下文推理

Qingsen Ma, Dianyun Wang, Yaoye Wang, Lechen Ning, Sujie Zhu, Xiaohang Zhang, Jiaming Lyu, Linhao Ren, Zhenbo Xu, Zhaofeng He

机构 * bupt（北京邮电大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.CL、cs.LG

AI总结 S3-Attention通过内存优先的内源检索方法，解决长上下文推理中的内存和噪声效率问题，提升模型在信息密集场景下的鲁棒性。

SagaScale: A Realistic, Scalable, and High-Quality Long-Context Benchmark Built from Full-Length Novels

SagaScale: 一种真实、可扩展且高质量的长上下文基准，基于完整小说构建

Guancheng Du, Yong Hu, Wenqing Wang, Yaming Yang, Jiaheng Gao

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 SagaScale基于完整小说构建，提供长上下文基准，通过自动化数据收集管道，评估12个LLMs和三种方法，揭示LLM在长上下文处理中的表现差异及Agentic RAG的改进效果。

ScamAgents: How AI Agents Can Simulate Human-Level Scam Calls

ScamAgents: 人工智能代理如何模拟人类水平的诈骗电话

Sanket Badhe

机构 * Rutgers University（罗格斯大学） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ScamAgent，一种基于LLM的多轮代理，能生成逼真诈骗电话脚本并模拟欺诈场景，揭示现有安全机制对代理威胁的不足，呼吁加强多轮安全审计和检测生成AI驱动的对话欺骗。

Comments Accepted at CAMLIS 25: Conference on Applied Machine Learning for Information Security. 19 pages, 3 figures

Warp-Cortex: An Asynchronous, Memory-Efficient Architecture for Million-Agent Cognitive Scaling on Consumer Hardware

Warp-Cortex: 一种异步、内存高效的用于百万智能体认知扩展的消费级硬件架构

Jorge L. Ruiz Williams

机构 * Warp Research（Warp研究） 纠错

专题命中 长上下文与记忆 ：LLM(abstract)；large language model(abstract)；language model(abstract)；分类 cs.AI、cs.LG

AI总结 Warp-Cortex通过异步架构和内存优化技术，实现百万智能体在消费级硬件上的高效认知扩展。

R-GenIMA: Integrating Neuroimaging and Genetics with Interpretable Multimodal AI for Alzheimer's Disease Progression

R-GenIMA：整合神经影像与基因组学的可解释多模态AI用于阿尔茨海默病进展

Kun Zhao, Siyuan Dai, Yingying Zhang, Guodong Liu, Pengfei Gu, Chenghua Lin, Paul M. Thompson, Alex Leow, Heng Huang, Lifang He, Liang Zhan, Haoteng Tang

机构 * Eli and Lilly company（艾利和利公司） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；prompting(abstract)；分类 cs.AI、cs.LG

AI总结 R-GenIMA通过整合神经影像与基因组学，利用可解释的多模态AI方法，实现了对阿尔茨海默病进展的精准预测与机制揭示。