语言大模型 / LLM

From Cognitive Architectures to Language Agents: A Mechanism-Level Review of Lineage, Convergence, and Migration Gaps

从认知架构到语言智能体：谱系、融合与迁移差距的机制层面综述

Haodi Fan, Zucong Lan

专题命中 长上下文与记忆 ：language agent(title)；分类 cs.AI

AI总结 该综述连接多个认知架构与语言智能体系统，重构机制并编码相关关系，指出现代智能体部分功能已实现，最强机会在机制耦合，存在五个剩余组合，贡献了机制目录、证据深度框架及可证伪议程。

Comments 28 pages, 9 figures, 14 tables. Review article

Temporal Context Reinstatement Drives Episodic-Like Order Memory in Long-Context Language Models

时间上下文恢复驱动长上下文语言模型中的情景式顺序记忆

Mathis Pink, Vy Ai Vo, Qinyuan Wu, Jianing Mu, Javier Turek, Uri Hasson, Kenneth A. Norman, Sebastian Michelmann, Alexander Huth, Mariya Toneva

专题命中 长上下文与记忆 ：language model(title)；分类 cs.AI

AI总结 研究长上下文语言模型中情景式顺序记忆的机制，通过时间顺序记忆任务及新数据集，发现模型呈现与人类相同的距离效应，且性能依赖一维时间编码，由单个注意力头在检索时恢复，支持时间上下文恢复是重要机制。

DynaCalKV: Key-Value Cache Compression via Head Grouping and Adaptive Rank Allocation

DynaCalKV：通过头部分组和自适应秩分配实现键值缓存压缩

Tan T. Nguyen, Quan V. Dang

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 针对大语言模型KV缓存瓶颈问题，提出DynaCalKV框架，通过基于CKA相似性动态分组注意力头并自适应分配秩预算处理键缓存，值缓存采用ReCalKV方法优化，实验表明能减少键缓存参数且保持准确率，对MHA模型效果好，对GQA模型应用需更谨慎。

Disentangling Semantic Attention from Structural Bias in the Attention Manifold

在注意力流形中分离语义注意力与结构偏差

Pengkun Jiao, Bin Zhu, Jingjing Chen, Yu-gang Jiang

机构 * Fudan University（复旦大学） ； Singapore Management University（新加坡管理大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究多模态大语言模型中注意力机制对无信息视觉 tokens 关注过多的问题，提出无需训练的 SPAR 方法，通过净化噪声和重分配注意力，有效恢复真实视觉基础且计算开销小。

Embodied GPT-5.1: Evidence of a World Model?

具身化GPT-5.1：世界模型的证据？

Roberto Spinelli, Thiago C. Martins

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.AI

AI总结 研究探索无实体化训练的GPT-5.1能否控制物理移动机器人，通过低分辨率图像和离散动作集执行任务。它展现出空间推理等新兴能力，但也有效率和感知局限。结果挑战传统观点，促使深入研究大语言模型中物理理解相关问题。

Comments 6 pages, 16 figures. Published in the 2026 Brazilian Conference on Robotics (CROS)

Journal ref R. Spinelli and T. C. Martins, "Embodied GPT-5.1: Evidence of a World Model?," 2026 Brazilian Conference on Robotics (CROS), pp. 394-399, 2026

MEMENTO: Memory-Guided Memetic Code-as-Policy Evolution

MEMENTO：内存引导的基于代码的策略进化的模因算法

Alkis Sygkounas, Victor Aregbede, Amy Loutfi, Andreas Persson

机构 * Center for Applied Autonomous Sensor Systems (AASS), Örebro University（应用自主传感器系统中心（AASS），于默奥大学） ； Örebro University（于默奥大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究长期具身任务中基于代码的策略进化问题，提出内存引导单精英模因框架MEMENTO，通过进化展开评估器及利用反馈指标改进策略，在相关领域实验中性能优于基线，还证明了模拟到现实转移的可行性。

LiteTopK: Exploiting the Curse of Dimensionality for a Fused Indexer-TopK Kernel in Long-Context Sparse Attention

LiteTopK：利用维度诅咒设计长上下文稀疏注意力中的融合索引器 - TopK 内核

Ziqi Yin, Jianyang Gao, Peiqi Yin, Jiangneng Li, Gao Cong

机构 * Nanyang Technological University（南洋理工大学） ； ETH Zurich（苏黎世联邦理工学院） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 长上下文与记忆 ：large language model(abstract)；language model(abstract)；分类 cs.LG

AI总结 研究针对现有 GPU 索引器 - TopK 内核效率低的问题，利用维度诅咒设计 LITETOPK 内核，通过采样估计得分范围划分候选结果桶，降低内存开销，在实际部署中加速 GLM 5.2 预填充阶段，提升了效率。

HiMemVLN: Enhancing Reliability of Open-Source Zero-Shot Vision-and-Language Navigation with Hierarchical Memory System

HiMemVLN：通过分层记忆系统增强开源零样本视觉-语言导航的可靠性

Kailin Lyu, Kangyi Wu, Pengna Li, Xiuyu Hu, Qingyi Si, Cui Miao, Ning Yang, Zihang Wang, Long Xiao, Lianyu Hu, Jingyuan Sun, Ce Hao

专题命中 长上下文与记忆 ：LLM(abstract,abstract_cn)

AI总结 本文提出HiMemVLN，通过分层记忆系统提升开源零样本视觉-语言导航的可靠性，解决导航遗忘问题，实现实验环境下的性能提升。

Comments 9 pages, 7 figures

Eviction as Estimation: A Fixed-Lag Smoothing View of Test-Time Memory, and When Measuring Beats Accumulating

作为估计的逐出：测试时内存的固定延迟平滑视图，以及测量何时胜过累积

Maruthi Vemula, Neeraj Praneeth Gajula

机构 * University of North Carolina at Chapel Hill（北卡罗来纳大学教堂山分校） ； New York University（纽约大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)；分类 cs.AI

AI总结 研究语言模型内存管理，将存储项保留决策转化为对项目是否被重用的估计问题，提出固定延迟平滑策略RMM。在受控设置中有优势，在第三方基准测试中表现一般，贡献了框架及测量与累积效果对比的映射。

Comments 8 pages, 3 figures, 3 tables

MEMOIR: Temporal Behavioral Memory for Recommendation Across the Preference-Drift Spectrum

MEMOIR：偏好漂移谱上推荐的时间行为记忆

Younggue Bae

专题命中 长上下文与记忆 ：LLM(abstract)；分类 cs.CL

AI总结 研究提出MEMOIR框架用于推荐，将用户交互历史按时间窗口分割，用语言模型生成记忆并聚合为用户表示。在亚马逊评论数据上实验，与UniSRec对比，发现其在不同偏好漂移程度用户中有不同表现，此漂移分层模式是主要贡献。

Comments 6 pages, 2 figures

ACM: Agentic Context Management for Long Horizon Tasks

ACM：长期任务的智能体上下文管理

Xiaochuan Li, Ryan Ming, Meng Chu, Shuai Shao, Rong Jin, Chenyan Xiong

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Meta 纠错

专题命中 长上下文与记忆 ：post-training(abstract)；分类 cs.AI

AI总结 研究长期智能体任务上下文管理问题，提出ACM框架，受人类记忆启发让智能体自主管理上下文，还开发训练后管道，能提升模型在相关任务上的性能，有效管理上下文可降低压力、实现扩展探索并产生更一致方案。

Memory for Attention: Language-Conditioned Re-Perception with a Vision--Language--Motion Map

注意力的记忆：通过视觉-语言-运动地图进行语言条件下的重新感知

Dibyendu Ghosh

专题命中 长上下文与记忆 ：language model(abstract)

AI总结 研究携带行为注释地图的机器人的规划问题，通过将重新感知视为注意力决策，利用持久地图的记忆实现资源分配优化，在语言条件任务中表现出色，证明地图能指导机器人关注重点，而非空间导航。

Try Once, Then Optimal: De-Redundified Procedure Memory for Cross-Episode Exploration Amortization

一试即优：用于跨情节探索摊销的去冗余过程记忆

Haizhou Ge, Haochen Ouyang, Zhixing Chen, Yufei Jia, Yue Li, Lu Shi, Lei Han, Guyue Zhou, Ruqi Huang

机构 * Tsinghua University（清华大学） ； DISCOVER Robotics（DISCOVER机器人公司） ； Northeast Agricultural University（东北农业大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)

AI总结 研究如何让机器人避免重复探测隐藏状态物体，提出面向实例的记忆框架IOM，用视觉语言模型实例化，在多任务中减少操纵操作，提升效率且不降低成功率，即使过程错误也能成功。

Comments 8 pages, 3 figures, 3 tables

Closing the Loop: Training-Free Revisit Consistency for Autoregressive Generative Rendering

闭环：自回归生成渲染的无训练重访一致性

Wenchao Ma, Changran Liu, Sharon X. Huang, Haomiao Jiang

机构 * Roblox（罗布乐思） ； The Pennsylvania State University（宾夕法尼亚州立大学） 纠错

专题命中 长上下文与记忆 ：post-training(abstract)

AI总结 研究自回归生成渲染中相机重访位置时的不一致问题，利用3D引擎提供的时间和空间对应关系，将姿态匹配的历史潜在块检索到KV缓存，并使注意力偏向对应区域，在相关数据集上实验，提升了重访一致性且不损失视频质量。

Improving Adversarial Robustness of Zero-Shot CLIP with Confidence-Aware Weighting

通过置信感知加权提高零样本CLIP的对抗鲁棒性

Nikoo Naghavian, Mostafa Tavassolipour

机构 * School of ECE, College of Engineering University of Tehran（电子工程学院，工程学院，伊朗塔里哈大学） 纠错

专题命中 长上下文与记忆 ：language model(abstract)

AI总结 研究如何提高零样本CLIP的对抗鲁棒性，提出置信感知加权方法，该方法含置信感知损失和特征对齐正则化两个关键组件，实验证明其在强对抗攻击下优于现有方法且内存效率更高。

Comments Preprint

LLM-Ideoplasticity: Measuring Ideological Plasticity in the Political Behavior of LLMs as a Context-Conditioned Distribution

LLM-意识形态可塑性：将LLM的政治行为测量为上下文条件分布

Adib Sakhawat, Syed Rifat Raiyan, Tahsin Islam, Takia Farhin, Hasan Mahmud, Md Kamrul Hasan

专题命中 推理与问题求解 ：LLM(title,title_cn)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI

AI总结 通过系统实证，证明LLM的政治意识形态是上下文条件分布而非固定点，使用VAA-CHES投影模型在六个上下文轴上评估九个LLM，发现其对上下文高度敏感，但整体占据狭窄的Overton窗口。

Comments Under review, 40 pages, 18 figures, 11 tables

WIRE: Profiling Witnessed Within-Policy Instruction Collisions in LLM Agents

诊断LLM代理中实时策略内指令冲突的见证解析轮廓

Lu Yan, Xuan Chen, Xiangyu Zhang

机构 * Purdue University（普渡大学） 纠错

专题命中 推理与问题求解 ：LLM(title,title_cn)；分类 cs.AI

AI总结 提出WIRE管道，通过提取规则、编码为PyRule子句、检测冲突并生成见证实例，诊断LLM代理单一提示策略内规则对之间的冲突，发现64.6%的见证实例至少违反一条源规则。

Evo-DKD: Dual-Knowledge Decoding for Autonomous Ontology Evolution in Large Language Models

Evo-DKD：用于大语言模型中自主本体进化的双知识解码

Vishal Raman, Vijai Aravindh R, Abhijith Ragav

机构 * Radian Group Inc.（Radian集团） ； Sri Sivasubramaniya Nadar College Of Engineering（纳德工程学院） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 研究针对本体和知识图谱进化难题，提出Evo-DKD双解码器框架，结合结构化遍历与非结构化推理，通过动态注意力机制协调，经模拟在单流模式下近似双解码，实验证明其在多领域用例中优于基线，为知识库维护提供新范式。

Comments 6 pages, 6 figures, 2 tables. Accepted for publication at IEEE ICMLA 2026

CMCTS: A Constrained Monte Carlo Tree Search Framework for Mathematical Reasoning in Large Language Model

CMCTS：一种用于大语言模型数学推理的约束蒙特卡洛树搜索框架

Qingwen Lin, Boyan Xu, Guimin Hu, Zijian Li, Zhifeng Hao, Keli Zhang, Ruichu Cai

机构 * Huawei Noah’s Ark Lab（华为诺亚实验室） ； Peng Cheng Laboratory（鹏城实验室） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.CL

AI总结 CMCTS通过约束动作空间、过程奖励模型和偏序规则提升大语言模型的数学推理能力，实验表明其在多个基准测试中表现优异。

Journal ref Applied Intelligence 56, 13 (2026)

CLMASP: Coupling Large Language Models with Answer Set Programming for Robotic Task Planning

CLMASP：将大语言模型与答案集编程耦合用于机器人任务规划

Xinrui Lin, Yangfan Wu, Huanyu Yang, Yu Zhang, Yanyong Zhang, Jianmin Ji

机构 * University of Science and Technology of China（中国科学技术大学） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；LLM(abstract)；分类 cs.AI

AI总结 本文提出CLMASP方法，结合大语言模型和答案集编程，解决机器人任务规划中计划落地问题，实验显示其执行率显著提升。

Comments 9 pages, accepted to IJCAI 2025 Main Track

Do Diagrams Help Large Language Models Reason? Evidence from Syllogistic Reasoning

图表有助于大语言模型推理吗？来自三段论推理的证据

Risako Ando, Koji Mineshima

机构 * Keio University（庆应义塾大学） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究三段论推理中图表对大语言模型的影响，比较自然语言、逻辑符号、线性图表和欧拉图四种表示条件，利用285个问题评估两个模型，发现图表不能始终提升性能，模型在中性问题上表现不佳，从图表中获益有限。

Comments To appear in the Proceedings of the 15th International Conference on the Theory and Application of Diagrams (Diagrams 2026)

DICA: Dual-Indicator Guided Contrastive Alignment in Multimodal Large Language Models

DICA：多模态大语言模型中的双指标引导对比对齐

Hao Yang, Jin Wang, Xuejie Zhang

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 研究针对多模态大语言模型的问题，提出双指标引导对比对齐方法（DICA），通过跟踪视觉注意力熵和输出图像相关性两个指标，根据异常情况触发对比对齐，实验证明该方法能提升模型可靠性，优于现有方法。

Evaluating Large Language Models for Symbolic Security Protocol Analysis

评估用于符号安全协议分析的大语言模型

Paolo Modesti, Syed Ahmed, Ioannis Sfyrakis, Derek Enodolomwanyi

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.AI

AI总结 研究评估大语言模型对符号安全协议的分析能力，通过在130个协议上测试GPT和DeepSeek，发现聊天与推理模型各有优劣，在认证目标上表现差，保密性较好，结果不稳定，整体LLMs无法与形式化验证相比，仅可作预筛选。

Comments 36 pages, 5 figures

Algorithmic Blindness in Large Language Models: A Calibration Study of Performance Prediction

大语言模型是算法上盲目

Sohan Venkatesh, Ashish Mahendran Kurapath, Tejas Melkote

机构 * School of Computer Engineering, Manipal Institute of Technology, Bengaluru, India（马尼帕尔理工学院计算机工程学院，班加罗尔，印度） 纠错

专题命中 推理与问题求解 ：large language model(title,abstract)；language model(title,abstract)；分类 cs.CL

AI总结 研究发现大语言模型在算法推理上存在系统性失败，主要贡献是揭示了算法盲目的本质，即声明性知识与校准过程预测之间的差距。

Comments Code available at https://github.com/sohv/algorithmic-blindness

Concise Thoughts: Impact of Output Length on LLM Reasoning and Cost

简洁思考：输出长度对LLM推理和成本的影响

Sania Nayab, Giulio Rossolini, Marco Simoni, Andrea Saracino, Giorgio Buttazzo, Nicolamaria Manes, Fabrizio Giacomelli

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；prompting(abstract)

AI总结 本文提出CCoT方法，通过控制输出长度提升LLM推理的简洁性和效率，并验证了相关指标的有效性。

Comments Preprint version, under review

Journal ref Information Sciences 2026

Hint-Guided Diversified Policy Optimization for LLM Reasoning

提示引导的多样化策略优化用于大语言模型推理

Zhiyu Cao, Kaixin Wu, Mingjie Zhong, Peifeng Li, Can Ye, Qiaoming Zhu

机构 * School of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院） ； Ant Group（蚂蚁集团） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 提出提示引导的多样化策略优化（HDPO），通过“提出-选择-思考”轨迹激励模型生成多样且可靠的解决方案，提升推理能力、候选方案多样性和可靠方案识别能力。

Same Question, Different Answers: Evaluating LLM Reliability Beyond Accuracy

相同问题，不同答案：超越准确率评估大语言模型的可靠性

Kazem Faghih, Yize Cheng, Shoumik Saha, Mobina Pournemat, Armin Gerami, Soheil Feizi

机构 * University of Maryland, College Park（马里兰大学帕克分校） 纠错

专题命中 推理与问题求解 ：LLM(title,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究大语言模型在不同等效表述问题下的答案变化，发现其输出依赖措辞，准确率指标掩盖不稳定性，实例级行为不稳定，提出自释义策略可恢复潜在知识提升性能，强调评估一致性对展现模型可靠性的重要性。

Artificial Intelligence for Mathematical Reasoning: An Integrated Survey of Language Models, Neuro-symbolic Systems, and Verified Discovery

人工智能数学推理：语言模型、神经符号系统与验证发现的综合综述

Syed Rifat Raiyan, Mohsinul Kabir, Hasan Mahmud, Md Kamrul Hasan, Sophia Ananiadou

机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Cambridge（剑桥大学） ； University of Toronto（多伦多大学） 纠错

专题命中 推理与问题求解 ：language model(title)；LLM(abstract,abstract_cn)；prompting(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文综述了数学推理领域从早期规则系统到当代推理模型、多智能体系统及验证发现工作流的演变，沿非正式推理、形式推理、数学发现及推理技术四轴组织，并评估了基准测试、失败模式及未来方向。

Comments Under review, 47 pages, 14 figures, 22 tables

SINT-Flow: Schema Integration using Large Language Model Workflows

SINT-Flow：使用大语言模型工作流进行模式集成

Keti Korini, Christian Bizer

机构 * University of Mannheim（曼海姆大学） 纠错

专题命中 推理与问题求解 ：large language model(title)；language model(title)；LLM(abstract)；分类 cs.CL

AI总结 本文提出SINT-Flow框架，由五个基于大语言模型的算子组成工作流，用于全自动端到端模式集成，能处理非规范化源表。通过SINT-Bench基准评估，在多种任务上取得高F1分数，消融研究证明了策略和审查循环的效用。

Toward Automated Detection of Documentation Inconsistencies in Electronic Health Records

迈向电子健康记录中文档不一致性的自动检测

Jian Lu, Panyu Chen, Miriam Treggiari, Robert Blessing, Danyang Zhuo, Chunhua Weng, William W. Stead, Anru R. Zhang

机构 * Duke University（杜克大学） ； Columbia University Medical Center（哥伦比亚大学医学中心） ； Vanderbilt University Medical Center（范德堡大学医学中心） 纠错

专题命中 推理与问题求解 ：LLM(summary_cn,abstract)；large language model(abstract)；language model(abstract)；分类 cs.CL

AI总结 研究旨在检测电子健康记录中文档不一致性，采用两阶段LLM管道对3000份出院小结进行分析，发现多种类型不一致及反复出现的失败模式，建立了方法基础和概念框架以指导后续大规模分析。