大模型推理能力

Beyond Test-Time Memory: State-Space Optimal Control for LLM Reasoning

超越测试时记忆：用于LLM推理的状态空间最优控制

Peihao Wang, Shan Yang, Xijun Wang, Tesi Xiao, Xin Liu, Changlong Yu, Yu Lou, Pan Li, Zhangyang Wang, Ming Lin, René Vidal

机构 * vita-group（vita组） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；planning(abstract)；分类 cs.LG

AI总结 提出测试时控制（TTC）层，通过有限时域LQR规划实现推理，作为适配器集成到预训练LLM中，在数学推理任务上提升高达27.8%的准确率。

Comments ICML 2026

Reliable Self-Improvement Training by Verifying Reasoning, Not Just Answers

可靠的自改进训练：验证推理过程，而不仅仅是答案

Xinyu Zhang

机构 * Anyscale 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 针对自改进训练中因依赖最终答案正确性导致推理错误累积的问题，提出VSI框架，通过步骤级结构验证（如符号计算检查算术步骤）筛选训练数据，在GSM8K上实现持续准确率提升（80.5%→91.0%）。

Comments Accepted at ICLR 2026 Workshop LLM Reasoning. 10 pages, 3 figures, 5 tables

Towards Long-Horizon Interpretability: Efficient and Faithful Multi-Token Attribution for Reasoning LLMs

面向长程可解释性：高效且忠实的多Token归因用于推理大语言模型

Wenbo Pan, Zhichao Liu, Xianlong Wang, Haining Yu, Xiaohua Jia

机构 * Department of Computer Science, City University of Hong Kong, Hong Kong SAR, China（香港城市大学计算机科学系） ； Harbin Institute of Technology, Harbin, China（哈尔滨工业大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 提出FlashTrace方法，通过跨跨度聚合和递归归因机制，在长上下文推理中实现高效且忠实的多Token归因，速度提升超130倍。

Comments Accepted as an Oral paper at ICML 2026. Code available at https://github.com/wbopan/flashtrace

HERMES: Towards Efficient and Verifiable Mathematical Reasoning in LLMs

HERMES: 迈向高效且可验证的LLM数学推理

Azim Ospanov, Zijin Feng, Jiacheng Sun, Haoli Bai, Xin Shen, Farzan Farnia

机构 * Department of Computer Science \& Engineering, The Chinese University of Hong Kong ； Huawei Foundation Model Department 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 提出Hermes框架，通过将非正式推理与Lean形式化验证交替结合，并引入中间形式化检查和记忆模块，在提升推理准确性的同时显著降低计算成本。

DynaGraph: Lightweight Multi-Model Interaction Framework via Dynamic Topological Reconfiguration

DynaGraph: 通过动态拓扑重构的轻量级多模型交互框架

Yanxing Guo, Zihao Zheng, Fangzhou Wu, Ling Liang, Lin Bao, Zongwei Wang, Yimao Cai

机构 * Peking University（北京大学） ； Nanjing University（南京大学） ； Beijing Advanced Innovation Center for Integrated Circuits（北京集成电路先进制造创新中心） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Yanxin Co. Ltd（燕新有限公司） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 提出DynaGraph框架，通过动态拓扑重构和PEFT适配器复用，在单消费级GPU上实现多模型协作，接近72B单模型推理能力并大幅降低延迟和token消耗。

Who Endorsed It? Measuring Authority Bias Across Expertise Levels in Language Models

谁背书了它？测量语言模型中跨专业水平的权威偏差

Priyanka Mary Mammen, Emil Joswin, Shankar Venkitachalam

机构 * UMass Amherst（马萨诸塞大学阿默斯特分校） ； Independent Research（独立研究） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 研究语言模型在推理任务中是否因背书来源的专业水平而产生系统性偏差，发现模型对高权威来源的错误背书更易受影响，导致准确率下降和错误答案置信度增加，但可通过机制干预减轻偏差。

Mellum2 Technical Report

Mellum2 技术报告

Marko Kojic, Ivan Bondyrev, Aral de Moor, Joseph Shtok, Petr Borovlev, Kseniia Lysaniuk, Madeeswaran Kannan, Ivan Dolgov, Nikita Pavlichenko

机构 * JetBrains ； Constructor University（Constructor大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文介绍 Mellum 2，一个12B参数（每token激活2.5B）的混合专家语言模型，专攻软件工程，通过架构创新和训练优化在代码生成、数学推理等基准上达到4B-14B开源模型的竞争力。

Attend to Evidence: Evidence-Anchored Spatial Attention Supervision for Multimodal RLVR

关注证据：面向多模态RLVR的证据锚定空间注意力监督

Ruina Hu, Chen Wang, Lai Wei, Jionghao Bai, Bin Yu, Weiran Huang, Kai Wang, Yue Wang

机构 * Harbin Institute of Technology（哈尔滨工业大学） ； Zhongguancun Academy（中关村学院） ； Zhongguancun Institute of Artificial Intelligence（中关村人工智能研究院） ； Nankai University（南开大学） ； Shanghai Jiaotong University（上海交通大学） ； Zhejiang University（浙江大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 提出EASE方法，通过将标注证据区域转化为平滑视觉标记目标，在多模态强化学习训练中引导响应到图像的注意力，从而提升视觉语言模型在感知、幻觉、视觉数学和多模态推理基准上的性能。

ExpGraph: Model-Agnostic Experience Learning with Graph-Structured Memory for LLM Agents

ExpGraph: 面向LLM智能体的模型无关经验学习与图结构记忆

Tao Feng, Chongrui Ye, Tianyang Luo, Jingjun Xu, Xueqiang Xu, Haozhen Zhang, Zhigang Hua, Yan Xie, Shuang Yang, Ge Liu, Jiaxuan You

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Nanyang Technological University（南洋理工大学） ； Meta Monetization AI（Meta 营收人工智能） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 提出ExpGraph框架，通过图结构记忆和强化学习实现冻结LLM执行器的外部经验复用，在问答、数学推理、代码生成和多步智能体任务上显著提升性能并减少交互步骤。

Representation Collapse in Sequential Post-Training of Large Language Models

大型语言模型顺序后训练中的表示坍缩

Yichen Liu, Mingyu Chen, Hao Wang, Xiaoran Xu, Chenxi Lin, Rui Zhang, Yutong Zhou, Yuxin Yang, Jiarui Wu, Wei Sun

机构 * Hangzhou Dianzi University（杭州电子科技大学） ； Zhejiang Gongshang University（浙江工商大学） ； Ningbo University（宁波大学） ； Shanghai University（上海大学） 纠错

专题命中 数学推理 ：chain-of-thought(abstract)；分类 cs.LG

AI总结 研究大型语言模型在顺序后训练阶段中内部表示逐渐压缩为低秩、各向异性且同质的特征空间，并提出轻量级干预措施以保持未来可学习性。

Comments work in progress

The Tutoring Effectiveness Index: Predicting LLM Math Tutor Quality from Four Conversation Signals

辅导效果指数：从四个对话信号预测LLM数学辅导质量

Shim Jaechang, Unggi Lee

专题命中 数学推理 ：reasoning(abstract)

AI总结 提出无需训练和外部评判的辅导效果指数（TEI），通过四个内部推理信号选择冻结模型，将预错误场景的改进率从59.0%提升至81.9%。

Compile to Compress: Boosting Formal Theorem Provers by Compiler Outputs

编译以压缩：通过编译器输出提升形式定理证明器

Guchan Li, Rui Tian, Hongning Wang

机构 * Department of Computer Science and Technology, Tsinghua University, Beijing, China（清华大学计算机科学与技术系） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；test-time compute(abstract)；verifier(abstract)；分类 cs.AI、cs.LG

AI总结 利用编译器将大量证明尝试压缩为结构化失败模式，提出一种学习-精炼框架，通过树搜索基于验证器反馈局部修正错误，在可比测试时预算下在PutnamBench上达到最先进性能。

Learning to Reason with Insight for Informal Theorem Proving

学习在非形式定理证明中进行洞察推理

Yunhe Li, Hao Shi, Bowen Deng, Wei Wang, Mengzhe Ruan, Hanxu Hou, Zhongxiang Dai, Siyang Gao, Chao Wang, Shuang Qiu, Linqi Song

机构 * City University of Hong Kong（香港城市大学） ； Tsinghua University（清华大学） ； Ke Holdings Inc.（Ke控股公司） ； Shenzhen University of Advanced Technology（深圳先进技术大学） ； Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；planning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 针对非形式定理证明中缺乏洞察（识别核心技巧）的瓶颈，提出统一训练框架DeepInsight，通过分层数据集、渐进式多阶段SFT和基于洞察的策略优化方法，显著提升大语言模型的数学推理能力。

LLMs Lean on Priors, Not Programming Language Semantics

LLMs 依赖先验而非编程语言语义

Aditya Thimmaiah, Jiyang Zhang, Jayanth Srinivasa, Junyi Jessy Li, Milos Gligoric

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Cisco Research（思科研究） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 通过 PLSemanticsBench 基准测试，发现前沿大语言模型在程序执行任务中依赖预训练统计规律而非形式语义规则，语义变异和结构复杂度导致准确率大幅下降。

Comments Accepted at ICML 2026

Fighting Numerical Hallucinations via Data-centric Compilation for Online Financial QA

通过数据为中心的编译对抗在线金融问答中的数值幻觉

Hao Chen, Xing Tang, Qirui Liu, Weijie Shi, Shiwei Li, Fuyuan Lyu, Weihong Luo, Xiku Du, Xiuqiang He

机构 * Shenzhen Technology University（深圳科技大学） ； FiT, Tencent（腾讯金融科技部） ； South China University of Technology（华南理工大学） ； The Hong Kong University of Science and Technology（香港科学与技术大学） ； Huazhong University of Science and Technology（华中科技大学） ； McGill University（麦吉尔大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 提出数据为中心推理编译器（DCRC），通过对抗数据构建、多阶段训练和编译执行推理流程，解决在线金融问答中检索增强生成面临的噪声敏感、计算脆弱和可审计性危机，实现可靠的数值推理。

Comments Accepted by KDD 2026 ADS track

Automating Formal Verification with Reinforcement Learning and Recursive Inference

用强化学习和递归推理自动化形式验证

Max Tan

机构 * Department of Electrical Engineering and Computer Science（电气工程与计算机科学系） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 代码与定理证明 ：verifier(abstract)；分类 cs.LG

AI总结 研究通过可验证奖励的强化学习和验证器引导的推理搜索，提升大语言模型生成验证程序和证明的能力，在Dafny和Lean上取得显著进展。

Comments Master's thesis, 140 pages, 16 figures, 17 tables

Distilling LLM Feedback for Lean Theorem Proving

蒸馏LLM反馈用于Lean定理证明

Gaetan Narozniak, Gérard Biau, Rémi Munos, Ahmad Rammal, Pierre Marion

机构 * FAIR at Meta（Meta 的 FAIR 部门） ； Inria（法国国家科学与技术研究院） ； Sorbonne Université（索邦大学） ； Institut universitaire de France（法国国家科学研究院） ； CERMICS École des Ponts ParisTech（巴黎理工学院 CERMICS 实验室） ； ENS, PSL Research University（巴黎高等师范学院与巴黎科学实验室） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 提出反馈蒸馏方法，通过让模型在token级别匹配自身分布（基于语言模型提供的特权反馈）来训练，以解决GRPO在推理后训练中的稀疏奖励和模式崩溃问题，并在Lean4定理证明中取得更好效果。

Neuroforger: certified violation witnesses for smart contracts verification via LLMs

Neuroforger: 通过大语言模型为智能合约验证生成认证违规见证

Massimo Bartoletti, Enrico Lipparini

专题命中 代码与定理证明 ：reasoning(abstract)

AI总结 针对自然语言属性歧义和LLM回答无正确性保证的问题，提出一种结合LLM、类型检查和具体执行的工作流，通过引入扩展Solidity的抽象类型形式规范语言，生成并验证违规见证（反例）。

Domain Adaptation and Reasoning Frameworks in Language Models: A Controlled Experiment with Historical Cosmology

语言模型中的领域适应与推理框架：以历史宇宙学为受控实验

Francesco De Bernardis

机构 * Independent Researcher（独立研究者） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；logical reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 通过历史宇宙学受控实验，研究领域适应如何重塑语言模型的解释行为，发现适应主要改变解释框架而非直接改变立场。

Comments 17 pages, 3 figures

Symbolic Intermediaries as a Linguistic-Numerical Interface for LLM-Driven Geometric Reasoning

符号中介作为LLM驱动几何推理的语言-数值接口

João Pedro Gandarela, Thiago Rios, Stefan Menzel, André Freitas

机构 * Idiap Research Institute（Idiap研究 institute） ； École Polytechnique Fédérale de Lausanne（瑞士联邦理工学院） ； Honda Research Institute Europe（本田欧洲研究院） ； Department of Computer Science, University of Manchester（曼彻斯特大学计算机科学系） ； National Biomarker Centre, CRUK-MI, University of Manchester（曼彻斯特大学国家生物标记中心） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；planning(abstract)；分类 cs.CL、cs.AI

AI总结 提出符号中介作为连接物理模拟器数值输出与语言模型推理的接口，通过符号回归将连续数值转化为符号表达式，并在协同优化循环中提升几何推理性能。

Comments 33 pages, 18 figures

AMix-2: Establishing Protein as a Native Modality in Large Language Models

AMix-2：将蛋白质确立为大语言模型的原生模态

Keyue Qiu, Yixin Wu, Lihao Wang, Yawen Ouyang, Jixiang Yu, Zihan Zhou, Changze Lv, Dongyu Xue, Yuxuan Song, Xinbo Zhang, Hao Wang, Jiangtao Feng, Zhiqiang Gao, Lijun Wu, Xiaoqing Zheng, Ka-Chun Wong, Lei Bai, Ya-Qin Zhang, Wei-Ying Ma, Dahua Lin, Bowen Zhou, Hao Zhou

机构 * Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Generative Symbolic Intelligence Lab (GenSI), Tsinghua University（生成符号智能实验室（GenSI），清华大学） ； Institute for AI Industry Research (AIR), Tsinghua University（人工智能产业研究院（AIR），清华大学） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；logical reasoning(abstract)；分类 cs.AI

AI总结 提出AMix-2，一种蛋白质-文本基础模型，通过统一蛋白质理解与序列设计，将蛋白质作为大语言模型的原生模态，并引入块状扩散语言建模骨干以更好地匹配蛋白质内在特性。

Comments 30 pages, 4 figures, 12 tables

Neuro-Symbolic Verification of LLM Outputs for Data-Sensitive Domains (extended preprint)

面向数据敏感领域的LLM输出的神经符号验证（扩展预印本）

Paul Sigloch, Christoph Benzmüller

机构 * University of Bamberg（巴姆堡大学） ； Free University of Berlin（柏林自由大学） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；logical reasoning(abstract)；分类 cs.AI

AI总结 提出一种结合形式符号方法与神经语义分析的混合验证架构，用于检测LLM输出中的幻觉、不一致和隐私漏洞，在医疗设备损伤评估系统中实现83%的结构化实体幻觉检测率和72%的语义虚构检测率。

Comments Extended preprint version of accepted technical communication at KI 2026. 22 pages, 3 figures

Positional versus Symbolic Attention Heads: Learning Dynamics, RoPE Geometry, and Length Generalization

位置注意力头与符号注意力头：学习动态、RoPE几何和长度泛化

Felipe Urrutia, Juan José Alegría, Cinthia Sanchez Macias, Jorge Salas, Cristian B. Calderon, Cristobal Rojas

机构 * CENIA & Faculty of Mathematics UC Santiago（CENIA与圣托里尼大学数学系） ； IMC UC & CENIA Santiago（UC IMC与圣托里尼CENIA） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 通过控制实验研究Transformer注意力头在位置推理和符号推理任务中的学习动态，发现位置和符号注意力头的不同机制及其对长度泛化的影响。

Extending the UXR Point of View Pyramid: A Generative AI-Augmented Methodology for Human-Centred AI Systems

扩展UXR观点金字塔：一种面向人本AI系统的生成式AI增强方法论

Festus Fatai Adedoyin, Huseyin Dogan, Melike Akca, Abiodun Adedeji

机构 * School of Computing and Engineering, Bournemouth University（伯恩茅斯大学计算机与工程学院） 纠错

专题命中 逻辑推理 ：planning(abstract)；分类 cs.AI

AI总结 针对英国债务管理中的AI金融系统，通过扩展UXR观点金字塔，提出一种结合生成式AI的增强方法论，包括AI增强观点金字塔、结构化提示架构和AI驱动的Playbook卡片系统，以提升可解释性、公平性和问责性。

Can Generative AI help people navigate Radical Moral Disagreements? The CONSIDER prototype

生成式AI能否帮助人们应对根本性道德分歧？CONSIDER原型

William Hohnen-Ford, Sarah Chen, Kathryn B. Francis, Madeline G. Reinecke, Ilina Singh, David Lyreskog

专题命中 逻辑推理 ：reasoning(abstract)

AI总结 本文提出CONSIDER原型，一种基于大型语言模型的一对一AI工具，通过结构化分歧帮助用户澄清价值观，以应对根本性道德分歧。

Comments 25 pages, 1 figure, 2 tables. Submitted manuscript

GenClaw: Code-Driven Agentic Image Generation

GenClaw: 代码驱动的智能体图像生成

Junyan Ye, Jun He, Zilong Huang, Dongzhi Jiang, Xuan Yang, Rui Chen, Weijia Li

专题命中 逻辑推理 ：reasoning(abstract)

AI总结 提出GenClaw，一种代码驱动的智能体图像生成范式，通过概念构思、代码草图绘制和纹理补充三个阶段，将黑盒图像生成转变为可控、可解释的分阶段过程。

Comments 21 pages, 7 figures

AdaptR1: Reinforcement Learning Based Adaptive Interleaved Thinking in Multi-hop Question Answering

AdaptR1：基于强化学习的自适应交错思考在多跳问答中的应用

Yuxin Wang, Jiahao Lu, Qifeng Wu, Shicheng Fang, Chuanyuan Tan, Yining Zheng, Xuanjing Huang, Xipeng Qiu

机构 * Computer Science, Fudan University（复旦大学计算机科学系） ； Institute of Modern Languages and Linguistics, Fudan University（复旦大学现代语言与语言学研究院） ； Shanghai Innovation Institute（上海创新研究院） ； Soochow University（苏州大学） 纠错

专题命中 规划推理 ：CoT(abstract,abstract_cn)；reasoning(abstract)；chain-of-thought(abstract)；planning(abstract)

AI总结 提出AdaptR1框架，通过强化学习动态分配每步推理预算，减少多跳问答中的过度思考，在保持性能的同时显著降低推理成本。

GSAM: A Generalizable and Safe Robotic Framework for Articulated Object Manipulation

GSAM: 一种通用且安全的铰接物体操作机器人框架

Beichen Shao, Mengying Xie, Heng Su, Wanyi Zhang, Mingyan Li, Yan Ding, Fausto Giunchiglia, Chao Chen

机构 * College of Computer Science, Chongqing University, Chongqing, China（重庆大学计算机学院） ； Lumos Robotics, China（Lumos机器人中国） ； Xi'an Jiaotong-Liverpool University, China（西安交通大学利物浦大学） ； Fudan University, China（复旦大学） ； Department of Information Engineering and Computer Science, University of Trento, Trento, Italy（特伦托大学信息工程与计算机科学系） 纠错

专题命中 规划推理 ：CoT(abstract,abstract_cn)；reasoning(abstract)；chain-of-thought(abstract)；planning(abstract)

AI总结 提出GSAM框架，通过视觉感知器生成运动学参数、基于VLM的细调器进行常识推理修正、交互约束函数生成器集成障碍物避免知识，并由运动学感知规划器验证轨迹可达性，在50个铰链任务上相比最佳基线将标准差降低3.1%、操作成功率提升36.0%。

Comments Accepted by the 19th International Conference on Parallel Problem Solving from Nature (PPSN 2026)

EMBGuard: Constructing Hazard-Aware Guardrails for Safe Planning in Embodied Agents

EMBGuard：为具身智能体安全规划构建危险感知护栏

Dongwook Choi, Taeyoon Kwon, Bogyung Jeong, Minju Kim, Yeonjun Hwang, Hyojun Kim, Byungchul Kim, Young Kyun Jang, Jinyoung Yeo

机构 * Independent Researcher（独立研究者） ； Department of Biomedical Engineering（生物医学工程系） ； the Department of Intelligent Precision Healthcare Convergence, Sungkyunkwan University（智能精准医疗融合系，全州大学） ； Department of Artificial Intelligence, Yonsei University（人工智能系，延世大学） 纠错

专题命中 规划推理 ：planning(title,abstract)；reasoning(abstract)；分类 cs.CL

AI总结 提出首个基于MLLM的具身安全护栏EMBGuard，通过解耦物理风险推理与智能体策略，评估（视觉观察，动作）对来识别危险配置并提供自然语言解释，同时构建训练数据集EMBHazard和基准测试EMBGuardTest，在紧凑模型尺寸下达到与专有MLLM竞争的性能并降低误报率。

Comments Accepted at ICML 2026

Biases in the Blind Spot: Detecting What LLMs Fail to Mention

盲点中的偏见：检测大语言模型未能提及的内容

Iván Arcuschin, David Chanin, Adrià Garriga-Alonso, Oana-Maria Camburu

机构 * Poseidon Research（Poseidon研究） ； University College London, United Kingdom（伦敦大学学院, 英国） ； Imperial College London, United Kingdom（伦敦帝国学院, 英国） 纠错

专题命中 规划推理 ：CoT(abstract,abstract_cn)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.AI、cs.LG

AI总结 提出全自动黑盒流水线，通过统计测试和思维链分析，自动检测大语言模型在任务中未明确表述的偏见。

Comments Published at the 43rd International Conference on Machine Learning (ICML 2026)