大模型推理能力

From Reasoning Chains to Verifiable Subproblems: Curriculum Reinforcement Learning Enables Credit Assignment for LLM Reasoning

从推理链到可验证子问题：课程强化学习使LLM推理能够进行信用分配

Xitai Jiang, Zihan Tang, Wenze Lin, Yang Yue, Shenzhi Wang, Gao Huang

机构 * LeapLab, Tsinghua University（清华大学 LeapLab） ； Qiuzhen College, Tsinghua University（清华大学 旗正学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 该研究提出SCRL框架，通过从参考推理链中生成可验证子问题，解决LLM推理中信用分配问题，提升了在数学推理任务中的性能。

Tailoring Teaching to Aptitude: Direction-Adaptive Self-Distillation for LLM Reasoning

按能力定制教学：方向自适应自蒸馏用于LLM推理

Hongbin Zhang, Chaozheng Wang, Kehai Chen, Youcheng Pan, Yang Xiang, Jinpeng Wang, Min Zhang

机构 * Institute of Computing and Intelligence, Harbin Institute of Technology（计算智能研究所，哈尔滨工业大学） ； Peng Cheng Laboratory（鹏城实验室） ； Keeta AI, Meituan（Keeta AI，美团） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出方向自适应自蒸馏（DASD），通过熵引导的定向监督改进LLM推理，通过分析发现统一的教师监督导致探索被压制，DASD在六个数学推理基准中取得最佳表现。

Comments Under Review

LightReasoner: Can Small Language Models Teach Large Language Models Reasoning?

LightReasoner: 小型语言模型能否教会大型语言模型推理？

Jingyuan Wang, Yankai Chen, Zhonghang Li, Chao Huang

机构 * University of Hong Kong（香港大学） ； University of Chicago（芝加哥大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LightReasoner框架，通过利用强专家模型与弱业余模型之间的行为差异，发现高价值推理时刻，从而提升大型语言模型的推理能力，同时减少资源消耗。

Comments Updated to ACL 2026 camera-ready version with improved method presentation, expanded related work discussion, additional analyses, and presentation refinements

LANG: Reinforcement Learning for Multilingual Reasoning with Language-Adaptive Hint Guidance

LANG: 用于多语言推理的强化学习与语言自适应提示引导

Yuchun Fan, Bei Li, Peiguang Li, Yilin Wang, Yongyu Mu, Jian Yang, Xin Chen, Rongxiang Weng, Jingang Wang, Xunliang Cai, Jingbo Zhu, Tong Xiao

机构 * NLP Lab, School of Computer Science and Engineering, Northeastern University, Shenyang, China（东北大学计算机科学与工程学院自然语言处理实验室） ； Meituan Inc.（美团公司） ； NiuTrans Research, Shenyang, China（牛译研所） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出LANG框架，通过语言条件提示引导非英语推理任务的探索，解决了多语言环境下强化学习在输入语言一致性与推理质量之间的权衡问题，提升了推理性能而不影响语言一致性。

Comments Accepted to ACL 2026 (main conference)

CLORE: Content-Level Optimization for Reasoning Efficiency

CLORE：面向推理效率的内容级优化

Yuyang Wu, Qiyao Xue, Guanxing Lu, Weichen Liu, Zihan Wang, Manling Li, Olexandr Isayev

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Northwestern University（西北大学） ； University of North Carolina, Chapel Hill（北卡罗来纳大学教堂山分校） ； University of Pittsburgh（匹兹堡大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出CLORE框架，通过编辑正确在线轨迹来提升大语言模型的推理效率，通过外部增强模型删除冗余、不可读或无关内容，同时保留最终答案，并结合辅助参考-free DPO目标和标准策略梯度训练优化增强-原始对，实验表明CLORE在五个数学推理基准上提升了准确性和效率的平衡，并与GRPO、DAPO、Training Efficient和ThinkPrune兼容。

Comments 9 pages, 9 figures

Unveiling the Reasoning Process of Large Language Models

揭示大型语言模型的推理过程

Junjie Zhang, Zhen Shen, Xisong Dong, Gang Xiong

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文通过分析Transformer层中注意力头和层的信息转换，揭示了大型语言模型在数学和符号推理任务中，中间层将token级信息转化为可重用的关联结构的核心机制。

General Preference Reinforcement Learning

通用偏好强化学习

Muhammad Umer, Muhammad Ahmed Mohsin, Ahsan Bilal, Arslan Chaudhry, Andreas Haupt, Sanmi Koyejo, Emily Fox, John M. Cioffi

机构 * Stanford University（斯坦福大学） ； The University of Oklahoma（俄克拉荷马大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；verifier(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出通用偏好强化学习（GPRL），通过引入通用偏好模型（GPM）解决传统强化学习在开放任务中连续探索不足的问题，通过多维偏好比较提升模型性能。

Maestro: Reinforcement Learning to Orchestrate Hierarchical Model-Skill Ensembles

Maestro：通过强化学习协调分层模型-技能集合

Jinyang Wu, Guocheng Zhai, Ruihan Jin, Yuhao Shen, Zhengxi Lu, Fan Zhang, Haoran Luo, Zheng Lian, Zhengqi Wen, Jianhua Tao

机构 * Tsinghua University（清华大学） ； Zhejiang University（浙江大学） ； The Chinese University of Hong Kong（香港中文大学） ； Nanyang Technological University（南洋理工大学） ； Tongji University（同济大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出Maestro框架，通过强化学习协调多模态任务，利用分层模型-技能集合提升多模态任务性能，实现高效且通用的协调策略。

Linear Dynamics in the RLVR Training of Large Language Models

在大语言模型RLVR训练中的线性动力学

Tianle Wang, Jiayu Liu, Zhongyuan Wu, Shenghao Jin, Wei Chen, Hao Xu, Ning Miao

机构 * Department of Data Science, City University of Hong Kong（香港城市大学数据科学系） ； Hong Kong Institute of AI for Science, City University of Hong Kong（香港城市大学人工智能科学研究院） ； Li Auto Inc. ； Beihang University（北航大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了强化学习可验证奖励（RLVR）在大语言模型训练中的内部动态，发现RLVR在多种模型和训练配置下均进入线性区域，通过实验和理论分析证明这种线性特性源于训练信号的高方差和噪声，且具有预测性和实用性。

Comments Major revision: substantially reorganized the manuscript and added a theoretical explanation section. The replacement is intended for the same arXiv paper; the core topic and contribution remain the same

Self-Policy Distillation via Capability-Selective Subspace Projection

通过能力选择性子空间投影实现自我策略蒸馏

Guangya Hao, Yitong Shang, Yunbo Long, Zhuokai Zhao, Hanxue Liang

机构 * University of Cambridge（剑桥大学） ； HKUST（香港科技大学） ； University of Chicago（芝加哥大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出Self-Policy Distillation（SPD），通过从模型自身梯度中提取低维能力子空间，将关键值（KV）激活投影到该子空间，并在标准下一项预测损失下进行微调，实现了无需外部信号的通用且能力选择性的自我蒸馏方法。

Reflective Prompt Tuning through Language Model Function-Calling

通过语言模型功能调用实现反思式提示调优

Farima Fatahi Bayat, Moin Aminnaseri, Pouya Pezeshkpour, Estevam Hruschka

机构 * Megagon Labs（梅加穹实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出了一种名为Reflective Prompt Tuning (RPT)的框架，利用语言模型功能调用模拟人类提示工程师的迭代工作流程，通过诊断函数评估目标模型，生成结构化诊断报告，并利用历史报告优化提示，从而提升提示效果和置信度校准。

Comments 17 pages, 6 figures

Manifold-Guided Attention Steering

基于流形的注意力引导

Ian Li, Kapilesh Guruprasad, Raunak Sengupta, Ninad Satish, Loris D'Antoni, Rose Yu

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出了一种基于流形的注意力引导方法，通过在推理过程中监控注意力头与正确性流形的距离，动态纠正偏差，从而提高大语言模型在数学推理、代码生成和分子生成等任务中的表现。

Visual-Advantage On-Policy Distillation for Vision-Language Models

基于视觉优势的在线策略蒸馏用于视觉-语言模型

Ruiqi Liu, Xiaolei Lv, Gengsheng Li, Ximo Zhu, Zhiheng Wang, Zhengbo Zhang, Junkai Chen, Zhiheng Li, Bo Li, Jun Gao, Shu Wu

机构 * Institute of Automation, CAS（中国科学院自动化研究所） ； School of Advanced Interdisciplinary Sciences, UCAS（中国科学院大学(UCAS)先进交叉学科学院） ； Hello Group Inc.（Hello集团有限公司） ； Sun Yat-sen University（中山大学） 纠错

专题命中 数学推理 ：reasoning(abstract)

AI总结 本文提出了一种基于视觉优势的在线策略蒸馏方法，用于提升视觉-语言模型对视觉输入的依赖性，通过引入视觉优势指标来区分关键视觉token与语言token，从而提高蒸馏效果。

Discovering High Level Patterns from Simulation Traces

从仿真轨迹中发现高层次模式

Sean Memery, Kartic Subr

机构 * University of Edinburgh（爱丁堡大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出了一种通过程序合成进行无监督学习的方法，将仿真轨迹转换为稀疏的高层次模式表示，以提升大语言模型对物理系统的推理能力。

The Impact of AI Usage and Informativeness on Skill Development in Logical Reasoning

人工智能使用与信息性对逻辑推理技能发展的影响力

Shang Wu, Hongyu Yao, Catarina Belem, Shuyuan Fu, Mark Steyvers, Padhraic Smyth

机构 * University of California, Irvine（加州大学尔湾分校） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；logical reasoning(title,abstract)；分类 cs.AI

AI总结 本文研究了人工智能使用和信息性如何影响逻辑推理技能的发展，发现高使用AI的用户表现较差，而信息性低的AI对学习无帮助，信息性高的AI则在短期内提升表现但影响不均一。

Comments Accepted at Hybrid Human Artificial Intelligence (HHAI) 2026

Cumulative Reasoning with Large Language Models

基于大语言模型的累积推理

Yifan Zhang, Jingqin Yang, Yang Yuan, Andrew Chi-Chih Yao

机构 * IIIS, Tsinghua University（清华大学人工智能研究院） ； Shanghai Qi Zhi Institute（上海启智研究院） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；verifier(abstract)；分类 cs.AI

AI总结 本文提出了一种名为累积推理（CR）的框架，通过模拟人类的迭代和累积思维过程，增强大语言模型（LLM）的问题解决能力。CR通过分解任务、生成并验证中间推理步骤，构建动态有向无环图（DAG）来组成解决方案，从而在逻辑推理、24点游戏和数学问题等任务中取得了显著的性能提升。

Comments Published in Transactions on Machine Learning Research (TMLR). Project Page: https://github.com/iiis-ai/cumulative-reasoning

How can reasoning capability empower the AI copilot robot in endoscopic surgery

推理能力如何赋能内窥手术中的AI助手机器人

Guankun Wang, Long Bai, Hongliang Ren

机构 * Department of Electronic Engineering（电子工程系） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)

AI总结 本文研究了推理能力在内窥手术中AI助手机器人中的应用，提出通过整合多模态线索、解读手术意图和推断隐藏组织动态来提高手术的精确性、安全性和可持续性。

Comments Accepted by npj digital medicine

Survive or Collapse: The Asymmetric Roles of Data Gating and Reward Grounding in Self-Play RL

生存或崩溃：自我博弈强化学习中数据门控与奖励基础的不对称作用

Sophia Xiao Pu, Zhaotian Weng, Chengzhi Liu, Jayanth Srinivasa, Gaowen Liu, William Yang Wang, Xin Eric Wang

机构 * University of California, Santa Barbara（加州大学圣巴巴拉分校） ； Cisco Research（思科研究） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了自我博弈强化学习中数据门控和奖励基础的不对称作用，发现数据门控是维持稳定的关键因素，而奖励信号在门控移除后无法单独保证稳定性，揭示了'基础提出者悖论'。

GraphFlow: A Graph-Based Workflow Management for Efficient LLM-Agent Serving

GraphFlow: 一种基于图的流程管理用于高效的LLM代理服务

Ao Li, Shangpeng Yang, Fahao Chen, Tianheng Xu, Peng Li, Zhou Su

机构 * School of Cyber Science and Engineering, Xi'an Jiaotong University, Xi'an, China（西安交通大学计算机科学与工程学院） ； School of Artificial Intelligence, Shandong University, Jinan, China（山东大学人工智能学院） ； Shanghai Advanced Research Institute, Chinese Academy of Sciences, Shanghai, China（中国科学院上海先进研究院） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出了一种基于图的流程管理方法GraphFlow，通过统一图结构wGraph动态生成任务特定流程，提高LLM代理服务的效率和性能，实验表明其在多个基准数据集上表现优异，性能提升显著且内存占用减少。

Comments Accepted to ICML 2026

Neuro-Symbolic AI for Analytical Solutions of Differential Equations

神经符号AI用于微分方程的解析解

Orestis Oikonomou, Levi Lingsch, Dana Grund, Siddhartha Mishra, Georgios Kissas

机构 * Seminar for Applied Mathematics, ETH Zurich, Switzerland（应用数学研讨会，苏黎世联邦理工学院，瑞士） ； ETH AI Center, Zurich, Switzerland（苏黎世联邦理工学院人工智能中心，瑞士） ； IBM Research Europe, Zurich, Switzerland（IBM欧洲研究院，苏黎世，瑞士） ； Institute for Atmospheric and Climate Science, ETH Zurich, Switzerland（大气与气候科学研究所，苏黎世联邦理工学院，瑞士） ； Swiss Data Science Center, ETH Zurich, Switzerland（瑞士数据科学中心，苏黎世联邦理工学院，瑞士） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出SIGS神经符号框架，通过上下文无关文法生成数学上有效且物理上有意义的构建块，并结合用户指定的Ansatz进行组合，嵌入到拓扑正则化的连续潜在流形中，通过两阶段搜索发现解析解，提高了微分方程解析解的准确性和效率。

Comments Updates the method and added extra results

FuzzingBrain V2: A Multi-Agent LLM System for Automated Vulnerability Discovery and Reproduction

FuzzingBrain V2: 一个用于自动化漏洞发现与重现的多智能体LLM系统

Ze Sheng, Zhicheng Chen, Qingxiao Xu, Kewen Zhu, Jeff Huang

专题命中 逻辑推理 ：reasoning(abstract)

AI总结 本文提出FuzzingBrain V2，通过多智能体系统解决LLM在漏洞检测中的三大挑战：自动化分析、精准定位与复杂依赖推理，实现了90%的检测率并发现29个零日漏洞。

Efficient Agentic Reasoning Through Self-Regulated Simulative Planning

通过自我调节模拟规划实现高效的代理推理

Mingkai Deng, Jinyu Hou, Lara Sá Neves, Varad Pimpalkhute, Taylor W. Killian, Zhengzhong Liu, Eric P. Xing

机构 * Institute of Foundation Models (IFM)（基础模型研究所） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 规划推理 ：reasoning(title,abstract)；planning(title,abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过分解决策过程为三个系统：模拟推理、自我调节和反应执行，来提升代理推理的效率，并展示了SR$^2$AM模型在不同任务中的表现。

Comments Code and model artifacts are available at https://github.com/sailing-lab/sr2am

General Agentic Planning Through Simulative Reasoning with World Models

通过世界模型的模拟推理实现通用代理规划

Mingkai Deng, Jinyu Hou, Zhiting Hu, Eric Xing

机构 * Institute of Foundation Models (IFM)（基础模型研究所） ； Carnegie Mellon University（卡内基梅隆大学） ； UC San Diego（南加州大学） 纠错

专题命中 规划推理 ：reasoning(title,abstract)；planning(title,abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出通过模拟推理实现通用代理规划，利用世界模型进行未来状态预测，提升决策能力，通过SiRA架构在不同任务中取得更高任务完成率。

Comments Winner of Berkeley LLM Agents Hackathon (Fundamentals Track); code available at https://github.com/sailing-lab/sira

LLM Agents Already Know When to Call Tools -- Even Without Reasoning

LLM Agents Already Know When to Call Tools -- Even Without Reasoning

Chung-En Sun, Linbo Liu, Ge Yan, Zimo Wang, Tsui-Wei Weng

机构 * University of California, San Diego（加州大学圣地亚哥分校） 纠错

专题命中 规划推理 ：reasoning(title,title_cn)；分类 cs.CL

AI总结 本文提出When2Tool基准，通过18个环境研究工具调用的必要性，发现模型已能识别何时需要调用工具，但生成时未能有效利用此知识，提出Probe&Prefill方法显著减少工具调用。

Bernini: Latent Semantic Planning for Video Diffusion

Bernini: 视频扩散中的潜在语义规划

Bernini Team, Chenchen Liu, Junyi Chen, Lei Li, Lu Chi, Mingzhen Sun, Zhuoying Li, Yi Fu, Ruoyu Guo, Yiheng Wu, Ge Bai, Zehuan Yuan

机构 * Bernini Team（伯尼尼团队） 纠错

专题命中 规划推理 ：planning(title,abstract)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.AI

AI总结 本文提出Bernini框架，通过将大规模多模态语言模型用于语义规划，扩散模型用于像素生成，实现了视频生成与编辑的统一方法，提升了编辑任务的泛化能力。

Comments Project Page: https://bernini-ai.github.io/

NaviAgent: Graph-Driven Bilevel Planning for Scalable Tool Orchestration

NaviAgent: 一种基于图的双层规划用于可扩展的工具编排

Yan Jiang, Hao Zhou, Lizhong GU, Tianlong Li, Ruinan Jin, Wanqi Zhou, Ai Han

机构 * Department of Electrical and Computer Engineering, The Ohio State University, USA（电气与计算机工程系，俄亥俄州立大学，美国） 纠错

专题命中 规划推理 ：planning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出NaviAgent，一种基于图的双层规划框架，通过解耦任务规划与工具执行，提升大规模工具编排的可扩展性和鲁棒性，实验表明其在任务成功率和实际应用中表现优异。

Comments Accepted to ICML 2026

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML), 2026

Planning in the LLM Era: Building for Reliability and Efficiency

在大语言模型时代进行规划：构建可靠性与效率

Michael Katz, Harsha Kokel, Kavitha Srinivas, Shirin Sohrabi

专题命中 规划推理 ：planning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文探讨了在大语言模型时代规划领域的发展，重点介绍了通过生成可验证的符号求解器来提高规划的可靠性和效率的方法。

Comments Published at ICAPS 2026

Protein Thoughts: Interpretable Reasoning with Tree of Thoughts and Embedding-Space Flow Matching for Protein-Protein Interaction Discovery

蛋白质思想：基于树 of 思维和嵌入空间流匹配的可解释推理用于蛋白质-蛋白质相互作用发现

Kingsley Yeon, Xuefeng Liu, Promit Ghosal

机构 * Department of Statistics and CCAM University of Chicago（统计学系和CCAM大学芝加哥分校） ； School of Medicine Stanford University（医学学院斯坦福大学） ； Department of Statistics University of Chicago（统计学系芝加哥大学） 纠错

专题命中 规划推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种可解释的蛋白质-蛋白质相互作用发现框架，通过显式推理将PPI发现转化为可解释的搜索问题，利用嵌入空间流匹配和树 of 思维搜索方法提升预测精度和可解释性。

LiteCoOp: Lightweight Multi-LLM Shared-Tree Reasoning for Model-Serving Compiler Optimizations

LiteCoOp: 轻量级多语言模型共享树推理用于模型服务编译器优化

Annabelle Sujun Tang, Christopher Priebe, Lianhui Qin, Hadi Esmaeilzadeh

机构 * A lternative C omputing T echnologies ( ACT ) Lab（替代计算技术实验室） ； University of California San Diego（加州大学圣地亚哥分校） 纠错

专题命中 规划推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出LiteCoOp，一种轻量级框架，通过将优化搜索树本身作为多语言模型协作机制，实现编译器优化过程中异构语言模型的协作，从而在降低编译成本的同时提升性能。

IdleSpec: Exploiting Idle Time via Speculative Planning for LLM Agents

IdleSpec: 通过投机规划利用空闲时间用于LLM代理

Daewon Choi, Kyunghyun Park, Woomin Song, Saket Dingliwal, Sai Muralidhar Jayanthi, Jinwoo Shin, Aram Galstyan

机构 * KAIST（韩国科学技术院） ； Amazon AGI（亚马逊人工智慧实验室） ； Together AI 纠错

专题命中 规划推理 ：planning(title)；reasoning(abstract)；分类 cs.AI

AI总结 本文提出IdleSpec，一种利用空闲时间提升LLM代理性能的方法，通过在空闲期间生成计划候选并减少延迟开销，从而在多种代理场景中显著提高性能。