大模型推理能力

The Promise of RL for Autoregressive Image Editing

Saba Ahmadi, Rabiul Awal, Ankur Sikarwar, Amirhossein Kazemnejad, Ge Ya Luo, Juan A. Rodriguez, Sai Rajeswar, Siva Reddy, Christopher Pal, Benno Krojer, Aishwarya Agrawal

机构 * Mila – Quebec AI Institute（魁北克AI研究所） ； Université de Montréal（蒙特利尔大学） ； McGill University（麦吉尔大学） ； École de Technologie Supérieure (ETS)（高等技术学院） ； Polytechnique Montréal（蒙特利尔理工学院） ； ServiceNow（ServiceNow公司） ； Canada CIFAR AI Chair（加拿大CIFAR人工智能主席） 纠错

专题命中 测试时计算 ：reasoning(abstract)；chain-of-thought(abstract)；CoT(abstract)；verifier(abstract)

Generative Verifiers: Reward Modeling as Next-Token Prediction

Lunjun Zhang, Arian Hosseini, Hritik Bansal, Mehran Kazemi, Aviral Kumar, Rishabh Agarwal

专题命中 测试时计算 ：reasoning(abstract)；chain-of-thought(abstract)；test-time compute(abstract)；verifier(abstract)

Comments ICLR 2025

ProRefine: Inference-Time Prompt Refinement with Textual Feedback

Deepak Pandita, Tharindu Cyril Weerasooriya, Ankit Parag Shah, Isabelle Diana May-Xin Ng, Christopher M. Homan, Wei Wei

机构 * Center for Advanced AI, Accenture（高级人工智能研究中心，Accenture） ； Rochester Institute of Technology（罗切斯特理工学院） ； UC Berkeley（加州大学伯克利分校） 纠错

专题命中 测试时计算 ：reasoning(abstract,comments)；chain-of-thought(abstract)；planning(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments Workshop on Efficient Reasoning at NeurIPS 2025

Self-Guided Adaptive Safety Alignment: Synthesizing and Internalizing Guidelines in Reasoning Models

自引导防御：通过合成指南实现推理模型的自适应安全对齐

Yuhang Wang, Yanxu Zhu, Jiaming Zhang, Dongyuan Lu, Jitao Sang

机构 * Beijing Key Lab of Traffic Data Analysis and Mining（北京交通大数据分析与挖掘重点实验室） ； Beijing Jiaotong University（北京交通大学） ； School of Information Technology and Management（信息科技与管理学院） ； University of International Business and Economics（国际经济贸易大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出SGASA框架，通过合成指南实现推理模型的自适应安全对齐，提升对抗性提示防御能力并减少对良性请求的拒绝。

Breaking the Exploration Bottleneck: Rubric-Scaffolded Reinforcement Learning for General LLM Reasoning

突破探索瓶颈：面向通用大语言模型推理的Rubric引导强化学习

Yang Zhou, Sunzhu Li, Shunyu Liu, Wenkai Fang, Kongcheng Zhang, Jiale Zhao, Jingwen Yang, Yihe Zhou, Jianwei Lv, Tongya Zheng, Hengtong Lu, Wei Chen, Yan Xie, Mingli Song

机构 * Zhejiang University（浙江大学） ； Li Auto Inc.（力汽车公司） ； Nanyang Technological University（南洋理工大学） ； The Chinese University of Hong Kong（香港中文大学） ； Hangzhou City University（杭州市大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Rubric-Scaffolded Reinforcement Learning，通过引入检查表式评分标准作为探索和利用的指导框架，突破通用大语言模型推理的探索瓶颈，提升推理能力。

DualityCert: Verifier-Gated Language-Model Repair of Broken Duality Claims in Quantum Field Theory

DualityCert：量子场论中对偶性声明修复的验证器门控语言模型

Xingyang Yu

专题命中 测试时计算 ：verifier(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对量子场论中对偶性声明修复，提出DualityCert验证器。语言模型代理接收错误声明编辑至通过验证，在预注册基准测试中，验证器门控重试等策略在不同模型上有不同表现，各获胜策略都用低成本证书，还发布了相关内容。

Comments 17 pages, 2 figures, 9 tables. v2: added reference and note on concurrent related work. Code, benchmark, and all per-attempt records: https://github.com/xingyang-yu/QFTCert

Agentic Root Cause Analysis through Evidence-Grounded Reasoning

通过基于证据的推理进行智能根本原因分析

Amaury Wei, Olga Fink

机构 * EPFL - IMOS Laboratory（洛桑联邦理工学院 - IMOS实验室） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究针对工业异常根本原因诊断依赖人工且现有数据驱动方法有局限的问题，提出AgentRCA框架，结合数字孪生和大语言模型进行推理，在实际设施上评估，性能与监督基线相当且能产生透明推理轨迹，为工业根本原因分析提供实用基础。

Comments 21 pages, 9 figures

Answer-Conditioned Chains of Thought Degrade Verifiable-Reasoning Distillation in Large Language Models

答案条件思维链降低大语言模型中的可验证推理蒸馏

Jungseob Lee, Seungyoon Lee, Suhyune Son, Dongyub Jude Lee, Sungbin Han, Sugyeong Eo, Heuiseok Lim

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究发现大语言模型推理能力蒸馏中，答案条件思维链会降低训练数据质量，导致可验证推理准确性下降，损失随难度增加，机制是从答案反向合理化，危害是数据属性，建议盲目生成答案。

Comments 13 pages, 4 figures, 14 tables. Code: https://github.com/js-lee-AI/answer-leakage

Depth-Entropy Guided Sampling for Training-Free LLM Reasoning

用于无训练语言模型推理的深度熵引导采样

Zibin Meng, Peng Xie, Kani Chen

机构 * The Hong Kong University of Science and Technology（香港科技大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究旨在提升无训练语言模型推理能力，提出深度熵引导采样（DEGS）方法，利用逐层熵坍缩作为质量信号，结合序列似然性与深度熵结构，在多个模型和基准测试中达到无训练最优精度，在域外和难题测试中表现出色。

PiCSAR: Probabilistic Confidence Selection And Ranking for Reasoning Chains

PiCSAR：基于推理链的概率置信度选择与排序

Joshua Ong Jun Leang, Zheng Zhao, Aryo Pradipta Gema, Sohee Yang, Wai-Chung Kwan, Xuanli He, Wenda Li, Pasquale Minervini, Eleonora Giunchiglia, Shay B. Cohen

机构 * Imperial College London（伦敦帝国学院） ； University of Edinburgh（爱丁堡大学） ； UCL（伦敦大学学院） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 PiCSAR通过联合对数似然度评估推理链和最终答案的置信度，无需训练即可提升大语言模型和推理模型的准确性，在多个基准测试中表现优异。

Journal ref Findings of the Association for Computational Linguistics: ACL 2026

Beyond Fixed Representations: The Vocabulary and Verifier Gaps in Open-Ended AI

超越固定表示：开放式人工智能中的词汇与验证差距

Yuan Cao, Haiqian Yang

机构 * MIT（麻省理工学院） 纠错

专题命中 测试时计算 ：verifier(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究指出当前人工智能系统虽能力强但表示框架固定，构建开放式智能需新操作。通过词汇和验证差距刻画与真正开放式智能的距离，基于智能行为的认知转换区分不同类型转换，进而提出创新自主性阶梯及推进开放式人工智能的方向。

MILES: Modular Instruction Memory with Learnable Selection for Self-Improving LLM Reasoning

MILES：用于自我改进的语言模型推理的具有可学习选择的模块化指令内存

Ruilin Tong, Dong Gong

机构 * University of New South Wales（新南威尔士大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究针对LLMs测试时推理问题，提出MILES框架，通过动态扩展内存及正确性优化的内存组合，利用模块化内存单元与可学习选择头实现粗到细检索机制，实验表明该框架在性能、效率及权衡上表现出色。

When Does In-Context Search Help? A Sampling-Complexity Theory of Reflection-Driven Reasoning

上下文搜索何时有用？基于反射驱动推理的采样复杂性理论

Yotam Wolf, Noam Wies, Amnon Shashua

机构 * The Hebrew University（希伯来大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究上下文搜索何时有用，通过将其建模为对推理轨迹的近似推理分析采样复杂性，表明反思能定位早期错误时可指数级改进，收益稳健可学习，还在强化学习抽象下验证了理论预测。

CLARity: Reasoning Consistency Alone Can Teach Reinforced Experts

CLARity：仅通过推理一致性即可教授强化专家

Jiuheng Lin, Cong Jiang, Zirui Wu, Jiarui Sun, Yansong Feng

机构 * Wangxuan Institute of Computer Technology, Peking University（北京大学王选计算机技术研究所） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 CLARity通过一致性感知奖励机制和两阶段精炼-监控训练流程，提升推理一致性，利用小规模通用LLM有效指导专家模型，实验显示在一致性与准确性上均有显著提升。

Comments ACL 2026 Main Conference

Curriculum Reinforcement Learning Can Incentivize Reasoning Capacity in LLMs Beyond the Base Model

课程强化学习可以激励LLMs超越基础模型的推理能力

Pengxiang Cai, Tianchen Fang, Xiaohan Li, Qingyuan Zeng, Guocong Li, Jintai Chen

机构 * The Hong Kong University of Science and Technology (Guangzhou)（香港科技大学（广州）） ； Nanyang Technological University（南洋理工大学） ； Zhejiang University（浙江大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出边界感知课程强化学习方法，通过定位推理能力边界、针对性教师引导和强化学习巩固，在Qwen、Llama和DeepSeek上同时提升pass@1和pass@256，平均pass@256比基础模型提升9.8个百分点。

Neural Concept Verifier: Scaling Prover-Verifier Games via Concept Encodings

神经概念验证器：通过概念编码扩展证明者-验证者博弈

Berkant Turan, Suhrab Asadulla, David Steinmann, Kristian Kersting, Wolfgang Stammer, Sebastian Pokutta

机构 * Zuse Institute Berlin, Germany ； AI \& ML Lab, Computer Science Department, TU Darmstadt ； Hessian Center for AI (hessian.AI) ； Lab1141 ； German Research Center for AI (DFKI) ； Institute of Mathematics, Technische Universit\"at Berlin, Germany ； Max Planck Institute for Informatics, SIC 纠错

专题命中 测试时计算 ：verifier(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出神经概念验证器（NCV）框架，结合概念编码与证明者-验证者博弈，实现高维输入的可验证分类，优于传统方法并缓解捷径行为。

Comments 28 pages, 5 figures, 12 tables, revised references. An earlier version of this work was presented at the ICML 2025 Workshop on Actionable Interpretability

LEPO: Latent Reasoning Policy Optimization for Large Language Models

LEPO：面向大语言模型的潜在推理策略优化

Yuyan Zhou, Jiarui Yu, Hande Dong, Zhezheng Hao, Hong Wang, Jianqing Zhang, Qiang Lin

机构 * Tencent（腾讯） ； Zhejiang University（浙江大学） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 LEPO通过引入Gumbel-Softmax在大语言模型中实现可控的随机性，提升其探索能力与强化学习兼容性，通过直接在连续潜在表示上应用强化学习，显著优于现有方法。

Reward-SQL: Boosting Text-to-SQL via Stepwise Execution-Aware Reasoning and Process-Supervised Rewards

Reward-SQL：通过逐步执行感知推理和过程监督奖励提升Text-to-SQL

Yuxin Zhang, Meihao Fan, Ju Fan, Mingyang Yi, Yuyu Luo, Guoliang Li, Bin Wu, Wenchao Zhou

机构 * Renmin University of China（中国人民大学） ； Tsinghua University（清华大学） ； Alibaba Cloud Computing（阿里云 computing） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 针对强化学习在Text-to-SQL中缺乏逐步执行感知推理和过程级奖励的问题，提出CoCTE框架和Reward-SQL方法，通过中间视图验证、结构化CTE及过程奖励模型，显著提升复杂查询的准确性和可解释性。

Sample-Efficient Post-Training for LEGO Spatial-Physics Reasoning

面向LEGO空间物理推理的样本高效后训练

Yuhuan Yuan, Zhouliang Yu, Minghao Liu, Weiyang Liu, Ge Lin Kan

机构 * HKUST(GZ)（香港科技大学（广州）） ； CUHK（香港中文大学） ； ZODA 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对LLM生成LEGO组装时出现的物理有效但几何语义错位问题，提出基于模型的数据选择方法和样本高效强化学习PVPO，结合体素空间几何奖励，提升结构、语义对齐和物理有效性。

Comments Technical Report V1, 15 pages, 6 figures, 3 tables

From Conflict to Consensus: Boosting Medical Reasoning via Multi-Round Agentic RAG

从冲突到共识：通过多轮代理RAG提升医疗推理

Wenhao Wu, Zhentao Tang, Yafu Li, Shixiong Kai, Mingxuan Yuan, Zhenhong Sun, Chunlin Chen, Zhi Wang

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MA-RAG框架，通过多轮代理循环迭代优化外部证据和内部推理历史，提升医疗复杂推理能力，实验显示在7个医疗问答基准上表现优于现有方法。

Comments 27 pages, 8 figures, 18 tables

Time Series Forecasting as Reasoning: A Slow-Thinking Approach with Reinforced LLMs

时间序列预测作为推理：一种基于强化LLM的慢思考方法

Yitong Zhou, Yucong Luo, Mingyue Cheng, Qi Liu, Jiahao Wang, Daoyu Wang, Enhong Chen

机构 * State Key Laboratory of Cognitive Intelligence, University of Science and Technology of China（认知智能国家重点实验室，中国科学技术大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出Time-R1框架，通过两阶段强化微调（监督微调+强化学习）训练LLM进行多步推理，以提升时间序列预测的准确性。

Visual Graph Scaffolds for Structural Reasoning in Large Language Models

大语言模型中用于结构推理的可视化图脚手架

Runlin Lei, Xiaokui Xiao, Zhewei Wei

机构 * University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出将图结构作为大语言模型的内部推理辅助而非仅外部知识源，通过多跳问答实验发现视觉图引导相比文本化图在无直接答案提示时仍保持有效性，支持图作为组织推理的可视化脚手架。

ThinkSwitch: Context Distillation with LoRA and Weight Interpolation for Specific-Purpose Reasoning Tasks

ThinkSwitch：基于LoRA和权重插值的上下文蒸馏用于特定目的推理任务

Dhruv Saini, Rohan Pandey

机构 * bellevue High School（贝尔维尤高中） ； DigitalOcean 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出ThinkSwitch方法，通过QLoRA蒸馏和球面权重插值协同训练指令模型和思考模型，在AIME 2026和PubMedQA上分别提升指令模型10/30→20/30和13/30→18/30，思考模型14/30→22/30和18/30→25/30，仅需15个训练提示和$2.86成本。

IAPO: Information-Aware Policy Optimization for Token-Efficient Reasoning

IAPO：面向令牌高效推理的信息感知策略优化

Yinhan He, Yaochen Zhu, Mingjia Shi, Wendy Zheng, Lin Su, Xiaoqing Wang, Qi Guo, Jundong Li

机构 * University of Virginia（弗吉尼亚大学） ； LinkedIn Inc.（LinkedIn公司） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 提出信息感知策略优化框架IAPO，通过基于条件互信息的令牌级优势塑造，在提升推理准确率的同时将推理长度减少高达36%。

Trust but Verify: Prover-Verifier Deliberation for Selective LLM Prediction

信任但验证：面向选择性LLM预测的证明者-验证者审议

João Sedoc, Baotong Zhang, Dean Foster

机构 * New York University（纽约大学） 纠错

专题命中 测试时计算 ：verifier(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出基于交互式证明理论的证明者-验证者审议协议，通过结构化置信度判定实现选择性预测，在GPQA Diamond上取得约30个百分点的高置信度精确率差距。

Selective Test-Time Compute Scaling for Click-Through Rate Prediction via Uncertainty-Triggered Feature Path Exploration

基于不确定性触发的特征路径探索的点击率预测选择性测试时计算扩展

Moyu Zhang, Yun Chen, Yujun Jin, Jinxin Hu, Yu Zhang, Xiaoyi Zeng

机构 * Alibaba Group（阿里巴巴集团） 纠错

专题命中 测试时计算 ：test-time compute(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对点击率预测中训练数据稀疏导致的不确定性，提出无需训练、模型无关的UTTSI框架，通过双信号估计器区分认知不确定性和偶然模糊性，对不确定实例进行自适应特征过滤和随机特征路径探索，在保持最坏延迟不变的情况下实现平均约2.8倍基础模型开销，实验和在线A/B测试均取得显著提升。

Comments 12 pages, 4 Figures, 3 Tables

PruneTIR: Inference-Time Tool Call Pruning for Effective yet Efficient Tool-Integrated Reasoning

PruneTIR: 在推理时工具调用剪枝以实现有效且高效的工具集成推理

Luan Zhang, Dandan Song, Zhijing Wu, Zhengyu Chen, Chen Zhang, Yuhang Tian, Huipeng Ma, Chenhao Li, Changzhi Zhou, Xudong Li, Shuhao Zhang

机构 * School of Computer Science and Technology, Beijing Institute of Technology, China（北京理工大学计算机科学与技术学院） ； School of Computer Science and Technology, Huazhong University of Science and Technology, China（华中科技大学计算机科学与技术学院） ； Independent, China（独立） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出PruneTIR框架，通过剪枝轨迹、重采样工具调用和暂停工具使用，提升已有工具能力LLM的推理能力，减少工作上下文长度并提高效率。

Retrieval-of-Thought: Efficient Reasoning via Reusing Thoughts

思想检索：通过重用思想实现高效推理

Ammar Ahmed, Azal Ahmad Khan, Ayaan Ahmad, Sheng Di, Zirui Liu, Ali Anwar

机构 * Department of Computer Science and Engineering, University of Minnesota（明尼苏达大学计算机科学与工程系） ； Department of Computer Science and Engineering, University of California Santa Cruz（加州大学圣克鲁兹分校计算机科学与工程系） ； Argonne National Laboratory（阿贡国家实验室） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RoT方法，通过重用先前推理步骤构建动态模板，减少冗余探索，提升推理效率，实验显示输出token减少40%，延迟降低82%，成本降低59%。

Meta-Reasoner: Dynamic Guidance for Optimized Inference-time Reasoning in Large Language Models

Meta-Reasoner：用于大型语言模型推理时间优化的动态指导

Yuan Sui, Yufei He, Tri Cao, Simeng Han, Yulin Chen, Bryan Hooi

机构 * National University of Singapore（新加坡国立大学） ； Yale University（耶鲁大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Meta-Reasoner框架，通过动态调整推理策略提升大语言模型的推理效率，实验显示在数学和科学任务中准确率提升9-12%，推理时间减少28-35%。

Comments Accepted by ACL'2026

Process Supervision via Verbal Critique Improves Reasoning in Large Language Models

通过口头批评过程监督提高大语言模型的推理能力

Hao-Yuan Chen

机构 * Mindify AI Research（Mindify AI研究院） ； University of London（伦敦大学） ； Senate House, Malet Street, London WC1E 7HU, United Kingdom（伦敦大学 Senate House, 马莱特街, 伦敦 WC1E 7HU, 英国） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出通过外部口头监督提升大语言模型推理能力的方法，通过结构化自然语言批评指导生成-批评-完善循环，提升推理性能和准确性。