大模型推理能力

Policy-Guided Stepwise Model Routing for Cost-Effective Reasoning

基于策略的分步模型路由以实现高效推理

Wenwen Si, Insup Lee, Osbert Bastani

机构 * Department of Computer and Information Science（计算机与信息科学系） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.AI

AI总结 本文提出了一种基于策略的分步模型路由方法，通过强化学习和阈值校准优化性能与效率的平衡，提升了数学基准测试中的准确率与成本效率。

Multi-Agent Reasoning Improves Compute Efficiency: Pareto-Optimal Test-Time Scaling

多智能体推理提升计算效率：帕累托最优测试时缩放

Florian Valentin Wunderlich, Lars Benedikt Kaesberg, Jan Philip Wahle, Terry Ruas, Bela Gipp

机构 * University of Göttingen（戈滕堡大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.AI

AI总结 本文分析了多智能体推理策略的计算效率，通过实验确定在不同模型规模下，帕累托最优方法能以最低计算成本获得最高准确性，尤其在复杂任务中多智能体方法表现更优。

Comments Accepted at SRW at ACL 2026, long paper

LLM Reasoning Is Latent, Not the Chain of Thought

大语言模型的推理是潜在的，而非思维链

Wenshuo Wang

机构 * School of Future Technology, South China University of Technology, China（未来技术学院，华南理工大学，中国） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.AI

AI总结 本文提出大语言模型推理应研究为潜在状态轨迹形成而非表面思维链。研究指出，推理对象的定义影响了忠实性、可解释性、推理基准和推理时干预的主张。通过分离三个混淆因素，提出三种假设，发现当前证据更支持潜在状态轨迹作为默认假设。

Beyond Test-Time Compute Strategies: Advocating Energy-per-Token in LLM Inference

超越测试时计算策略：倡导语言模型推理中的能耗-token指标

Patrick Wilhelm, Thorsten Wittkopp, Odej Kao

机构 * Technische Universität Berlin（柏林技术大学） 纠错

专题命中 测试时计算 ：test-time compute(title,abstract)；reasoning(abstract)；chain-of-thought(abstract)；CoT(abstract)

AI总结 本文探讨了在小模型中测试时计算策略的能耗-准确率权衡，提出能耗-token指标和受控推理策略，以实现可持续的AI部署。

Journal ref EuroMLSys2025

$\textbf{Re}^{2}$: Unlocking LLM Reasoning via Reinforcement Learning with Re-solving

Re²：通过强化学习与重解解锁LLM推理

Pinzheng Wang, Shuli Xu, Juntao Li, Yu Luo, Dong Li, Jianye Hao, Min Zhang

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；test-time compute(abstract)

AI总结 Re²通过强化学习与重解方法，使LLM能够灵活放弃无效推理路径并重新开始，从而提升推理性能和测试效率。

Comments Accepted by ICLR 2026

Reasoning Models Struggle to Control their Chains of Thought

推理模型难以控制其推理链

Chen Yueh-Han, Robert McCarthy, Bruce W. Lee, He He, Ian Kivlichan, Bowen Baker, Micah Carroll, Tomek Korbak

机构 * NYU（纽约大学） ； MATS（马歇尔应用科学与技术学院） ； UCL（伦敦大学学院） ； UPenn（宾夕法尼亚大学） ； OpenAI 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；test-time compute(abstract)

AI总结 研究发现推理模型的CoT可控性低于输出可控性，且受模型规模、训练和问题难度影响，建议未来跟踪CoT可控性以维持监控有效性。

Efficient Paths and Dense Rewards: Probabilistic Flow Reasoning for Large Language Models

高效路径与密集奖励：用于大语言模型的概率流推理

Yan Liu, Feng Zhang, Zhanyu Ma, Jun Xu, Jiuchong Gao, Jinghua Hao, Renqing He, Han Liu, Yangdong Deng

机构 * Meituan（美团） ； Tsinghua University（清华大学） ； Peking University（北京大学） ； Dalian University of Technology（大连理工大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；verifier(abstract)

AI总结 CoT-Flow通过概率流框架提升大语言模型的推理效率与性能，采用流引导解码和流强化学习方法实现信息高效推理路径和密集奖励函数。

To Backtrack or Not to Backtrack: When Sequential Search Limits Model Reasoning

Tian Qin, David Alvarez-Melis, Samy Jelassi, Eran Malach

机构 * Harvard University（哈佛大学） ； Kempner Institute（凯普纳研究所） ； MSR（微软研究院） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；test-time compute(abstract)

Comments COLM 2025 Camera Ready

On Generalization across Measurement Systems: LLMs Entail More Test-Time Compute for Underrepresented Cultures

Minh Duc Bui, Kyung Eun Park, Goran Glavaš, Fabian David Schmidt, Katharina von der Wense

机构 * Johannes Gutenberg University Mainz（明斯特-雅各布大学） ； University of Mannheim（曼海姆大学） ； Center For Artificial Intelligence and Data Science, University of Würzburg（乌尔姆大学人工智能与数据科学中心） ； University of Colorado Boulder（科罗拉多大学博尔德分校） 纠错

专题命中 测试时计算 ：test-time compute(title,abstract)；reasoning(abstract)；chain-of-thought(abstract)；CoT(abstract)

Comments Accepted to ACL 2025 Main (Camera-Ready Version)

Scaling LLM Reasoning from Minimal Labels: A Semi-Supervised Framework with a Lightweight Verifier

从最小标签扩展LLM推理：一种带有轻量级验证器的半监督框架

Keizo Kato, Chenhui Chu, Yugo Murawaki, Sado Kurohashi

机构 * Fujitsu Limited（富士通株式会社） ； Kyoto University（京都大学） ； National Institute of Informatics（国立信息学研究所） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；verifier(title)；分类 cs.CL、cs.AI

AI总结 提出半监督框架，用轻量级推理正确性分类器和熵过滤从少量标注数据生成高质量伪推理链，在数学和视觉问答任务上达到10-15倍标注数据效果。

Comments LREC 2026. Section 3.3 is updated

Taiji: Pareto Optimal Policy Optimization with Semantics-IDs Trade-off for Industrial LLM-Enhanced Recommendation

Taiji: 面向工业LLM增强推荐的帕累托最优策略优化与语义ID权衡

Yuecheng Li, Zeyu Song, Jing Yao, Chi Lu, Peng Jiang, Kun Gai

机构 * Kuaishou Technology（快手科技） ； Unaffiliated（无隶属） 纠错

专题命中 测试时计算 ：CoT(summary_cn,abstract)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.AI

AI总结 提出Taiji框架，通过逆向工程推理和开放拒绝采样生成高质量CoT数据，并采用帕累托最优策略优化（POPO）自适应调整跨域奖励权重，实现LLM语义知识与推荐ID特征的帕累托最优权衡，在快手广告平台部署后服务超4亿日活用户。

Comments 8 pages, 2 figures

LaRec: Unleashing LLM-based Latent Reasoning for Generative Recommendation

LaRec：释放基于大语言模型的生成式推荐中的潜在推理能力

Yu Xia, Zihan Lin, Wei Yang, Rui Zhong, Cheng Chen, Huan Ren, Yao Hu

专题命中 测试时计算 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)

AI总结 研究针对LLMs在推荐中现有方法的问题，提出LaRec框架。核心方法是通过潜在预训练赋予潜在推理能力，用个性化强化学习调整引导遍历多样推理路径。主要贡献是在多数据集实验中，以相当效率显著超越现有基线。

ThinkBooster: A Unified Framework for Seamless Test-Time Scaling of LLM Reasoning

ThinkBooster: 一种用于LLM推理无缝测试时扩展的统一框架

Vladislav Smirnov, Chieu Nguyen, Sergey Senichev, Minh Ngoc Ta, Ekaterina Fadeeva, Artem Vazhentsev, Daria Galimzianova, Nikolai Rozanov, Viktor Mazanov, Jingwei Ni, Tianyi Wu, Igor Kiselev, Mrinmaya Sachan, Iryna Gurevych, Preslav Nakov, Timothy Baldwin, Artem Shelmanov

机构 * MBZUAI ； ETH Zürich（苏黎世联邦理工学院） ； Imperial College London（伦敦帝国理工学院） ； NUS（国立大学新加坡） ； Accenture（埃森哲） ； Innopolis University（因诺普里斯大学） ； Independent Researcher（独立研究者） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；test-time compute(abstract)；verifier(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出ThinkBooster框架，通过模块化库、联合评估基准和可部署代理服务，实现LLM推理的测试时计算扩展，在数学和编码任务上验证了性能-计算权衡。

Effective Reasoning Chains Reduce Intrinsic Dimensionality

有效推理链降低内在维度

Archiki Prasad, Mandar Joshi, Kenton Lee, Mohit Bansal, Peter Shaw

机构 * Google DeepMind（谷歌DeepMind） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过内在维度量化推理链有效性，发现有效推理策略能降低任务内在维度，并在GSM8K上验证其与泛化性能的强负相关。

Comments ICML (spotlight) camera-ready; 22 pages, 3 figures

Stop Overthinking: Unlocking Efficient Listwise Reranking with Minimal Reasoning

停止过度思考：通过最小推理解锁高效的列表级重排序

Danyang Liu, Kan Li

专题命中 测试时计算 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)

AI总结 本文提出Length-Regularized Self-Distillation框架，通过合成高效推理数据集，减少推理成本，提升列表级重排序效果。

Is Chain-of-Thought Really Not Explainability? Chain-of-Thought Can Be Faithful without Hint Verbalization

链式推理真的不可解释性吗？链式推理可以在不提示 verbalization 的情况下保持忠实

Kerem Zaman, Shashank Srivastava

机构 * UNC Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 测试时计算 ：chain-of-thought(title)；CoT(abstract,abstract_cn)；reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文挑战了链式推理的忠实性定义，指出基于提示注入的偏差特征指标过于狭隘，通过新指标显示推理预算影响提示 verbalization，并通过因果中介分析证明非 verbalized 提示可通过链式推理影响预测，呼吁更广泛的可解释性工具。

Comments Accepted to ACL 2026. 23 pages, 29 figures, 6 tables

Understanding and Steering the Cognitive Behaviors of Reasoning Models at Test-Time

在测试时理解并引导推理模型的认知行为

Zhenyu Zhang, Xiaoxia Wu, Zhongzhu Zhou, Qingyang Wu, Yineng Zhang, Pragaash Ponnusamy, Harikaran Subbaraj, Jue Wang, Shuaiwen Leon Song, Ben Athiwaratkun

机构 * University of Texas at Austin（德克萨斯大学奥斯汀分校） ； Together AI ； University of Sydney（悉尼大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 CREST通过引导推理模型的认知行为，提高推理准确性和效率，减少计算成本。

When To Solve, When To Verify: Compute-Optimal Problem Solving and Generative Verification for LLM Reasoning

Nishad Singhi, Hritik Bansal, Arian Hosseini, Aditya Grover, Kai-Wei Chang, Marcus Rohrbach, Anna Rohrbach

机构 * TU Darmstadt（图恩-达姆施塔特技术大学） ； UCLA（加州大学洛杉矶分校） ； Google Deepmind（谷歌DeepMind） ； Mila（蒙特利尔人工智能研究院） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；test-time compute(abstract)；verifier(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments COLM 2025

SCI-Verifier: Scientific Verifier with Thinking

Shenghe Zheng, Chenyu Huang, Fangchen Yu, Junchi Yao, Jingqi Ye, Tao Chen, Yun Luo, Ning Ding, LEI BAI, Ganqu Cui, Peng Ye

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； Harbin Institute of Technology（哈尔滨工业大学） ； Fudan University（复旦大学） ； CUHK（香港中文大学） ； Tsinghua University（清华大学） ； CUHK-Shenzhen（香港中文大学深圳校区） ； UESTC（电子科技大学） ； USTC（中国科学技术大学） 纠错

专题命中 测试时计算 ：verifier(title,abstract)；reasoning(abstract)；logical reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments This paper focuses on LLM-as-a-Judge, and the project is currently in progress

Mind Your Step (by Step): Chain-of-Thought can Reduce Performance on Tasks where Thinking Makes Humans Worse

Ryan Liu, Jiayi Geng, Addison J. Wu, Ilia Sucholutsky, Tania Lombrozo, Thomas L. Griffiths

机构 * Department of Computer Science, Princeton University, Princeton, NJ, USA（计算机科学系，普林斯顿大学） ； NYU Center for Data Science, New York University, New York, NY, USA（纽约大学数据科学中心） ； Department of Psychology, Princeton University, Princeton, NJ, USA（心理学系，普林斯顿大学） 纠错

专题命中 测试时计算 ：chain-of-thought(title,abstract)；reasoning(abstract)；CoT(abstract)；分类 cs.CL、cs.AI、cs.LG

Self-Training Elicits Concise Reasoning in Large Language Models

Tergel Munkhbat, Namgyu Ho, Seo Hyun Kim, Yongjin Yang, Yujin Kim, Se-Young Yun

机构 * KAIST AI（韩国科学技术院人工智能研究所） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI、cs.LG

Comments 26 pages, 10 figures, 23 tables. Accepted to Findings of ACL 2025

Optimizing Chain-of-Thought Reasoners via Gradient Variance Minimization in Rejection Sampling and RL

Jiarui Yao, Yifan Hao, Hanning Zhang, Hanze Dong, Wei Xiong, Nan Jiang, Tong Zhang

专题命中 测试时计算 ：chain-of-thought(title,abstract)；reasoning(abstract)；CoT(abstract)；分类 cs.CL、cs.AI、cs.LG

Optimizing Test-Time Compute via Meta Reinforcement Fine-Tuning

Yuxiao Qu, Matthew Y. R. Yang, Amrith Setlur, Lewis Tunstall, Edward Emanuel Beeching, Ruslan Salakhutdinov, Aviral Kumar

专题命中 测试时计算 ：test-time compute(title,abstract)；reasoning(abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

Language Models are Hidden Reasoners: Unlocking Latent Reasoning Capabilities via Self-Rewarding

Haolin Chen, Yihao Feng, Zuxin Liu, Weiran Yao, Akshara Prabhakar, Shelby Heinecke, Ricky Ho, Phil Mui, Silvio Savarese, Caiming Xiong, Huan Wang

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI、cs.LG

Dual-Head Reasoning Distillation: Improving Classifier Accuracy with Train-Time-Only Reasoning

Jillian Xu, Dylan Zhou, Vinay Shukla, Yang Yang, Junrui Ruan, Shuhuai Lin, Wenfei Zou, Yinxiao Liu, Karthik Lakshmanan

机构 * University of Waterloo（滑铁卢大学） ； Google（谷歌） ； DeepMind（深Mind） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI

Comments 39th Conference on Neural Information Processing Systems (NeurIPS 2025) Efficient Reasoning Workshop

Transformers with RL or SFT Provably Learn Sparse Boolean Functions, But Differently

带RL或SFT的Transformer可证明学习稀疏布尔函数，但方式不同

Bochen Lyu, Yiyang Jia, Xiaohao Cai, Zhanxing Zhu

机构 * School of Electronics and Computer Science, University of Southampton, United Kingdom（南安普顿大学电子与计算机科学学院，英国） ； Independent Researcher（独立研究员） 纠错

专题命中 测试时计算 ：CoT(summary_cn,abstract)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.LG

AI总结 本文通过统一分析RL（过程奖励）和SFT微调Transformer学习可递归分解的k-稀疏布尔函数的动态，证明两者都能学习k-PARITY、k-AND、k-OR等函数，但RL同时学习整个CoT链，而SFT逐步学习。

Comments ICML 2026 final version. 50 pages

SoftCoT++: Test-Time Scaling with Soft Chain-of-Thought Reasoning

Yige Xu, Xu Guo, Zhiwei Zeng, Chunyan Miao

机构 * Joint NTU-UBC Research Centre of Excellence in Active Living for the Elderly（联合NTU-UBC老龄化积极生活卓越研究中心） ； Alibaba-NTU Global e-Sustainability CorpLab (ANGEL)（阿里巴巴-NTU全球可持续性企业实验室（ANGEL）） ； College of Computing and Data Science, Nanyang Technological University, Singapore（南洋理工大学计算与数据科学学院） ； KTH Royal Institute of Technology, Sweden（瑞典皇家理工学院） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(title)；分类 cs.CL

Comments 14 pages

Consilience for Verifier-Free Test-Time Scaling

无验证器的测试时扩展的一致性方法

Lecheng Kong, Like Hui, Haitao Mao, Jun Huan

专题命中 测试时计算 ：verifier(title,abstract)；reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本文针对现有基于置信度的无验证器测试时扩展（VF-TTS）方法在复杂任务上失效的问题，提出一致性（consilience）框架，通过评估置信度时间不对称性提升LLM推理性能，在数学和代码生成任务上优于基线。

GradCuit: Credit-Assigned Gradient Flow Enables Robust and Interpretable Test-Time Latent Reasoning

GradCuit：信用分配梯度流实现鲁棒且可解释的测试时潜在推理

Zhaoxin Yu, Qi Shen, Hengli Li, Zhaowei Zhang, Song-Chun Zhu, Chi Zhang, Zilong Zheng

机构 * Beijing Institute for General Artificial Intelligence（北京通用人工智能研究院） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； School of Artificial Intelligence, Beijing University of Posts and Telecommunications（北京邮电大学人工智能学院） ； School of Artificial Intelligence for Science, Peking University（北京大学科学人工智能学院） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract,abstract_cn)；分类 cs.CL、cs.LG

AI总结 GradCuit在测试时插入可优化潜在状态，实现序列级信用分配，在多基准上准确率优于同类方法，且鲁棒性、可解释性更强，为LLM测试时推理扩展提供新方向。

C2F-Thinker: Coarse-to-Fine Reasoning with Hint-Guided Reinforcement Learning for Multimodal Sentiment Analysis

C2F-Thinker：基于提示引导强化学习的粗到细推理用于多模态情感分析

Miaosen Luo, Zhenhao Yang, Jieshen Long, Jinghu Sun, Yichu Liu, Sijie Mai

机构 * School of Computer Science, South China Normal University（华南师范大学计算机科学学院） ； School of Electronic and Information Engineering, South China University of Technology（华南理工大学电子与信息工程学院） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出C2F-Thinker框架，通过粗到细结构推理与提示引导强化学习，提升多模态情感分析的可解释性和泛化能力。