大模型推理能力

Reasoning about Reasoning: BAPO Bounds on Chain-of-Thought Token Complexity in LLMs

关于推理的推理：LLM中思维链令牌复杂度的BAPO界限

Kiran Tomlinson, Tobias Schnabel, Adith Swaminathan, Jennifer Neville

机构 * Microsoft Research, Redmond, WA（微软研究院，西雅图，华盛顿） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；chain-of-thought(title,abstract)；CoT(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 通过扩展BAPO模型，证明二元多数、三元组匹配和图可达性三个任务需要Ω(n)个思维链令牌，实验验证了线性缩放与理论下界一致。

Comments 31 pages; accepted to ICML '26

Opt-Verifier: Unleashing the Power of LLMs for Optimization Modeling via Dual-Side Verification

Opt-Verifier：通过双面验证释放大语言模型在优化建模中的潜力

Haoyang Liu, Jie Wang, Boxuan Niu, Xiongwei Han, Yian Xu, Mingxuan Ye, Zijie Geng, Fangzhou Zhu, Tao Zhong, Mingxuan Yuan, Jianye Hao

机构 * MoE Key Laboratory of Brain-inspired Intelligent Perception and Cognition（脑启发式感知与认知MoE实验室） ； University of Science and Technology of China（中国科学技术大学） ； Noah's Ark Lab, Huawei Technologies（华为技术诺亚实验室） ； Tianjin University（天津大学） 纠错

专题命中 测试时计算 ：verifier(title,title_cn)；分类 cs.AI

AI总结 提出Opt-Verifier框架，通过结构侧和解决方案侧的双面验证，利用大语言模型自动构建数学优化模型，显著提升建模准确性。

Journal ref International Conference on Machine Learning (ICML), 2026

Conformal Certification of Reasoning Trace Prefixes

推理轨迹前缀的保形认证

Matt Y. Cheung, Ashok Veeraraghavan, Hanjie Chen, Guha Balakrishnan

机构 * Department of Electrical & Computer Engineering, Rice University（电气与计算机工程系，里士满大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；verifier(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出CROP方法，通过保形校准选择阈值，返回最长无错前缀，并控制错误包含概率，平衡保留有效推理与丢弃误导后缀。

Comments Code available at https://github.com/matthewyccheung/crop

Unlocking the Working Memory of Large Language Models for Latent Reasoning

解锁大型语言模型的工作记忆以实现潜在推理

Lukas Aichberger, Sepp Hochreiter

机构 * ELLIS Unit Linz and LIT AI Lab, Institute for Machine Learning, Johannes Kepler University Linz, Austria（林茨ELLIS单元和LIT AI实验室，机器学习研究所，约翰·凯撒大学林茨，奥地利） ； NXAI GmbH, Linz, Austria（NXAI公司，林茨，奥地利） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；test-time compute(abstract)；分类 cs.CL、cs.AI

AI总结 提出一种名为RiM的潜在推理方法，通过固定记忆块替代自回归生成中间推理步骤，在单次前向传播中实现计算高效的潜在推理。

Comments Preprint

Cognitive Pivot Points and Visual Anchoring: Unveiling and Rectifying Hallucinations in Multimodal Reasoning Models

认知支点与视觉锚定：揭示并纠正多模态推理模型中的幻觉

Zhe Qian, Yanbiao Ma, Zhuohan Ouyang, Zhonghua Wang, Zhongxing Xu, Fei Luo, Xinyu Liu, Zongyuan Ge, Yike Guo, Jungong Han

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学 龙城人工智能学院） ； South China Agricultural University（华南农业大学） ； South China Normal University（华南师范大学） ； Monash University（莫纳什大学） ； Jishou University（吉首大学） ； Hong Kong University of Science and Technology（香港科技大学） ； Tsinghua University（清华大学） 纠错

专题命中 测试时计算 ：reasoning(title,abstract)；分类 cs.AI

AI总结 针对多模态大推理模型在长链推理中易产生幻觉的问题，提出V-STAR训练范式，通过分层视觉注意力奖励和强制反思机制，将视觉锚定引入推理过程以减轻幻觉。

Comments TPAMI under review

Revisiting the Effectiveness of LLM Pruning for Test-Time Scaling

重新审视LLM剪枝对测试时缩放的有效性

Ocean Monjur, Shahriar Kabir Nahin, Anshuman Chhabra

机构 * Bellini College of AI, Cybersecurity, and Computing（人工智能、网络安全与计算学院） 纠错

专题命中 测试时计算 ：reasoning(abstract)；test-time compute(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究非结构化剪枝对推理型大语言模型测试时缩放性能的影响，发现其优于结构化剪枝甚至有时超过未剪枝模型，并探讨了层间稀疏分配策略的作用。

Reinforcement Learning with Robust Rubric Rewards

基于稳健评分规则的强化学习

Ya-Qi Yu, Hao Wang, Fangyu Hong, Xiangyang Qu, Gaojie Wu, Qiaoyu Luo, Nuo Xu, Huixin Wang, Wuheng Xu, Yongxin Liao, Zihao Chen, Haonan Li, Ziming Li, Dezhi Peng, Minghui Liao, Jihao Wu, Haoyu Ren, Dandan Tu

机构 * Huawei Technologies Co., Ltd.（华为技术有限公司） 纠错

专题命中 测试时计算 ：reasoning(abstract)；verifier(abstract)；分类 cs.AI

AI总结 针对部分可验证的视觉-语言任务，提出RLR^3方法，通过双路径执行评分规则、最小暴露策略和层次聚合，实现从任务级到准则级验证的扩展，在15个基准上平均提升4.7分。

GRPO is Secretly a Process Reward Model

GRPO 秘密地是一个过程奖励模型

Michael Sullivan, Alexander Koller

机构 * Department of Language Science ； Technology, Saarland Informatics Campus, Saarland University, Saarbr \"u cken, Germany 纠错

专题命中 测试时计算 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文理论证明，使用结果奖励模型的 GRPO 强化学习算法等价于一个基于蒙特卡洛的过程奖励模型，并发现其缺陷，提出 λ-GRPO 改进，在推理任务上提升性能。

Comments 16 pages, 9 figures; accepted at ICML 2026

Rubric-Guided Process Reward for Stepwise Model Routing

基于评分准则的逐步模型路由过程奖励

Shenghao Ye, Yu Guo, Zhengheng Li, Shuangwu Chen, Jian Yang

机构 * University of Science and Technology of China（中国科学技术大学） ； Southeast University（东南大学） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） 纠错

专题命中 测试时计算 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 提出RoRo框架，通过收集路由轨迹、构建偏好对、训练Rubricor生成评估准则和Judge评分，结合过程与结果奖励优化路由策略，提升大型推理模型逐步路由的准确性和成本效率。

Comments 17 pages, 9 figures, submitted to EMNLP 2026

Label-Free Reinforcement Learning via Cross-Model Entropy

无标签强化学习：跨模型熵方法

Matt Gorbett, Hossein Shirazi

机构 * Independent Researcher（独立研究者） ； San Diego State University（圣地亚哥州立大学） 纠错

专题命中 测试时计算 ：verifier(abstract)；分类 cs.AI、cs.LG

AI总结 提出跨模型熵（CME）作为无标签奖励信号，用于强化学习后训练大语言模型，在开放指令遵循任务上优于基线方法。

MarginGate: Sparse Margin-Triggered Verification for Batch-Invariant LLM Inference

MarginGate: 用于批量不变LLM推理的稀疏边际触发验证

Kexin Chu, Yang Zhou, Wei Zhang

机构 * University of Connecticut（康涅狄格大学） ； UC Davis（加州大学戴维斯分校） 纠错

专题命中 测试时计算 ：verifier(abstract)；分类 cs.LG

AI总结 提出MarginGate方法，利用logit边际稀疏触发验证，仅对低边际步骤进行验证并修复，以低成本实现批量不变LLM推理的确定性解码。

Comments 13 pages, 5 figures, 11 tables

EvoRubric: Self-Evolving Rubric-Driven RL for Open-Ended Generation

EvoRubric: 用于开放生成的自我进化评分标准驱动强化学习

Xin Guan, Xiaomeng Hu, Shen Huang, Zhenyi Wang, Bo Zhang, Zijian Li, Pengjun Xie, Bo Liu, Jiuxin Cao

机构 * Tongyi Lab , Alibaba Group（通义实验室，阿里巴巴集团） 纠错

专题命中 测试时计算 ：verifier(abstract)；分类 cs.CL

AI总结 提出EvoRubric，一种单策略共进化强化学习框架，通过动态交替生成响应和评分标准，并引入多层验证机制，解决开放生成任务中缺乏明确奖励的问题，在医学、写作和科学领域超越传统静态和外部LLM驱动方法。

User-Aware Active Knowledge Acquisition for Emotional Support Dialogue

面向情感支持对话的用户感知主动知识获取

Mufan Xu, Kehai Chen, Jiahao Hu, Xinchao Xu, Muyun Yang, Tiejun Zhao, Min Zhang

机构 * Harbin Institute of Technology, China（哈尔滨工业大学） ； Baidu Inc., Beijing, China（百度公司） 纠错

专题命中 测试时计算 ：reasoning(abstract)；分类 cs.CL

AI总结 提出用户感知主动知识获取（UKA）框架，通过理论心智不确定性估计和主动学习，在情感支持对话中高效获取用户对齐的对话知识，提升对话质量和用户对齐。

TabPFN-3: Technical Report

TabPFN-3: 技术报告

Léo Grinsztajn, Klemens Flöge, Oscar Key, Felix Birkel, Philipp Jund, Brendan Roof, Mihir Manium, Shi Bin Hoo, Magnus Bühler, Anurag Garg, Dominik Safaric, Jake Robertson, Benjamin Jäger, Simone Alessi, Adrian Hayler, Vladyslav Moroshan, Lennart Purucker, Philipp Singer, Alan Arazi, Julien Siems, Jan Hendrik Metzen, Georg Grab, Nick Erickson, Siyuan Guo, Eliott Kalfon, Simon Bing, David Salinas, Clara Cornu, Lilly Charlotte Wehrhahn, Diana Kriuchkova, Kursat Kaya, Lydia Sidhoum, Marie Salmon, Jerry Chen, Madelon Hulsebos, Yann LeCun, Samuel Müller, Bernhard Schölkopf, Sauraj Gambhir, Noah Hollmann, Frank Hutter

机构 * Prior Labs 纠错

专题命中 测试时计算 ：test-time compute(abstract)；分类 cs.LG

AI总结 本文提出TabPFN-3，通过扩展训练数据和优化推理，在表格数据上实现最先进性能，并支持时间序列、关系数据和表格文本数据。

Do not be greedy, Think Twice: Sampling and Selection for Document-level Information Extraction

不要贪婪，三思而后行：文档级信息抽取的采样与选择

Mikel Zubillaga, Oscar Sainz, Oier Lopez de Lacalle, Eneko Agirre

机构 * HiTZ Center - Ixa, University of the Basque Country UPV/EHU（希茨中心 - Ixa，巴斯克国家大学UPV/EHU） 纠错

专题命中 测试时计算 ：reasoning(abstract)；分类 cs.CL

AI总结 提出ThinkTwice框架，通过采样生成多个候选模板并选择最优，利用无监督一致性和有监督奖励模型，在文档级信息抽取中超越贪婪解码方法。

Comments Submitted to EMNLP 2026