大模型推理能力

LEAD: Length-Efficient Adaptive and Dynamic Reasoning for Large Language Models

LEAD：高效适应性与动态推理用于大语言模型

Songtao Wei, Yi Li, Zhikai Li, Xu Hu, Yuede Ji, Guanpeng Li, Feng Chen, Carl Yang, Zhichun Guo, Bingzhe Li

机构 * University of Texas at Dallas（德克萨斯大学达拉斯分校） ； Emory University（埃默里大学） ； Individual Researcher（独立研究员） ； University of Texas at Arlington（德克萨斯大学阿灵顿分校） ； University of Florida（佛罗里达大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract,abstract_cn)；CoT(abstract,abstract_cn)；分类 cs.AI、cs.LG

AI总结 LEAD通过动态校准正确性与效率的权衡，提升大语言模型的推理效率与准确性，实现更短的输出。

Mind-Paced Speaking: A Dual-Brain Approach to Real-Time Reasoning in Spoken Language Models

有意识说话：一种双脑方法用于语音语言模型中的实时推理

Donghang Wu, Haoyang Zhang, Jun Chen, Xiangyu, Zhang, Hexin Liu, Eng Siong Chng, Fei Tian, Xuerui Yang, Xiangyu Zhang, Daxin Jiang, Gang Yu

机构 * StepFun ； Nanyang Technological University（南洋理工大学） ； University of New South Wales（新南威尔士大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 本文提出Mind-Paced Speaking方法，通过双脑架构实现语音语言模型的实时推理，显著提升推理性能并降低延迟。

Dual Tuning for Reasoning Efficacy-Driven Data Curation in Multimodal LLM Training

双调优：面向多模态大语言模型训练的推理效能驱动的数据筛选

Ruobing Zheng, Tianqi Li, Jianing Li, Qingpei Guo, Yi Yuan, Jingdong Chen

机构 * Ant Group（蚂蚁集团） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 本文提出双调优框架，通过评估训练数据对推理训练的收益及推理训练的效能，指导多模态大语言模型的数据筛选与训练策略匹配。

Comments Project Page: https://digital-avatar.github.io/ai/ThinkingBoundary/

Verifier-Free RL for LLMs via Intrinsic Gradient-Norm Reward

通过内在梯度-范数奖励实现无需验证器的LLM强化学习

Xuexiang Wen, Hang Yu, Linchao Zhu, Gaoang Wang

机构 * Zhejiang University（浙江大学） ； Ant Group（蚂蚁集团） 纠错

专题命中 数学推理 ：verifier(title,abstract)；reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出VIGOR，一种无需外部验证器的强化学习奖励机制，通过内在偏好信号提升政策优化效果，在数学推理和代码基准测试中表现优于现有方法。

Comments Accepted to Findings of ACL 2026

Not All Thoughts Need HBM: Semantics-Aware Memory Hierarchy for LLM Reasoning

并非所有思考都需要HBM：面向LLM推理的语义感知内存层次结构

Aojie Yuan, Tianqi Shen, Dajun Zhang

机构 * University of Southern California（南加州大学） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出一种语义感知内存层次结构，通过累积注意力评分将token分为四个层级，减少HBM占用并提升推理准确性，实验表明仅3%的淘汰率可保持91%的GSM8K准确率。

Comments Preprint. 14 pages + appendix. Under review at AdaptFM Workshop @ ICML 2026

Reasoning-Aware Training for Time Series Forecasting

面向时间序列预测的推理感知训练

Md Atik Ahamed, Mihir Parmar, Palash Goyal, Chun-Liang Li, Qiang Cheng, Tomas Pfister, Jinsung Yoon

机构 * Google（谷歌） ； University of Kentucky（肯塔基大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出STRIDE框架，通过将LLM推理注入到时间序列基础模型的连续嵌入空间中，提升数值预测的准确性和可解释性。

Rethinking RL for LLM Reasoning: It's Sparse Policy Selection, Not Capability Learning

重新思考LLM推理中的强化学习：不是能力学习，而是稀疏策略选择

Ömer Faruk Akgül, Rajgopal Kannan, Willie Neiswanger, Viktor Prasanna

机构 * University of Southern California（南加州大学） ； DEVCOM ARL ReasonMaxxer 纠错

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(abstract)；分类 cs.CL

AI总结 本文通过分析发现强化学习在LLM推理中主要通过稀疏修正提升性能，提出无需强化学习的ReasonMaxxer方法，仅需少量基础模型推理即可达到与强化学习相当的效果。

Schoenfeld's Anatomy of Mathematical Reasoning by Language Models

语言模型的数学推理解剖：Schoenfeld的推理结构

Ming Li, Chenrui Fan, Yize Cheng, Soheil Feizi, Tianyi Zhou

机构 * University of Maryland, College Park（马里兰大学学院公园分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过Schoenfeld的事件理论，提出ThinkARM框架，解剖语言模型的推理过程，揭示推理与非推理模型在结构上的差异，并通过案例研究展示探索步骤与正确性及效率方法的影响。

Comments ACL2026, camera-ready

PrAg-PO: Prompt Augmented Policy Optimization for Robust and Diverse Mathematical Reasoning

PrAg-PO：用于鲁棒且多样数学推理的提示增强策略优化

Wenquan Lu, Hai Huang, Enqi Liu, Randall Balestriero

机构 * Brown University（布朗大学） ； Palona AI ； Harvard University（哈佛大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出PrAg-PO，通过混合提示模板与特定格式奖励提升大语言模型的数学推理能力，增强鲁棒性和多样性，优于GRPO和DAPO。

Reasoning Is Not Free: Robust Adaptive Cost-Efficient Routing for LLM-as-a-Judge

推理并非免费：面向LLM-as-a-Judge的鲁棒自适应成本高效路由

Wenbo Zhang, Lijinghua Zhang, Liner Xiang, Hengrui Cai

机构 * Department of Statistics, University of California, Irvine, USA（加州大学伊维特分校统计学系） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文通过对比推理与非推理法官，发现推理在结构验证任务中提升准确性，但成本高。提出RACER方法，通过分布鲁棒优化动态选择推理或非推理法官，实现成本效率的最优平衡。

Comments Accepted at ICML 2026

Restoring Exploration after Post-Training: Latent Exploration Decoding for Large Reasoning Models

训练后探索恢复：大型推理模型的潜在探索解码

Wenhui Tan, Fiorenzo Parascandolo, Enver Sangineto, Jianzhong Ju, Zhenbo Luo, Qian Cao, Rita Cucchiara, Ruihua Song, Jian Luan

机构 * Gaoling School of Artificial Intelligence, Renmin University of China, Beijing, China（中国人民大学北京校区人工智能学院） ； MiLM Plus, Xiaomi Inc., Beijing, China（小米公司北京MiLM Plus团队） ； University of Modena and Reggio Emilia（莫德纳和雷吉奥艾米莉亚大学） ； University of Pisa, Italy（比萨大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出Latent Exploration Decoding方法，通过累积中间后验并选择熵最大配置来提升推理模型的pass@1和pass@16准确率，同时增强强化学习中的探索能力。

Comments Project Page: https://github.com/AlbertTan404/LED

Beyond Language: Format-Agnostic Reasoning Subspaces in Large Language Models

超越语言：大型语言模型中的格式无关推理子空间

Aojie Yuan, Zhiyuan Su

机构 * University of Southern California（南加州大学） ； Duke University（杜克大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 研究揭示大型语言模型中存在格式无关推理子空间（FARS），通过TriForm基准测试发现，FARS能增强概念结构并抑制形式信息，且在不同架构中表现一致，支持柏拉图表示假设。

Comments Preprint. 13 pages, 13 figures, 12 tables

Rethinking Expert Trajectory Utilization in LLM Post-training for Mathematical Reasoning

重新思考在LLM后训练中专家轨迹的利用

Bowen Ding, Yuhan Chen, Jiayang Lyv, Jiyao Yuan, Qi Zhu, Shuangshuang Tian, Dantong Zhu, Futing Wang, Heyuan Deng, Fei Mi, Lifeng Shang, Tao Lin

机构 * Zhejiang University（浙江大学） ； School of Engineering, Westlake University（西湖大学工程学院） ； Institute of Advanced Technology, Westlake Institute for Advanced Study（西湖先进研究院技术研究所） ； Huawei Noah’s Ark Lab（华为诺亚实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出Plasticity-Ceiling框架，通过分解最终性能上限，揭示SFT与RL的协同优化方法，建立SFT-然后-RL的流水线，解决同步方法的稳定性问题，并提供精确的缩放指南。

Comments ACL-26, Main Conference

Validity-Calibrated Reasoning Distillation

有效性校准的推理蒸馏

Khouloud Saadi, Di Wang

机构 * Department of Computer Science（计算机科学系） ； KAUST（科威特大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出有效性校准的推理蒸馏框架，通过动态监督机制优化学习信号分配，提升数学推理、代码生成和指令遵循任务的性能。

NoisyCoconut: Counterfactual Consensus via Latent Space Reasoning

NoisyCoconut：通过潜在空间推理实现反事实共识

Michael Jerge, David Evans

机构 * University of Virginia（弗吉尼亚大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 NoisyCoconut通过在潜在空间中注入可控噪声生成多样化推理路径，利用路径一致性的置信度信号提升大语言模型可靠性，无需重新训练即可在多个推理基准中实现有效的覆盖-准确率权衡。

M2A: Synergizing Mathematical and Agentic Reasoning in Large Language Models

M2A：在大型语言模型中协同数学与代理推理

Junjian Wang, Xin Zhou, Qiran Xu, Kun Zhan

机构 * Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） ； Li Auto Inc.（Li Auto公司） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出M2A框架，通过模型融合协同数学与代理推理，提升多任务学习下的推理稳定性与性能。

Crosslingual On-Policy Self-Distillation for Multilingual Reasoning

跨语言在线策略自蒸馏用于多语言推理

Yihong Liu, Raoyuan Zhao, Michael A. Hedderich, Hinrich Schütze

机构 * Center for Information and Language Processing, LMU Munich（信息与语言处理中心，慕尼黑大学） ； Munich Center for Machine Learning (MCML)（慕尼黑机器学习中心（MCML）） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文提出COPSD方法，通过将高资源语言的推理行为迁移到低资源语言，提升多语言推理能力，实验显示其在17种低资源非洲语言上表现优异，优于GRPO。

Comments preprint

Beyond Accuracy: Evaluating Strategy Diversity in LLM Mathematical Reasoning

超越准确性：评估大语言模型数学推理中的策略多样性

Xia Yang, Xuanyi Zhang, Hao Hu, Feng Ji

机构 * University of Toronto（多伦多大学） ； Upper Canada College（上加拿大学院） ； East China Normal University（华东师范大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究探讨了大语言模型在数学推理中策略多样性与准确性之间的关系，发现策略多样性是评估数学推理的重要补充维度。

SARL: Label-Free Reinforcement Learning by Rewarding Reasoning Topology

SARL：通过奖励推理拓扑实现无标签强化学习

Yifan Wang, Bolian Li, David Cho, Ruqi Zhang, Fanping Sui, Ananth Grama

机构 * Purdue University（普渡大学） ； Texas Instruments（德州仪器） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出SARL框架，通过奖励推理拓扑而非最终结果来提升大模型的推理能力，在可验证数学任务和非可验证开放任务中均取得显著性能提升。

Ranking Reasoning LLMs under Test-Time Scaling

在测试时间扩展下对推理LLM进行排名

Mohsen Hariri, Michael Hinczewski, Jing Ma, Vipin Chaudhary

机构 * Department of Computer and Data Sciences（计算机与数据科学系） ； Department of Physics（物理系） ； Case Western Reserve University（凯斯西储大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 本文提出Scorio库，通过统计排名方法评估推理模型，在20个数学竞赛基准上验证了多种排名方法的有效性，并展示了在不同测试时间扩展下的性能。

Comments Code is available at https://github.com/mohsenhariri/scorio

Journal ref The 64th Annual Meeting of the Association for Computational Linguistics (ACL), 2026

Relative Score Policy Optimization for Diffusion Language Models

相对分数策略优化用于扩散语言模型

Zichao Yu, Shengze Xu, Bingqing Jiang, Wenyi Zhang, Difan Zou

机构 * University of Science and Technology of China（中国科学技术大学） ； The Chinese University of Hong Kong（香港中文大学） ； The University of Hong Kong（香港大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；planning(abstract)；verifier(abstract)；分类 cs.CL

AI总结 本文提出RSPO方法，通过可验证奖励校准扩散语言模型中的噪声似然估计，提升推理能力，在规划任务中表现优异。

Teaching Language Models to Think in Code

教语言模型用代码思考

Hyeon Hwang, Jiwoo Lee, Jaewoo Kang

机构 * Korea University（韩国大学） ； AIGEN Sciences（AIGEN科技） 纠错

专题命中 数学推理 ：reasoning(abstract)；planning(abstract)；verifier(abstract)；分类 cs.CL

AI总结 本文提出ThinC框架，通过代码自身进行推理而非依赖自然语言，提升了数学问题解决能力，其在多个基准测试中表现优异。

Comments Preprint

Your Language Model is Its Own Critic: Reinforcement Learning with Value Estimation from Actor's Internal States

你的语言模型就是其自身的批评者：具有从演员内部状态估计价值的强化学习

Yunho Choi, Jongwon Lim, Woojin Ahn, Minjae Oh, Jeonghoon Shim, Yohan Jo

机构 * Graduate School of Data Science（数据科学研究生院） ； Seoul National University（首尔国立大学） ； Computer Science and Engineering（计算机科学与工程） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出POISE方法，通过利用策略模型内部信号在强化学习中实现高效的基线估计，减少方差并提高训练稳定性，适用于数学推理任务。

Comments Under Review; Project Page: https://elijah0430.github.io/poise/

Efficient Estimation of Kernel Surrogate Models for Task Attribution

高效估计用于任务归因的核替代模型

Zhenshuo Zhang, Minxuan Duan, Hongyang R. Zhang

机构 * Northeastern University（东北大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出核替代模型用于高效估计任务归因，通过第二阶分析建立线性替代模型与影响函数的联系，并在多个任务设置中验证其有效性，实现更高的相关性和可扩展性。

Comments 27 pages. Appeared in ICLR 2026

Distributionally Robust Token Optimization in RLHF

强化学习中对抗性令牌优化

Yeping Jin, Jiaming Hu, Ioannis Ch. Paschalidis

机构 * Department of System Engineering（系统工程系） ； Boston University（波士顿大学） ； Department of Math & Statistics（数学与统计学系） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出DRTO方法，结合RLHF与DRO，通过构建f-散度模糊集增强策略优化中的困难响应段，提升多步骤推理任务在分布变化下的一致性。

Breaking Contextual Inertia: Reinforcement Learning with Single-Turn Anchors for Stable Multi-Turn Interaction

打破情境惯性：基于单轮锚点的强化学习用于稳定多轮交互

Xingwu Chen, Zhanqiu Zhang, Yiwen Guo, Difan Zou

机构 * Department of XXX, University of YYY, Location, Country（XXX系，YYY大学，地点，国家） ； School of ZZZ, Institute of WWW, Location, Country（ZZZ学院，WWW研究所，地点，国家） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出RLSTA方法，通过单轮锚点提供奖励信号，帮助模型打破情境惯性，提升多轮交互稳定性，实验显示其在不同领域表现优异。

Entropy-informed Decoding: Adaptive Information-Driven Branching

基于熵的信息解码：自适应信息驱动的分支

Benjamin Patrick Evans, Sumitra Ganesh, Leo Ardon

机构 * Department of XXX, University of YYY, Location, Country（XXX系，YYY大学，地点，国家） ； School of ZZZ, Institute of WWW, Location, Country（ZZZ学院，WWW研究所，地点，国家） ； JP Morgan AI Research, London, UK（摩根大通AI研究，伦敦，英国） ； JP Morgan AI Research, New York, USA（摩根大通AI研究，纽约，美国） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出EDEN解码框架，通过自适应分配计算资源提升生成效率，在数学推理、代码生成等任务中优于传统解码策略。

Comments Accepted at ICML 2026

Can LLMs Estimate Student Struggles? Human-AI Difficulty Alignment with Proficiency Simulation for Item Difficulty Prediction

LLMs能否估计学生困难？人类-人工智能难度对齐用于项目难度预测的 proficiency 模拟

Ming Li, Han Chen, Yunze Xiao, Jian Chen, Hong Jiao, Tianyi Zhou

机构 * University of Maryland（马里兰大学） ； Carnegie Mellon University（卡内基梅隆大学） ； University at Buffalo（布法罗大学） ； MBZUAI 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了LLMs在估计学生困难方面的表现，发现模型规模扩大并不总能提高准确性，且模型倾向于形成机器共识而非与人类对齐，揭示了当前模型在自动难度预测中的挑战。

Comments ACL2026, camera-ready

PAAC: Privacy-Aware Agentic Device-Cloud Collaboration

PAAC：隐私感知的代理设备-云协作

Liangqi Yuan, Wenzhi Fang, Shiqiang Wang, Christopher G. Brinton

机构 * Purdue University（普渡大学） ； University of Exeter（埃克塞特大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 PAAC框架通过设备-云边界对齐规划-执行分解，使角色专业化成为隐私机制，提升隐私与准确性的平衡，平均准确率提升15-36%，泄漏减少2-6倍。

DUET: Optimize Token-Budget Allocation for Reinforcement Learning with Verifiable Rewards

DUET：基于可验证奖励的强化学习中优化令牌预算分配

Haoyu Hu, Xuandong Zhao, Xuhai "Orson'' Xu, Nori Jacoby

机构 * Cornell University（康奈尔大学） ； University of California, Berkeley（加州大学伯克利分校） ； Columbia University（哥伦比亚大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 DUET通过联合调整令牌预算分配的两个维度，提升强化学习的推理质量和训练效率，同时在多个基准测试中表现优异，且在预算减少时性能优势扩大。