大模型推理能力

AAPO: Enhancing the Reasoning Capabilities of LLMs with Advantage Margin

AAPO: 通过优势边际增强大语言模型的推理能力

Jian Xiong, Jingbo Zhou, Jingyong Ye, Qiang Huang, Dejing Dou

机构 * College of Computer Science and Artificial Intelligence, Fudan University（复旦大学计算机科学与人工智能学院） ； Frontier Research Department, Baidu Inc.（百度公司前沿研究部） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL、cs.LG

AI总结 AAPO通过引入基于边际的估计方案优化交叉熵损失，有效解决传统分组相对优势估计方法的训练效率问题，在数学推理基准上表现出色。

Comments Accepted to ACL2026 Main Conference

Variation in Verification: Understanding Verification Dynamics in Large Language Models

验证的多样性：理解大型语言模型中的验证动态

Yefan Zhou, Austin Xu, Yilun Zhou, Janvijay Singh, Jiang Gui, Shafiq Joty

机构 * Salesforce AI Research（Salesforce AI研究院） ； Dartmouth College（达特茅斯学院） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 数学推理 ：CoT(abstract,abstract_cn)；reasoning(abstract)；chain-of-thought(abstract)；verifier(abstract)

AI总结 研究大型语言模型中验证动态，分析问题难度、生成器能力及验证器生成能力三个维度，发现验证有效性与问题难度相关，优化TTS应用中的基本验证策略。

Comments ICLR 2026

Hard Negative Sample-Augmented DPO Post-Training for Small Language Models

增强的DPO后训练用于小型语言模型

Haocheng Lu, Minjun Zhu, Henry Yu

机构 * Computer Science NYU Shanghai（纽约大学上海学院） 纠错

专题命中 数学推理 ：CoT(abstract,abstract_cn)；reasoning(abstract)；chain-of-thought(abstract)；verifier(abstract)

AI总结 本文提出一种轻量级后训练方法，通过MathVerifier检测结构化错误，改进DPO以提升小型模型在数学推理中的表现。

ZoomR: Memory Efficient Reasoning through Multi-Granularity Key Value Retrieval

ZoomR：通过多粒度键值检索实现内存高效的推理

David H. Yang, Yuxuan Zhu, Mohammad Mohammadi Amiri, Keerthiram Murugesan, Tejaswini Pedapati, Subhajit Chaudhury, Pin-Yu Chen

机构 * Rensselaer Polytechnic Institute（罗切斯特理工学院） ； IBM Research（IBM研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 ZoomR通过多粒度键值检索实现内存高效的推理，减少内存使用，适用于长输出生成任务。

Token-Level Policy Optimization: Linking Group-Level Rewards to Token-Level Aggregation via Sequence-Level Likelihood

令牌级策略优化：通过序列级似然将群体级奖励与令牌级聚合联系起来

Xingyu Lin, Yilin Wen, Du Su, Jinchang Hou, En Wang, Wenbin Liu, Chenfu Bao, Zhonghou Lv

机构 * College of Computer Science and Technology, Jilin University（吉林大学计算机科学与技术学院） ； Key Laboratory of Symbolic Computation and Knowledge Engineering of MOE, Jilin University（教育部符号计算与知识工程重点实验室，吉林大学） ； Baidu Inc.（百度公司） ； Tsinghua University（清华大学） ； State Key Laboratory of AI Safety, Institute of Computing Technology, Chinese Academy of Sciences（中国科学院人工智能安全重点实验室，计算技术研究所） 纠错

专题命中 数学推理 ：CoT(abstract,abstract_cn)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.CL

AI总结 本文提出TEPO，通过序列级似然将群体奖励与单个令牌联系，并引入KL散度掩码约束以提升训练稳定性，实验显示其在数学推理任务中表现优异且收敛时间减少50%。

Calibration-Aware Policy Optimization for Reasoning LLMs

面向推理大语言模型的校准感知策略优化

Ziqi Wang, Xingzhou Lou, Meiqi Wu, Zhengqi Wen, Junge Zhang

机构 * National Key Laboratory of Cognition and Decision Intelligence for Complex Systems, Institution of Automation, Chinese Academy of Sciences（认知与复杂系统决策智能国家实验室，自动化研究所，中国科学院） ； School of Artificial Intelligence, University of Chinese Academy of Sciences（中国科学院大学人工智能学院） ； Beijing National Research Center for Information Science and Technology, Tsinghua University（北京信息科学与技术国家研究中心，清华大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CAPO方法，通过引入logistic AUC替代损失和噪声掩码机制，提升推理大语言模型的校准与准确性，实验显示其在多个数学推理基准上校准提升达15%，并在下游任务中进一步提升准确性。

Comments Published as a conference paper at ACL 2026

HintMR: Eliciting Stronger Mathematical Reasoning in Small Language Models

HintMR：在小型语言模型中激发更强的数学推理

Jawad Hossain, Xiangyu Guo, Jiawei Zhou, Chong Liu

机构 * University at Albany（阿尔巴尼大学） ； University at Buffalo（布法罗大学） ； Stony Brook University（石溪大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出HintMR框架，通过提示辅助引导小型语言模型进行多步数学问题解决，通过协作的双模型系统提升推理准确性，实验表明在多种数学基准上显著提升性能。

Comments 15 pages, 5 figures, Preprint

Leveraging Mathematical Reasoning of LLMs for Efficient GPU Thread Mapping

利用大语言模型的数学推理实现高效的GPU线程映射

Jose Maureira, Cristóbal A. Navarro, Hector Ferrada, Luis Veas-Castillo

专题命中 数学推理 ：reasoning(title,abstract)

AI总结 本文提出利用大语言模型的符号推理自动化GPU非矩形域线程映射，通过上下文学习推导出精确的O(1)和O(log N)映射方程，显著优于传统符号回归方法，实现高效能资源优化。

Comments 11 pages, 5 figures, 8 tables. Submitted to IEEE Transactions on Parallel and Distributed Systems (TPDS)

Joint Flashback Adaptation for Forgetting-Resistant Instruction Tuning

联合回溯适应用于抗遗忘的指令微调

Yukun Zhao, Lingyong Yan, Zhenyang Li, Shuaiqiang Wang, Zhumin Chen, Zhaochun Ren, Dawei Yin

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出联合回溯适应方法，通过引入旧任务的有限提示来缓解增量学习中的灾难性遗忘问题，提升模型在新任务上的泛化能力。

Comments The experimental setting is wrong, i.e., not a real continual learning setting