大模型推理能力

Verifier-Backed Hard Problem Generation for Mathematical Reasoning

基于验证器的数学推理硬问题生成

Yuhang Lai, Jiazhan Feng, Yee Whye Teh, Ning Miao

机构 * Department of Data Science, City University of Hong Kong（香港城市大学数据科学系） ； Hong Kong Institute of AI for Science, City University of Hong Kong（香港城市大学人工智能科学研究所） ； School of Intelligence Science and Technology, Peking University（北京大学智能科学与技术学院） ； Department of Statistics, University of Oxford（牛津大学统计系） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；verifier(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出VHG框架，通过引入独立验证器约束问题生成器的奖励，提升生成问题的有效性和难度，实验显示其在不定积分和数学推理任务中优于基线方法。

CORE: Concept-Oriented Reinforcement for Bridging the Definition-Application Gap in Mathematical Reasoning

CORE：面向概念的强化学习，弥合定义与应用之间的数学推理差距

Zijun Gao, Zhikun Xu, Xiao Ye, Ben Zhou

机构 * University of Illinois Urbana–Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Arizona State University（亚利桑那州立大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；verifier(abstract)；分类 cs.AI、cs.LG

AI总结 CORE通过引入概念导向的强化学习框架，解决大语言模型在数学推理中概念应用不足的问题，通过合成概念对齐习题和注入概念片段提升模型的推理能力。

Are Large Language Models Robust in Understanding Code Against Semantics-Preserving Mutations?

大型语言模型在语义保持变异下的理解鲁棒性如何？

Pedro Orvalho, Marta Kwiatkowska

机构 * Department of Computer Science University of Oxford（计算机科学系牛津大学） 纠错

专题命中 数学推理 ：reasoning(summary_cn,abstract)；分类 cs.AI

AI总结 本文评估了大型语言模型在Python程序上的推理能力，通过五种语义保持的代码变异测试，发现模型在语义变换下表现出显著的脆弱性，正确预测基于 flawed reasoning 的比例在10%-50%之间，且预测稳定性差。

Comments 17 pages, 5 tables, 1 figure

OPSD Compresses What RLVR Teaches: A Post-RL Compaction Stage for Reasoning Models

OPSD 压缩 RLVR 教授的内容：一种为推理模型设计的后 RL 压缩阶段

Jaehoon Kim, Dongha Lee

机构 * Yonsei University（延世大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 OPSD 在数学推理中作为压缩机制更可靠，通过仅训练正确轨迹可保持准确性并显著缩短响应，而训练错误轨迹则损害准确性。

Adapt to Thrive! Adaptive Power-Mean Policy Optimization for Improved LLM Reasoning

适应与繁荣！面向改进大语言模型推理的自适应幂均策略优化

Yiming Huang, Zhenbo Shi, Shuzheng Gao, Cuiyun Gao, Peiyi Han, Chuanyi Liu

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Peng Cheng Laboratory（鹏城实验室） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出自适应幂均策略优化方法，通过引入幂均目标和反馈自适应裁剪，提升大语言模型的推理性能，实验显示其在多个任务中表现优于现有方法。

Comments Accepted to ACL 2026 (Findings)

Free Energy-Driven Reinforcement Learning with Adaptive Advantage Shaping for Unsupervised Reasoning in LLMs

基于自发自由能的强化学习与自适应优势塑造的无监督推理在大语言模型中的应用

Yiming Huang, Zhenbo Shi, Xin-Cheng Wen, Jichuan Zeng, Cuiyun Gao, Peiyi Han, Chuanyi Liu

机构 * Harbin Institute of Technology, Shenzhen（哈尔滨工业大学（深圳）） ； Peng Cheng Laboratory（鹏城实验室） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文提出FREIA算法，通过自发自由能奖励和自适应优势塑造提升大语言模型的无监督推理能力，在三个任务中表现优异。

Comments Accepted by ACL 2026

ZAYA1-8B Technical Report

ZAYA1-8B 技术报告

Robert Washbourne, Rishi Iyer, Tomas Figliolia, Henry Zheng, Ryan Lorig-Roach, Sungyeon Yang, Pritish Yuvraj, Quentin Anthony, Yury Tokpanov, Xiao Yang, Ganesh Nanduru, Stephen Ebert, Praneeth Medepalli, Skyler Szot, Srivatsan Rajagopal, Alex Ong, Bhavana Mehta, Beren Millidge

机构 * Zyphra 纠错

专题命中 数学推理 ：reasoning(abstract)；test-time compute(abstract)；分类 cs.CL、cs.AI

AI总结 ZAYA1-8B 是基于 MoE++ 架构的推理聚焦混合专家模型，通过全栈 AMD 平台训练，在数学和编程基准中表现优异，采用 RL 策略和 Markovian RSA 方法提升推理性能。

H-Probes: Extracting Hierarchical Structures From Latent Representations of Language Models

H-Probes：从语言模型的潜在表示中提取层次结构

Cutter Dawes, Aryan Sharma, Angelos Ioannis Lagos, Shivam Raval

机构 * Supervised Program for Alignment Research（对齐研究监督计划） ； Yale University（耶鲁大学） ； Harvard University（哈佛大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 H-Probes通过线性探针从语言模型的潜在表示中提取层次结构，揭示模型在语法、概念及推理过程中的深层抽象能力。

RVPO: Risk-Sensitive Alignment via Variance Regularization

基于方差正则化的风险敏感对齐：RVPO

Ivan Montero, Tomasz Jurczyk, Bhuwan Dhingra

机构 * Apple（苹果公司） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出RVPO框架，通过在优势聚合中惩罚奖励方差，将目标从最大化总和转为最大化一致性，提升多目标对齐的可靠性。

Comments 17 pages, 5 figures

Sample-efficient LLM Optimization with Reset Replay

基于重置回放的高效大语言模型优化

Zichuan Liu, Jinyu Wang, Lei Song, Jiang Bian

机构 * Carnegie Mellon University（卡内基梅隆大学） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出LoRR方法，通过高重播训练和周期性重置策略提升偏好优化的样本效率，实验表明其在数学和通用推理基准上显著提升性能。

Beyond Negative Rollouts: Positive-Only Policy Optimization with Implicit Negative Gradients

超越负回滚：仅正回滚的策略优化

Mingwei Xu, Hao Fang

机构 * University of Washington（华盛顿大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出POPO框架，通过仅使用在线正回滚进行学习，避免负回滚，并通过siamese网络和相似性惩罚提升稳定性，实验证明其在数学基准测试中性能优于GRPO。

EternalMath: A Living Benchmark of Frontier Mathematics that Evolves with Human Discovery

EternalMath: 一个与人类发现同步演化的前沿数学基准

Jicheng Ma, Guohua Wang, Xinhua Feng, Yiming Liu, Zhichao Hu, Yuhong Liu

机构 * School of Mathematics, Renmin University of China（中国人民大学数学学院） ； Tencent（腾讯） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出一个自动化数学推理评估框架，通过将最新数学文献转化为可执行任务，构建可扩展的EternalMath基准，揭示LLM在前沿数学上的性能差距。