大模型推理能力

Nice Fold or Hero Call: Learning Budget-Efficient Thinking for Adaptive Reasoning

好折叠还是英雄召唤：学习适应性推理的预算高效思考

Zhaomeng Zhou, Lan Zhang, Junyang Wang, Mu Yuan, Junda Lin

机构 * University of Science and Technology of China（中国科学技术大学） ； The Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；logical reasoning(abstract)；test-time compute(abstract)；分类 cs.AI

AI总结 本文提出Budget-Efficient Thinking框架，通过结合行为冷启动与GRPO，在投资成本意识奖励下，学习短回答、早放弃和保留计算资源三种行为，提升推理效率与性能。

Comments 24 pages, 6 figures, 11 tables

Anti-Self-Distillation for Reasoning RL via Pointwise Mutual Information

反自我蒸馏用于通过点互信息的推理强化学习

Guobin Shen, Xiang Cheng, Chenxiao Zhao, Lei Huang, Jindong Li, Dongcheng Zhao, Xing Yu

机构 * Xiaohongshu Inc.（小红书公司） ； Institute of Automation, Chinese Academy of Sciences（中国科学院自动化研究所） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出反自我蒸馏方法，通过分析点互信息解决自我蒸馏在数学推理中的不一致问题，提升模型推理能力。

YFPO: A Preliminary Study of Yoked Feature Preference Optimization with Neuron-Guided Rewards for Mathematical Reasoning

YFPO：一种基于神经引导奖励的数学推理的初步研究

Yifan Le

机构 * Zhejiang University（浙江大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；logical reasoning(abstract)；分类 cs.CL

AI总结 YFPO通过识别数学相关神经元并构建辅助奖励，提升大语言模型的推理能力，实验表明神经层面信号可增强偏好优化，为更精细的推理后训练提供新方向。

Comments 10 pages, 2figures. Work in progress

Seirênes: Adversarial Self-Play with Evolving Distractions for LLM Reasoning

Seirênes：具有演变干扰的对抗自博弈用于LLM推理

Chi Zhang, Haibo Qiu, Qiming Zhang, Yufei Xu, Xinbo Gao, Jing Zhang

机构 * School of Computer Science, Wuhan University（武汉大学计算机学院） ； Independent Researchers（独立研究者） ； Xidian University（西安电子科技大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 Seirênes通过对抗自博弈框架将LLM推理中的上下文干扰转化为训练信号，提升推理鲁棒性，在多个数学推理基准测试中取得显著提升。

Rotation-Preserving Supervised Fine-Tuning

保持旋转的监督微调

Hangzhan Jin, Tianwei Ni, Lu Li, Pierre-Luc Bacon, Mohammad Hamdaqa, Doina Precup

机构 * Mila - Quebec AI Institute（魁北克AI研究所） ； Polytechnique Montréal（蒙特利尔理工学院） ； Université de Montréal（蒙特利尔大学） ； McGill University（麦吉尔大学） ； CIFAR AI Chair（CIFAR人工智能主席） ； Google DeepMind（谷歌DeepMind） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RPSFT方法，通过保持预训练奇异子空间的投影旋转来提升模型在领域内和领域外任务间的平衡性能，改进了标准SFT的不足。

Comments 31 pages, 13 figures

fg-expo: Frontier-guided exploration-prioritized policy optimization via adaptive kl and gaussian curriculum

fg-expo: 基于前沿引导的探索优先策略优化：通过自适应KL和高斯课程学习

Mingxiong Lin, Zhangquan Gong, Maowen Tang, Qian Li, Chuangchuang Wang, Jian Ma, Sutian Huang, Kai Tang, Haonan Lu

机构 * OPPO AI Center（OPPO人工智能中心） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出FG-ExPO算法，通过自适应KL缩放和高斯课程采样提升策略优化效率，实验表明其在数学推理任务中性能显著优于GRPO。

The Bicameral Model: Bidirectional Hidden-State Coupling Between Parallel Language Models

双通道模型：并行语言模型之间双向隐藏状态耦合

Cedric Flamant, Udaya Ghai, Kanna Shimizu

机构 * AWS Agentic AI（AWS智能AI） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出双通道模型，通过可训练的神经接口在两个预训练语言模型的中间隐藏状态之间建立双向耦合，实现任务驱动与工具执行的协同，提升多任务性能。

Comments 9 pages main text, 5 figures, 24 pages appendix

Asymmetric Advantage Modulation Calibrates Entropy Dynamics in RLVR

不对称优势调制校准RLVR中的熵动态

Hengrui Gu, Xiaotian Han, Yujing Bian, Feiyi Wang, Kaixiong Zhou

机构 * North Carolina State University（北卡罗来纳州立大学） ； Case Western Reserve University（凯斯西储大学） ； Oak Ridge National Laboratory（橡树岭国家实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文研究RLVR中探索受限问题，提出AsymGRPO通过分离正负优势调制强度，精准控制熵动态以提升推理能力。

Understanding and Preventing Entropy Collapse in RLVR with On-Policy Entropy Flow Optimization

理解与防止RLVR中的熵崩溃：基于策略熵流的在线优化

Huimin Xu, Shuai Zhao, Xiaobao Wu, Anh Tuan Luu

机构 * Nanyang Technological University（南洋理工大学） ； Shanghai Jiao Tong University（上海交通大学） ； VinUniversity（文大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出OPEFO方法，通过平衡熵动态缓解RLVR中的熵崩溃问题，提升训练稳定性与性能。

Internalizing Curriculum Judgment for LLM Reinforcement Fine-Tuning

将课程判断内部化以优化大语言模型强化微调

Han Zheng, Yining Ma, Karthick Gunasekaran, Bharathan Balaji, Zheng Du, Shiv Vitaladevuni, Cathy Wu

机构 * MIT（麻省理工学院） ； Amazon AGI（亚马逊人工智能实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出METIS框架，通过内部化课程判断提升LLM强化微调效率与性能，利用训练结果动态分配训练资源，实现闭环优化。

Towards Order Fairness: Mitigating LLMs Order Sensitivity through Dual Group Advantage Optimization

迈向顺序公平性：通过双组优势优化缓解大语言模型的顺序敏感性

Xu Chu, Guanyu Wang, Zhijie Tan, Xinrong Chen, Ziyu Li, Tong Mo, Weiping Li

机构 * School of Software and Microelectronics, Peking University（软件与微电子学院，北京大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出双组优势优化（DGAO），通过平衡组内准确性优势和组间稳定性优势，缓解LLM的顺序敏感性，提升模型在RAG、数学推理和分类任务中的性能。

Probabilistic Calibration Is a Trainable Capability in Language Models

概率校准是语言模型中的可训练能力

Davide Baldelli, Sruthi Kuriakose, Maryam Hashemzadeh, Amal Zouaq, Sarath Chandar

机构 * Chandar Research Lab（昌达尔研究实验室） ； Mila – Quebec AI Institute（魁北克人工智能研究所） ； LAMA-WeST Lab（LAMA-WeST实验室） ； Polytechnique Montréal（蒙特利尔理工学院） ； Université de Montréal（蒙特利尔大学） ； Independent researcher（独立研究者） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文研究通过微调提升语言模型的概率校准能力，发现两种微调方法在不同任务中表现各异，硬目标方法在结构化数值采样更优，软目标方法在广泛随机生成任务中表现更好。

EVOCHAMBER: Test-Time Co-evolution of Multi-Agent System at Individual, Team, and Population Scales

EVOCHAMBER：在个体、团队和种群层面进行多智能体系统的测试时间共进化

Yaolun Zhang, Tianyi Xu, Shengyu Dai, Zhenwen Shao, Qingyun Wu, Huazheng Wang

机构 * Oregon State University（俄勒冈州立大学） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Johnson & Johnson（强生公司） ； Pennsylvania State University（宾夕法尼亚州立大学） ； AG2AI, Inc.（AG2AI公司） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 EVOCHAMBER通过在多智能体系统中实现测试时间共进化，解决了传统方法在跨智能体学习和专业化保留上的不足，通过协作梦境协议和群体生命周期操作，在不同任务流上实现了显著的性能提升。

LLMs Improving LLMs: Agentic Discovery for Test-Time Scaling

LLMs改进LLMs：测试时扩展的代理发现

Tong Zheng, Haolin Liu, Chengsong Huang, Huiwen Bao, Sheng Zhang, Rui Liu, Runpeng Dai, Ruibo Chen, Chenxi Liu, Tianyi Xiong, Xidong Wu, Hongming Zhang, Heng Huang

机构 * UMD（马里兰大学） ； UVA（弗吉尼亚大学） ； WUSTL（华盛顿大学） ； UNC（北卡罗来纳大学） ； Google（谷歌） ； Meta 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出AutoTTS框架，通过环境驱动的方法自动发现测试时扩展策略，提升大语言模型性能，实验表明其在数学推理基准上的准确率与成本平衡优于人工设计基线。

Comments 25 pages

MoshiRAG: Asynchronous Knowledge Retrieval for Full-Duplex Speech Language Models

MoshiRAG: 异步知识检索用于全双工语音语言模型

Chung-Ming Chien, Manu Orsini, Eugene Kharitonov, Neil Zeghidour, Karen Livescu, Alexandre Défossez

机构 * Toyota Technological Institute at Chicago（丰田技术研究所（芝加哥）） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出MoshiRAG，通过异步框架结合紧凑接口与选择性检索，提升全双工语音模型的事实性，同时保持交互性。

Comments Accepted to ICML 2026