大模型推理能力

InftyThink: Breaking the Length Limits of Long-Context Reasoning in Large Language Models

InftyThink: 突破大型语言模型长上下文推理的长度限制

Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Mengdi Zhang, Jian Shao, Yueting Zhuang

机构 * Zhejiang University（浙江大学） ； Meituan Group（美团集团） ； Peking University（北京大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 InftyThink通过迭代推理与中间摘要机制，突破大型语言模型长上下文推理的长度限制，提升推理深度与效率。

Comments ICLR 2026: https://openreview.net/forum?id=T1h5em349L Project Page: https://zju-real.github.io/InftyThink Code: https://github.com/ZJU-REAL/InftyThink

MathFimer: Enhancing Mathematical Reasoning by Expanding Reasoning Steps through Fill-in-the-Middle Task

MathFimer: 通过填空中间任务扩展推理步骤以增强数学推理

Yuchen Yan, Yongliang Shen, Yang Liu, Jin Jiang, Xin Xu, Mengdi Zhang, Jian Shao, Yueting Zhuang

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 MathFimer通过填空中间任务扩展推理步骤，提升大语言模型的数学推理能力，无需依赖强大外部模型或昂贵计算资源。

Comments ICLR 2026: https://openreview.net/forum?id=14i2wzPPfn

AbstRaL: Augmenting LLMs' Reasoning by Reinforcing Abstract Thinking

AbstRaL: 通过强化抽象思维增强大语言模型的推理能力

Silin Gao, Antoine Bosselut, Samy Bengio, Emmanuel Abbe

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 AbstRaL通过强化学习提升LLM的抽象推理能力，有效缓解GSM扰动基准测试中的性能下降，并提升模型在OD数学和一般推理任务上的泛化能力。

Comments ICLR 2026

Thinking by Subtraction: Confidence-Driven Contrastive Decoding for LLM Reasoning

通过减法思考：基于置信度的对比解码用于大语言模型推理

Lexiang Tang, Weihao Gao, Bingchen Zhao, Lu Ma, Qiao jin, Bang Yang, Yuexian Zou

机构 * Peking University, Beijing, China（北京大学） ； University of Edinburgh, Edinburgh, UK（爱丁堡大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 通过置信度驱动的对比解码方法提升大语言模型推理可靠性，减少输出长度并提高准确性。

Training Large Reasoning Models Efficiently via Progressive Thought Encoding

通过渐进性思维编码高效训练大型推理模型

Zeliang Zhang, Xiaodong Liu, Hao Cheng, Hao Sun, Chenliang Xu, Jianfeng Gao

机构 * University of Rochester（罗切斯特大学） ； Microsoft Research（微软研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 通过渐进性思维编码方法，提升大型推理模型在有限内存下的推理效率和准确性。

Comments ICLR 2026, 15 pages

m1: Unleash the Potential of Test-Time Scaling for Medical Reasoning with Large Language Models

m1：通过大语言模型的测试时缩放释放医疗推理的潜力

Xiaoke Huang, Juncheng Wu, Hui Liu, Xianfeng Tang, Yuyin Zhou

机构 * UC Santa Cruz（加州大学圣克ruz分校） ； Amazon Research（亚马逊研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出m1方法，通过测试时缩放提升医疗推理能力，发现最佳推理预算和医学知识不足是关键瓶颈。

Comments 17 pages; 7 figures; Data, code, and models: https://github.com/UCSC-VLAA/m1 ; Accepted by ML4H'25

wd1: Weighted Policy Optimization for Reasoning in Diffusion Language Models

wd1: 为扩散语言模型推理的加权策略优化

Xiaohang Tang, Rares Dolga, Sangwoong Yoon, Ilija Bogunovic

机构 * Department of Statistical Science, University College London, United Kingdom（伦敦大学统计科学系） ； UCL AI Centre, University College London, United Kingdom（伦敦大学UCL人工智能中心） ； Graduate School of AI, Ulsan National Institute of Science and Technology, South Korea（韩国乌山国立科学与技术研究院人工智能研究生院） ； Department of Mathematics and Computer Science, Universität Basel, Switzerland（巴塞尔大学数学与计算机科学系） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 wd1通过加权策略优化提升扩散语言模型推理能力，实现更高准确率和更低计算成本。

Comments Accepted to ICLR 2026

ADORA: Training Reasoning Models with Dynamic Advantage Estimation on Reinforcement Learning

ADORA: 通过强化学习中的动态优势估计训练推理模型

Qingnan Ren, Shiting Huang, Zhen Fang, Zehui Chen, Lin Chen, Lijun Li, Feng Zhao

机构 * University of Science and Technology of China（中国科学技术大学） ； Shanghai AI Laboratory（上海人工智能实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 ADORA通过动态优势估计提升强化学习中推理模型的训练效率与稳定性

The Reasoning Lingua Franca: A Double-Edged Sword for Multilingual AI

推理通用语：多语言AI的双刃剑

Alan Saji, Raj Dabre, Anoop Kunchukuttan, Ratish Puduppully

机构 * Nilekani Centre at AI4Bharat（AI4Bharat人工智能中心） ； Indian Institute of Technology Madras（印度理工学院马德拉斯分校） ； Google（谷歌） ； Microsoft（微软） ； IT University of Copenhagen（丹麦技术大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究探讨了大型推理模型在多语言环境下的推理能力，发现英语推理在准确性上表现更优，但可能因翻译错误导致问题，揭示了多语言AI的双刃剑特性。

Comments 14 pages, 13 figures, 5 tables

Generating Data-Driven Reasoning Rubrics for Domain-Adaptive Reward Modeling

生成数据驱动的推理评分标准以实现领域自适应奖励建模

Kate Sanders, Nathaniel Weir, Sapana Chaudhary, Kaj Bostrom, Huzefa Rangwala

机构 * Johns Hopkins University（约翰霍普金斯大学） ； Amazon Web Services（亚马逊网络服务） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出数据驱动的推理评分标准，用于提升领域自适应奖励建模的错误检测能力，实验显示其在技术领域任务准确性提升达45%

Back to Basics: Revisiting Exploration in Reinforcement Learning for LLM Reasoning via Generative Probabilities

回归基础：通过生成概率重新审视强化学习中LLM推理的探索

Pengyi Li, Elizaveta Goncharova, Andrey Kuznetsov, Ivan Oseledets

机构 * FusionBrain Lab, Russia（融合脑实验室，俄罗斯） ； Institute of Numerical Mathematics, Russia（数值数学研究所，俄罗斯） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 通过生成概率重新审视强化学习中LLM推理的探索，提出ARM机制平衡置信度，提升生成多样性与准确性。

Beyond KL Divergence: Policy Optimization with Flexible Bregman Divergences for LLM Reasoning

超越KL散度：基于灵活Bregman散度的群体策略优化用于大语言模型推理

Rui Yuan, Mykola Khandoga, Vinay Kumar Sankarapu

机构 * Lexsi Labs（Lexsi实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出GBMPO框架，通过灵活Bregman散度提升大语言模型在数学推理和代码生成任务中的性能。

Beyond Alignment: Expanding Reasoning Capacity via Manifold-Reshaping Policy Optimization

超越对齐：通过流形重塑策略优化扩展推理能力

Dayu Wang, Jiaye Yang, Weikang Li, Jiahui Liang, Yang Li

机构 * Baidu Inc.（百度公司） ； Peking University（北京大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出流形重塑策略优化方法，通过几何干预扩展LLM的推理能力，实验证明其在数学任务中优于现有模型。

Generalization or Hallucination? Understanding Out-of-Context Reasoning in Transformers

泛化还是幻觉？理解Transformer中的上下文推理

Yixiao Huang, Hanlin Zhu, Tianyu Guo, Jiantao Jiao, Somayeh Sojoudi, Michael I. Jordan, Stuart Russell, Song Mei

机构 * UC Berkeley（加州大学伯克利分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本文研究了Transformer中上下文推理机制，揭示其驱动泛化与幻觉的双重性，并通过理论分析与实验验证了矩阵因子化在其中的关键作用。

Comments NeurIPS 2025, first three authors contributed equally

Enhancing LLM Reasoning via Non-Human-Like Reasoning Path Preference Optimization

通过非人类样式推理路径偏好优化增强大语言模型推理

Junjie Lu, Yuliang Liu, Chaofeng Qu, Wei Shen, Zhouhan Lin, Chuheng Zhang, Min Xu

机构 * University of Technology Sydney（悉尼技术大学） ； Shanghai Innovation Institute（上海创新研究院） ； Southeast University（东南大学） ； Microsoft Research（微软研究院） ； Nanjing University（南京大学） ； Shanghai Jiao Tong University（上海交通大学） ； Independent Researcher（独立研究者） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CGPO方法，通过置信度信号优化推理路径，提升大语言模型在代码和数学推理任务中的性能。

Comments 15 pages

Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B Technical Report

Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B 技术报告

Zhuoran Yang, Ed Li, Jianliang He, Aman Priyanshu, Baturay Saglam, Paul Kassianik, Sajana Weerawardhena, Anu Vellore, Blaine Nelson, Neusha Javidnia, Arthur Goldblatt, Fraser Burch, Avi Zohary, Assaf Eisenman, Mahdi Sabbaghi, Supriti Vijay, Rahim Dharssi, Dhruv Kedia, Kojin Oshiba, Yaron Singer, Amin Karbasi

机构 * Foundation AI–Cisco Systems Inc.（Foundation AI–Cisco系统公司） ； Yale University（耶鲁大学） ； University of California, San Diego（加州大学圣地亚哥分校） ； University of Pennsylvania（宾夕法尼亚大学） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 Llama-3.1-FoundationAI-SecurityLLM-Reasoning-8B 是首个开源的网络安全专用推理模型，通过结合监督微调和强化学习训练，实现了在网络安全任务上的高性能表现。

Comments 31 pages, 5 figures, 7 tables

Gained in Translation: Privileged Pairwise Judges Enhance Multilingual Reasoning

翻译中获益：特权成对评判增强多语言推理

Lintang Sutawika, Gokul Swamy, Zhiwei Steven Wu, Graham Neubig

机构 * Carnegie Mellon University, Language Technologies Institute（卡内基梅隆大学语言技术研究所） ； Carnegie Mellon University, Robotics Institute（卡内基梅隆大学机器人研究所） ； Carnegie Mellon University, Software and Societal Systems Department（卡内基梅隆大学软件与社会系统系） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 SP3F通过自我扮演和特权成对反馈提升多语言推理能力，无需目标语言数据，有效提升模型在多语言任务中的表现。

Comments Code available at https://github.com/lintangsutawika/SP3F

SpatialMath: Spatial Comprehension-Infused Symbolic Reasoning for Mathematical Problem-Solving

SpatialMath: 基于空间认知的符号推理框架用于数学问题解决

Ashutosh Bajpai, Akshat Bhandari, Akshay Nambi, Tanmoy Chakraborty

机构 * Indian Institute of Technology Delhi（印度理工学院德里） ； Indian Institute of Technology Abu Dhabi（印度理工学院阿布扎克） ； Microsoft Research（微软研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 SpatialMath通过整合空间表示到结构化符号推理链中，提升多模态模型在视觉密集型数学问题中的推理能力。

MathMixup: Boosting LLM Mathematical Reasoning with Difficulty-Controllable Data Synthesis and Curriculum Learning

MathMixup: 通过难度可控的数据合成与课程学习提升LLM的数学推理能力

Xuchen Li, Jing Chen, Xuzhao Li, Hao Liang, Xiaohuan Zhou, Taifeng Wang, Wentao Zhang

机构 * CASIA（中国科学院自动化研究所） ； ZGCA（浙江大学） ； UCAS（中国科学技术大学） ； PKU（北京大学） ； ByteDance（字节跳动） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 MathMixup通过难度可控的数据合成与课程学习策略，提升LLM的数学推理能力，实验显示其在多个基准测试中表现优于现有方法。

Comments Preprint, Under review

M3Kang: Evaluating Multilingual Multimodal Mathematical Reasoning in Vision-Language Models

M3Kang: 评估视觉-语言模型在多语言多模态数学推理中的表现

Aleix Torres-Camps, Nathaniel Mitrani Hadida, Víctor Conchello Vendrell, Àlex Batlle Casellas, Arnau Padrés Masdemont, Jordi Ros-Giralt

机构 * Qualcomm AI Research（高通人工智能研究） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 M3Kang是一个大规模多语言多模态数学推理数据集，用于评估视觉-语言模型在多语言数学推理中的表现，通过基准测试揭示模型在基础数学和图表推理上的不足，并展示多语言技术在多模态设置中的有效性。

Comments 10 pages, 8 figures

Reinforcement Learning for Reasoning in Small LLMs: What Works and What Doesn't

用于小型大语言模型推理的强化学习：什么有效，什么无效

Quy-Anh Dang, Chris Ngo

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 本研究通过强化学习提升小型LLM的推理能力，展示了在有限资源下实现显著性能提升的可行性。

Answering the Unanswerable Is to Err Knowingly: Analyzing and Mitigating Abstention Failures in Large Reasoning Models

回答不可回答的问题是明知其错：分析和缓解大推理模型中的回避失败

Yi Liu, Xiangyu Liu, Zequn Sun, Wei Hu

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文针对大推理模型在面对不可回答问题时的回避失败问题，提出一种轻量级两阶段方法，通过认知监控与推理干预提升回避率并保持推理性能。

Comments Accepted in the 39th AAAI Conference on Artificial Intelligence (AAAI 2026)

Process In-Context Learning: Enhancing Mathematical Reasoning via Dynamic Demonstration Insertion

过程在上下文学习：通过动态演示插入增强数学推理

Ang Gao, Changshuo Zhang, Xiao Zhang, Deyang Li, Minjun Zhao, Fangchao Liu, Xinyu Zhang

机构 * Gaoling School of Artificial Intelligence, Renmin University of China（中国人民大学人工智能学院） ； Huawei Poisson Lab, China（华为Poisson实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 PICL通过动态插入相关演示来提升数学推理能力，有效缓解推理过程中的困惑问题。

Collaborative Multi-Agent Test-Time Reinforcement Learning for Reasoning

协同多智能体测试时间强化学习用于推理

Zhiyuan Hu, Yunhai Hu, Juncheng Liu, Shuyue Stella Li, Yucheng Wang, Zhen Xu, See-Kiong Ng, Anh Tuan Luu, Xinxing Xu, Bryan Hooi, Cynthia Breazeal, Hae Won Park

机构 * MIT（麻省理工学院） ； NUS（新加坡国立大学） ； NYU（纽约大学） ； Microsoft（微软） ； Columbia（哥伦比亚大学） ； NTU（国立科技大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 MATTRL通过在推理阶段注入结构化文本经验，提升多智能体在医学、数学和教育等领域的推理准确性，比多智能体基线提升3.67%，比单智能体基线提升8.67%。

Comments Work in Progress

V-Zero: Self-Improving Multimodal Reasoning with Zero Annotation

V-Zero：基于零标注的自改进多模态推理

Han Wang, Yi Yang, Jingyuan Hu, Minfeng Zhu, Wei Chen

机构 * State Key Laboratory of CAD&CG（计算机辅助设计与图形学国家重点实验室） ； Zhejiang University（浙江大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 V-Zero通过自改进机制在无需人工标注的情况下提升多模态模型的视觉数学推理和通用视觉能力。

Shorter but not Worse: Frugal Reasoning via Easy Samples as Length Regularizers in Math RLVR

更短但不更差：通过易样本作为长度正则化器进行节俭推理

Abdelaziz Bounhar, Hadi Abdine, Evan Dufraisse, Ahmad Chamma, Amr Mohamed, Dani Bouch, Michalis Vazirgiannis, Guokan Shang

机构 * MBZUAI ； Ecole Polytechnique（巴黎政治学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 通过易样本作为长度正则化器，使模型在不增加输出长度的情况下更高效地解决复杂问题。

TIME: Temporally Intelligent Meta-reasoning Engine for Context Triggered Explicit Reasoning

TIME：面向上下文触发的显式推理的时序智能元推理引擎

Susmit Das

机构 * Independent Researcher（独立研究者） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 TIME通过引入时序智能元推理引擎，改进对话模型的显式推理能力，提升时间感知和推理效率。

Comments 14 pages, 3 figures with 27 page appendix. See https://github.com/The-Coherence-Initiative/TIME and https://github.com/The-Coherence-Initiative/TIMEBench for associated code

DisCO: Reinforcing Large Reasoning Models with Discriminative Constrained Optimization

DisCO：通过判别约束优化强化大推理模型

Gang Li, Ming Lin, Tomer Galanti, Zhengzhong Tu, Tianbao Yang

机构 * Texas A&M University（德克萨斯A&M大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 DisCO通过判别约束优化方法，有效解决大推理模型中的难度偏差和熵不稳定性，显著提升数学推理能力。

Comments Accepted to NeurIPS 2025

Entropy-Aligned Decoding of LMs for Better Writing and Reasoning

基于熵对齐的语言模型解码以提升写作与推理能力

Kareem Ahmed, Sameer Singh

机构 * Department of Computer Science University of California, Irvine（计算机科学系加州大学伊维特分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 EPIC通过将未来轨迹的熵纳入语言模型解码，提升写作与推理能力，生成更多样且忠实的内容。

BRAID: Bounded Reasoning for Autonomous Inference and Decisions

BRAID：自主推理与决策的有界推理

Armağan Amcalar, Eyup Cinar

机构 * OpenServ Labs（OpenServ实验室） ； Computer Engineering Department（计算机工程系） ； Eskisehir Osmangazi University（埃斯基谢普大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 BRAID通过结构化提示提升自主代理推理效率和成本效益