大模型推理能力

Reasoning-preserved Efficient Distillation of Large Language Models via Activation-aware Initialization

保留推理能力的大语言模型高效蒸馏：基于激活感知初始化

Junlin He, Yihong Tang, Tong Nie, Guilong Li, Binyu Yang, Jinxiao Du, Lijun Sun, Wei Ma

机构 * The Hong Kong Polytechnic University, Hong Kong SAR, China（香港理工大学） ； McGill University, Montreal, QC, Canada（麦吉尔大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 针对高效蒸馏导致的多步推理能力严重下降（推理崩溃），提出RED方法，通过激活感知初始化投影矩阵为通道选择矩阵，理论缓解有效秩崩溃，恢复推理能力并保持高效训练与通用性能。

The Confidence Shortcut: A Reasoning Failure Mode of Masked Diffusion Models

置信捷径：掩码扩散模型的一种推理失败模式

Dueun Kim, Albert No

机构 * Department of Artificial Intelligence, Yonsei University（延世大学人工智能系） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文发现掩码扩散模型在置信度解码时存在推理失败模式，表现为过早预测局部易解部分而忽略长程依赖，导致复杂输入错误率升高，而随机掩码训练能保持推理轨迹条件。

Revisiting Anthropomorphic Reflection Markers in Large Language Model Reasoning

重新审视大语言模型推理中的拟人化反思标记

Yahan Yu, Noa Nakanishi, Fei Cheng

机构 * Kyoto University（京都大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文通过提示级和令牌级干预抑制拟人化反思标记，发现这些标记并非推理性能的必要条件，且抑制后模型仍能进行无标记验证，表明它们更多是表面线索而非可靠反思代理。

Comments 15 pages, 12 figures

ROSD: Reflective On-Policy Self-Distillation for Language Model Reasoning across Domains

ROSD: 面向跨领域语言模型推理的反思式同策略自蒸馏

Ziqi Zhao, Xinyu Ma, Liu Yang, Yujie Feng, Daiting Shi, Jingzhou He, Xin Xin, Zhaochun Ren, Xiao-Ming Wu

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Baidu Inc.（百度公司） ； Shandong University（山东大学） ； Leiden University（莱顿大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 提出反思式同策略自蒸馏（ROSD）框架，通过反思引导的错误定位蒸馏将参考解模仿转为针对性推理修正，提升领域内推理和跨领域泛化能力。

Comments Preprint

Learning Deliberately, Acting Intuitively: Unlocking Test-Time Reasoning in Multimodal LLMs

有意学习，直觉行动：解锁多模态大语言模型的测试时推理能力

Yahan Yu, Yuyang Dong, Masafumi Oyamada

机构 * Kyoto University（京都大学） ； Initial S ； NEC Corporation, Japan（日本NEC公司） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 提出D2I框架，通过训练时使用基于规则的格式奖励进行有意推理以增强模态对齐，推理时移除显式策略转为直觉推理，从而提升多模态大语言模型的推理能力，无需额外标注或复杂奖励。

Comments 22 pages, 24 figures

SciResearcher: Scaling Deep Research Agents for Frontier Scientific Reasoning

SciResearcher: 面向前沿科学推理的深度研究智能体规模化

Tianshi Zheng, Rui Wang, Xiyun Li, Kelvin Kiu Wai Tam, Newt Nguyen Kim Hue Nam, Wei Fan, Yangqiu Song, Tianqing Fang

机构 * HKUST（香港科技大学） ； CUHK（香港大学） ； Tencent AI Lab（腾讯AI实验室） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出SciResearcher框架，通过合成基于学术证据的概念与计算任务并训练智能体，在HLE-Bio/Chem-Gold等基准上达到最优性能。

Comments 23 pages, 6 figures, 15 tables

ORLoopBench: Solver-in-the-Loop Benchmarks for Self-Correction and Behavioral Rationality in Operations Research

ORLoopBench：运筹学中自我修正与行为理性的求解器在环基准测试

Ruicheng Ao, David Simchi-Levi, Xinshang Wang

专题命中 复杂问题求解 ：self-correction(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出ORLoopBench基准套件，通过将不可行模型修复形式化为求解器在环马尔可夫决策过程，利用不可约不可行子系统（IIS）反馈，结合验证强化学习训练（RLVR），使8B模型在LP修复上超越前沿API（95.3% vs 92.4% RR@5），并揭示全模型代码再生中的语义漂移问题。

Comments 58 pages, accepted by ICML 2026

Prompting Policies for Multi-step Reasoning and Tool-Use in Black-box LLMs with Iterative Distillation of Experience

多步推理和工具使用中黑盒LLM的提示策略：基于经验迭代蒸馏的强化学习框架

Krishna Sayana, Ketan Todi, Ambarish Jash

机构 * Google Research（谷歌研究） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于经验迭代蒸馏的强化学习框架，用于训练提示策略以提升黑盒LLM的多步推理和工具使用能力，实验显示在逻辑推理和工具使用任务中性能显著提升。

Comments 10 pages and reference, appendix

Investigating Thinking Behaviours of Reasoning-Based Language Models for Social Bias Mitigation

探究基于推理的语言模型在缓解社会偏见中的思维行为

Guoqing Luo, Iffat Maab, Lili Mou, Junichi Yamagishi

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了基于推理的语言模型在缓解社会偏见中的思维机制，发现两种导致偏见累积的失败模式，并提出轻量级提示方法减少偏见同时保持准确性。

Comments Due to issues found with the annotations in Section 4.3, we have decided to withdraw this preprint

Deep Reasoning in General Purpose Agents via Structured Meta-Cognition

通过结构化元认知实现通用代理中的深度推理

Dean Light, Michael Theologitis, Kshitish Ghate, Shuyue Stella Li, Benjamin Newman, Chirag Shah, Aylin Caliskan, Pang Wei Koh, Dan Suciu, Yulia Tsvetkov

机构 * University of Washington（华盛顿大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出深度推理方法，通过结构化元认知构建任务特定框架，提升复杂任务处理能力，在四个基准测试中超越现有方法，减少早终止和幻觉。

Comments Preprint under review

FERA: Uncertainty-Aware Federated Reasoning for Large Language Models

FERA：面向大语言模型的不确定性感知联邦推理

Ruhan Wang, Chengkai Huang, Zhiyong Wang, Junda Wu, Rui Wang, Tong Yu, Julian McAuley, Lina Yao, Dongruo Zhou

机构 * Indiana University（印第安纳大学） ； The University of New South Wales（新南威尔士大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of California San Diego（加州大学圣地亚哥分校） ； Adobe Research（Adobe研究院） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 FERA通过迭代服务器-客户端协同细化，解决联邦推理中客户端可靠性依赖查询的问题，提升多步骤推理能力，实验表明其在多个推理基准上优于联邦训练和无训练基线。

Comments 44 pages, 8 figures

MemReread: Enhancing Agentic Long-Context Reasoning via Memory-Guided Rereading

MemReread: 通过记忆引导重读增强代理长上下文推理

Baibei Ji, Xiaoyang Weng, Juntao Li, Zecheng Tang, Yihang Lou, Min Zhang

机构 * Soochow University（苏州大学） ； Peking University（北京大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 MemReread通过记忆引导重读机制，在线性处理文档片段时避免二次检索，实现非线性推理并保持文档理解的逻辑流，通过强化学习框架提升长上下文推理任务性能。

LatentRAG: Latent Reasoning and Retrieval for Efficient Agentic RAG

LatentRAG: 基于潜在空间的高效代理RAG推理与检索

Yijia Zheng, Marcel Worring

机构 * University of Amsterdam（阿姆斯特丹大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 LatentRAG通过将推理与检索从离散语言空间转移到连续潜在空间，提升代理RAG的效率，实验表明其在七种基准数据集上性能与显式方法相当，推理延迟降低约90%。

Multimodal Fact-Level Attribution for Verifiable Reasoning

多模态事实级归因用于可验证推理

David Wan, Han Wang, Ziyang Wang, Elias Stengel-Eskin, Hyunji Lee, Mohit Bansal

机构 * The University of Texas at Austin（德克萨斯大学奥斯汀分校） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出MuRGAt基准，用于评估多模态事实归因能力，要求模型在复杂推理中生成明确推理和精确引用，揭示强模型在正确推理下仍易产生幻觉，且增加推理深度或结构化归因会降低准确性。

Comments Accepted to ICML 2026. Code and data are available at https://github.com/meetdavidwan/murgat

FT-RAG: A Fine-grained Retrieval-Augmented Generation Framework for Complex Table Reasoning

FT-RAG：一种面向复杂表格推理的细粒度检索增强生成框架

Zebin Guo, Weidong Geng, Ruichen Mao

机构 * Georgia Institute of Technology（佐治亚理工学院） ； Zhejiang University（浙江大学） ； Zhejiang Lab（浙江实验室） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 FT-RAG通过细粒度检索和多模态融合提升表格推理能力，引入多表RAG库增强训练数据，实现表格和单元格命中率显著提升。

Exploring the System 1 Thinking Capability of Large Reasoning Models

探索大型推理模型的系统1思维能力

Wenyuan Zhang, Shuaiyi Nie, Xinghua Zhang, Zefeng Zhang, Tingwen Liu

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） ； Tongyi Lab, Alibaba Group（阿里巴巴集团通义实验室） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文研究大型推理模型的系统1思维能力，提出S1-Bench基准测试，发现现有模型在简单问题上存在准确率低和效率差的问题，揭示了模型对问题难度的隐含编码。

Comments Accepted by IJCAI 2026 (Main Track)

When to Retrieve During Reasoning: Adaptive Retrieval for Large Reasoning Models

在推理中何时检索：面向大推理模型的自适应检索

Dongxin Guo, Jikun Wu, Siu Ming Yiu

机构 * The University of Hong Kong（香港大学） ； Brain Investing Limited（Brain Investing有限公司） ； Stellaris AI Limited（Stellaris AI有限公司） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ReaLM-Retrieve框架，通过三方面创新解决推理模型与检索增强生成的不匹配问题，提升答案F1分数并减少检索调用次数。

Comments 12 pages, 3 figures, 9 tables. Accepted at SIGIR 2026 (49th International ACM SIGIR Conference on Research and Development in Information Retrieval), Melbourne, Australia

Exploring Reasoning Reward Model for Agents

探索用于智能体的推理奖励模型

Kaixuan Fan, Kaituo Feng, Manyuan Zhang, Tianshuo Peng, Zhixun Li, Yilei Jiang, Shuang Chen, Peng Pei, Xunliang Cai, Xiangyu Yue

机构 * MMLab, CUHK（CUHK 机器学习实验室） ； Meituan（美团） ； SEEM, CUHK（CUHK 系统工程与工程管理系） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出Agent-RRM模型，通过结构化反馈提升智能体推理能力，采用三种集成策略在12个基准测试中取得显著性能提升。

Comments ACL 2026 Findings, Project page: https://github.com/kxfan2002/Reagent

Causal Concept Graphs in LLM Latent Space for Stepwise Reasoning

在LLM潜在空间中使用因果概念图进行分步推理

Md Muntaqim Meherab, Noor Islam S. Mohammad, Faiza Feroz

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出因果概念图（CCG），通过结合任务条件稀疏自编码器和可微结构学习方法，在LLM潜在空间中建模概念间的因果依赖关系，提升了多步推理的效果。

Comments We have recently encountered author conflicts related to this work and therefore respectfully request the withdrawal of this paper. We believe this step is necessary to address the situation appropriately and maintain academic integrity in the submission

CoFEE: Reasoning Control for LLM-Based Feature Discovery

CoFEE：基于LLM的特征发现的推理控制

Maximilian Westermann, Ben Griffin, Aaron Ontoyin Yin, Zakari Salifu, Yagiz Ihlamur, Kelvin Amoaba, Joseph Ternasky, Fuat Alican, Yigit Ihlamur

机构 * University of Oxford（牛津大学） ； Vela Research（Vela研究） ； Amazon（亚马逊） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出CoFEE框架，通过引入认知行为提升LLM特征发现的预测性和效率，实验显示其在预测性和成本控制上优于传统方法。

ChessArena: A Chess Testbed for Evaluating Strategic Reasoning Capabilities of Large Language Models

ChessArena: 一个用于评估大语言模型战略推理能力的国际象棋测试平台

Jincheng Liu, Sijun He, Jingjing Wu, Xiangsen Wang, Yang Chen, Zhaoqi Kuang, Siqi Bao, Yuan Yao

机构 * State Key Laboratory of Novel Software Technology（新型软件技术国家重点实验室） ； Baidu（百度） ； University of Electronic Science and Technology of China（电子科技大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出ChessArena测试平台，用于评估大语言模型的战略推理能力，测试了13个模型在800多局游戏中表现，发现无模型能击败业余水平的Maia-1100，但经过微调的Qwen3-8B模型表现显著提升。

TimeOmni-1: Incentivizing Complex Reasoning with Time Series in Large Language Models

TimeOmni-1：通过时间序列激励大型语言模型的复杂推理

Tong Guan, Zijie Meng, Dianqi Li, Shiyu Wang, Chao-Han Huck Yang, Qingsong Wen, Zuozhu Liu, Sabato Marco Siniscalchi, Ming Jin, Shirui Pan

机构 * Griffith University（格里菲斯大学） ； Zhejiang University（浙江大学） ； NVIDIA（英伟达） ； Squirrel Ai Learning ； University of Palermo（帕尔米奥大学） ； Norwegian University of Science and Technology（挪威科学技术大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出TimeOmni-1，首个统一推理模型，通过时间序列推理解决多样化现实问题，提升因果发现和有效响应率。

Comments Accepted by the 14th International Conference on Learning Representations (ICLR 2026)

How Much Cache Does Reasoning Need? Depth-Cache Tradeoffs in KV-Compressed Transformers

推理需要多少缓存？KV压缩变换器中的深度-缓存权衡

Xiao Wang

机构 * FujianAI（福建AI） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 研究通过k步指针追逐分析KV缓存压缩对多步推理的影响，揭示了深度与缓存大小的理论界限及带宽限制，同时比较了自适应与非自适应缓存的误差缩放差异。

PiERN: Token-Level Routing for Integrating High-Precision Computation and Reasoning

PiERN：基于令牌级别的路由以整合高精度计算与推理

Hengbo Xiao, Jingyuan Fan, Xin Tong, Jingzhao Zhang, Chao Lu, Guannan He

机构 * Peking University（北京大学） ； Peking University Changsha Institute for Computing and Digital Economy（北京大学长沙计算与数字经济研究院） ； Beihang University（北京航空航天大学） ； Tsinghua University（清华大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 PiERN通过内生整合计算能力，提升语言模型在复杂系统中的精度与效率，实现高准确性、低延迟和可扩展性。

OpenVLThinkerV2: A Generalist Multimodal Reasoning Model for Multi-domain Visual Tasks

OpenVLThinkerV2: 一个多领域视觉任务的通用多模态推理模型

Wenbo Hu, Xin Chen, Yan Gao-Tian, Yihe Deng, Nanyun Peng, Kai-Wei Chang

机构 * University of California, Los Angeles (UCLA)（加州大学洛杉矶分校） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出G$^2$RPO训练目标，通过非线性分布匹配解决多视觉任务中的奖励拓扑差异和感知与推理平衡问题，构建了鲁棒的OpenVLThinkerV2模型，在18个基准测试中表现优异。

Comments code at: https://github.com/uclanlp/openvlthinker

Stateful Evidence-Driven Retrieval-Augmented Generation with Iterative Reasoning

具有迭代推理的有状态证据驱动检索增强生成

Qi Dong, Ziheng Lin, Ning Ding

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出一种具有迭代推理的有状态证据驱动检索增强生成框架，通过逐步积累证据提升问答稳定性与鲁棒性，在多个基准测试中表现出色。

Quantifying and Understanding Uncertainty in Large Reasoning Models

对大规模推理模型中不确定性量化与理解的研究

Yangyi Li, Chenxu Zhao, Mengdi Huai

机构 * Department of Computer Science, Iowa State University（爱荷华州立大学计算机科学系） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出了一种量化推理-答案结构不确定性的新方法，并开发了基于Shapley值的统一解释框架，通过理论分析和实验验证了方法的有效性。

TS-Reasoner: Domain-Oriented Time Series Inference Agents for Reasoning and Automated Analysis

TS-Reasoner: 面向领域的时序推理代理用于推理和自动化分析

Wen Ye, Wei Yang, Defu Cao, Yizhou Zhang, Lumingyuan Tang, Jie Cai, Yan Liu

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出TS-Reasoner，一种面向领域的时序推理代理，结合大语言模型与领域工具，实现多步推理和约束感知分析，实验表明其在时序理解与多步推理任务中优于通用LLM。

Towards Hierarchical Multi-Step Reward Models for Enhanced Reasoning in Large Language Models

面向增强大语言模型推理能力的分层多步奖励模型

Teng Wang, Zhangyi Jiang, Zhenqi He, Shenyang Tong, Wenhan Yang, Yanan Zheng, Zeyu Li, Zifan He, Hailei Gong, Zewen Ye, Shengjie Ma, Jianping Zhang

机构 * the University of Hong Kong（香港大学） ； Tsinghua University（清华大学） ； Georgia Institute of Technology（佐治亚理工学院） ； National University of Singapore（新加坡国立大学） ； Zhejiang University（浙江大学） ； Renmin University of China（中国人民大学） ； the Chinese University of Hong Kong（香港中文大学） 纠错

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出分层奖励模型和轻量数据增强策略，解决大语言模型推理中奖励黑客问题，提升多步推理评估的稳定性和泛化能力。

Enabling Intrinsic Reasoning over Dense Geospatial Embeddings with DFR-Gemma

通过DFR-Gemma实现对密集地理嵌入的内在推理

Xuechen Zhang, Aviv Slobodkin, Joydeep Paul, Mandar Sharma, Samet Oymak, Shravya Shetty, Gautam Prasad

专题命中 复杂问题求解 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 DFR-Gemma通过轻量投影器将高维嵌入与LLM潜在空间对齐，使LLM能直接处理地理嵌入进行空间推理，提升效率和准确性。