大模型推理能力

BRIDGE: Bridging Reasoning In Distillation Gap Elimination via Structure-Aware Masking

通过结构感知掩码和GRPO实现高效的链式推理知识蒸馏课程学习

Bowen Yu, Sheng Zhang, Binhao Wang, Yi Wen, Jingtong Gao, Bowen Liu, Zimo Zhao, Shanshan Ye, Wanyu Wang, Maolin Wang, Xiangyu Zhao

机构 * City University of Hong Kong（香港城市大学） 纠错

专题命中 其他推理 ：chain-of-thought(title,abstract)；CoT(abstract,abstract_cn)；reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 通过结构感知掩码和GRPO实现高效的链式推理知识蒸馏，提升学生模型的准确率和输出简洁性。

Comments 13 pages, 12 figures. Accepted at SDM 2026

Stable Reasoning, Unstable Responses: Mitigating LLM Deception via Stability Asymmetry

稳定推理，不稳定响应：通过稳定性不对称缓解大语言模型欺骗

Guoxi Zhang, Jiawei Chen, Tianzhuo Yang, Lang Qin, Juntao Dai, Yaodong Yang, Jingwei Yi

机构 * Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） ； Beijing Academy of Artificial Intelligence（北京人工智能研究院） ； School of Chinese as a Second Language, Peking University（北京大学第二语言学院） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.AI、cs.LG

AI总结 针对大语言模型内在欺骗问题，提出稳定性不对称正则化（SAR），通过惩罚内部思维链稳定性与外部响应稳定性之间的不对称性来抑制欺骗，实验证明其有效性且不损害模型能力。

Re-FORC: Adaptive Reward Prediction for Efficient Chain-of-Thought Reasoning

Re-FORC：用于高效思维链推理的自适应奖励预测

Renos Zabounidis, Aditya Golatkar, Michael Kleinman, Alessandro Achille, Wei Xia, Stefano Soatto

机构 * AWS Agentic AI（AWS智能代理部门） ； Carnegie Mellon University（卡内基梅隆大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；chain-of-thought(title)；分类 cs.AI、cs.LG

AI总结 研究提出Re-FORC自适应奖励预测方法，通过在推理模型上训练轻量级适配器，实现早期停止无前景推理链、优化模型和思维长度选择以及自适应测试时缩放，有效提升推理效率和准确率。

Comments Accepted at ICML 2026; previously accepted as a non-archival paper at the Efficient Reasoning Workshop at NeurIPS 2025

Latent Thoughts Tuning: Bridging Context and Reasoning with Fused Information in Latent Tokens

潜在思维调整：通过潜在令牌中的融合信息连接上下文与推理

Weihao Liu, Dehai Min, Lu Cheng

机构 * University of Illinois Chicago（伊利诺伊大学芝加哥分校） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 研究提出潜在思维调整（LT-Tuning）框架，通过重新定义潜在思维构建与部署方式，引入上下文预测融合机制，结合三阶段课程学习，实现潜在与显式思维模式动态切换，优于现有潜在推理基线，有效缓解特征崩溃并提升推理精度。

Comments In Proceedings of the Forty-third International Conference on Machine Learning

Scaling Latent Reasoning via Looped Language Models

通过循环语言模型扩展潜在推理

Rui-Jie Zhu, Zixuan Wang, Kai Hua, Tianyu Zhang, Ziniu Li, Haoran Que, Boyi Wei, Zixin Wen, Fan Yin, He Xing, Lu Li, Jiajun Shi, Kaijing Ma, Shanda Li, Taylor Kergan, Andrew Smith, Xingwei Qu, Mude Hui, Bohong Wu, Qiyang Min, Hongzhi Huang, Xun Zhou, Wei Ye, Jiaheng Liu, Jian Yang, Yunfeng Shi, Chenghua Lin, Enduo Zhao, Tianle Cai, Ge Zhang, Wenhao Huang, Yoshua Bengio, Jason Eshraghian

专题命中 其他推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；chain-of-thought(abstract)；分类 cs.CL

AI总结 提出Ouro系列循环语言模型，通过在潜在空间迭代计算、熵正则化深度分配和扩展至7.7T令牌，实现优于更大模型的推理性能，并展示其知识操控能力。

The Illusion of Superposition? A Principled Analysis of Latent Thinking in Language Models

叠加的幻觉？语言模型中潜在思维的原理性分析

Michael Rizvi-Martel, Guillaume Rabusseau, Marius Mosbach

机构 * Mila – Quebec AI Institute（Mila – 魁北克人工智能研究所） ； Université de Montréal（蒙特利尔大学） ； McGill University（麦吉尔大学） 纠错

专题命中 其他推理 ：CoT(summary_cn,abstract)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.LG

AI总结 本文探讨了连续链式思维（Latent CoT）中叠加现象的出现条件，发现仅从头训练的模型表现出叠加特性，而其他训练方式下模型倾向于使用捷径解法。

Comments 9 pages

Counterfactual Simulation Training for Chain-of-Thought Faithfulness

反事实模拟训练用于思维链可信度

Peter Hase, Christopher Potts

专题命中 其他推理 ：chain-of-thought(title,abstract)；reasoning(abstract)；CoT(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出反事实模拟训练方法，通过奖励使模拟器准确预测模型输出来提升思维链的可信度，并在不同设置中验证其有效性。

Comments Accepted to COLM 2026

Implicit Reasoning for Large Language Model-based Generative Recommendation

基于大语言模型的生成式推荐的隐式推理

Yinhan He, Liam Collins, Bhuvesh Kumar, Jundong Li, Neil Shah, Donald Loveland

机构 * University of Virginia（弗吉尼亚大学） ； Snap Inc.（Snap公司） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；CoT(abstract,abstract_cn)；分类 cs.CL、cs.AI

AI总结 针对大语言模型用于生成式推荐时显式推理的三大局限（世界知识表达弱化、语义ID与自然语言嵌入空间不对齐、推理质量敏感），提出轻量级隐式推理范式PauseRec，在性能、训练成本和推理速度上均优于显式方法。

What Does Chain-of-Thought Contribute at Probe Time? Evidence for Local Co-Occurrence Activation

链式思维在探测时为何有效？局部共现而非全局推导

Xiang Wang, Wei Wei

机构 * Huazhong University of Science and Technology（华中科技大学） 纠错

专题命中 其他推理 ：chain-of-thought(title,abstract)；reasoning(abstract)；CoT(abstract)；分类 cs.AI

AI总结 研究链式思维提示在探测时提升语言模型准确率的原因，发现增益主要来自词汇激活和短距离标记共现，而非句子级逻辑推导。

Beyond Chain-of-Thought: Rewrite as a Universal Interface for Generative Multimodal Embeddings

超越思维链：重写作为生成式多模态嵌入的通用接口

Peixi Wu, Ke Mei, Feipeng Ma, Bosong Chai, Zhibin Lan, Chenxi Zhao, Shannan Yan, Jie Chen, Zhangchi Hu, Yansong Peng, Bo Lin, Junjie Zhou, Dacheng Yin, Tianyi Wang, Fengyun Rao, Jing Lyu, Hebei Li, Xiaoyan Sun

机构 * WeChat Vision, Tencent Inc.（腾讯微信视觉部） ； Zhejiang University（浙江大学） ； Tsinghua University（清华大学） ； Institute of Artificial Intelligence, Hefei Comprehensive National Science Center（合肥综合性国家科学中心人工智能研究院） 纠错

专题命中 其他推理 ：chain-of-thought(title,abstract)；reasoning(abstract)；CoT(abstract)

AI总结 针对思维链推理在检索中产生冗余和语义歧义的问题，提出重写驱动的多模态嵌入框架RIME，联合优化生成与嵌入，并通过跨模态对齐和精炼强化学习实现高效准确的检索。

Comments Accepted by ACMMM 2026

Benefits and Limitations of Communication in Multi-Agent Reasoning

多智能体推理中通信的益处与局限性

Michael Rizvi-Martel, Satwik Bhattamishra, Neil Rathi, Guillaume Rabusseau, Michael Hahn

机构 * Mila & Université de Montréal（Mila与蒙特利尔大学） ； University of Oxford（牛津大学） ； Stanford University（斯坦福大学） ； Saarland University（萨尔兰大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；分类 cs.AI、cs.LG

AI总结 研究多智能体推理中通信的益处与局限，提出理论框架分析其表达能力，应用于三个算法族，得出相关界限，通过实验验证关键量权衡，为设计可扩展多智能体推理系统提供指导。

Comments 34 pages, 14 figures

Data Repetition Beats Data Scaling in Long-CoT Supervised Fine-Tuning

数据重复胜过数据扩展在长链推理监督微调中

Dawid J. Kopiczko, Sagar Vaze, Tijmen Blankevoort, Yuki M. Asano

机构 * University of Technology Nuremberg（图恩大学） ； NVIDIA（英伟达） 纠错

专题命中 其他推理 ：CoT(title)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.CL

AI总结 本研究发现，在长链推理监督微调中，数据重复训练比数据扩展更有效，通过token准确率作为停止标准可替代昂贵的数据扩展。

The Scaling Properties of Implicit Deductive Reasoning in Transformers

深度受限Transformer中隐式演绎推理的缩放属性

Enrico Vompa, Tanel Tammet

专题命中 其他推理 ：reasoning(title,abstract)；CoT(abstract)；分类 cs.AI

AI总结 研究深度受限Transformer中隐式演绎推理的缩放属性，通过去相关联和强制对齐，发现足够深模型中隐式推理接近显式思维链性能，且思维链对深度外推必要。

Comments preprint

Diffusion-GR2: Diffusion Generative Reasoning Re-ranker

Diffusion-GR2: 扩散生成推理重排序器

Zhuoxuan Zhang, Kangqi Ni, Yuhang Chen, Mingfu Liang, Xiaohan Wei, Yunchen Pu, Fei Tian, Chonglin Sun, Frank Shyu, Adam, Song, Sandeep Pandey, Luke Simon, Tianlong Chen, Xi Liu

机构 * Meta AI ； UNC Chapel Hill（北卡罗来纳大学教堂山分校） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；分类 cs.AI

AI总结 提出Diffusion-GR2，通过转换微调、在线策略蒸馏和强化学习将自回归推理重排序器转换为块扩散模型，在保持精度的同时将推理吞吐量提升2.4-3.5倍。

Comments Work in progress

Residual Context Diffusion Language Models

残差上下文扩散语言模型

Yuezhou Hu, Harman Singh, Monishwaran Maheswaran, Haocheng Xi, Coleman Hooper, Jintao Zhang, Aditya Tomar, Michael W. Mahoney, Sewon Min, Mehrdad Farajtabar, Kurt Keutzer, Amir Gholami, Chenfeng Xu

机构 * University of California, Berkeley（加州大学伯克利分校） 纠错

专题命中 其他推理 ：CoT(summary_cn,abstract)；reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 提出残差上下文扩散（RCD）模块，通过回收丢弃令牌的上下文残差提高扩散语言模型的解码效率，在长/短CoT任务上以极少额外计算提升准确率4-11个百分点。

Cognitive Episodes in LLM Reasoning Traces Enable Interpretable Human Item Difficulty Prediction

LLM推理轨迹中的认知片段实现可解释的人类项目难度预测

Chenguang Wang, Ming Li, Xinyue Zeng, Zhuochun Li, Hong Jiao, Tianyi Zhou, Dawei Zhou

机构 * Virginia Tech（弗吉尼亚理工大学） ； University of Maryland（马里兰大学） ； MBZUAI（穆桑大学人工智能研究所） ； University of Pittsburgh（匹兹堡大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出Epi2Diff框架，将大型推理模型的推理轨迹映射为认知片段序列，通过推理规模、努力分配和状态转换建模项目难度，在真实数据集上优于基线方法。

Comments 32 pages, 8 figures, 10 tables

Multi-Task GRPO: Reliable LLM Reasoning Across Tasks

多任务GRPO：跨任务的可靠大语言模型推理

Shyam Sundhar Ramesh, Xiaotong Ji, Matthieu Zimmer, Sangwoong Yoon, Zhiyong Wang, Haitham Bou Ammar, Aurelien Lucchi, Ilija Bogunovic

机构 * UCL Department of EEE（伦敦大学学院电子工程系） ； UCL Centre for AI（伦敦大学学院人工智能中心） ； Huawei Noah’s Ark Lab（华为诺亚实验室） ； UNIST Graduate School of AI（延世大学人工智能研究生院） ； University of Edinburgh（爱丁堡大学） ； University of Basel（巴塞尔大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出MT-GRPO算法，通过动态调整任务权重和比例保持采样器，提升多任务场景下大语言模型的可靠推理性能。

Comments Accepted at ICML 2026

Generalizing Numerical Reasoning in Table Data through Operation Sketches and Self-Supervised Learning

通过操作草图和自监督学习推广表格数据中的数值推理

Hanjun Cho, Gahyun Yoo, Hanseong Kim, Jay-Yoon Lee

机构 * Seoul National University（首尔国立大学） ； Soongsil University（顺天大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出TaNOS框架，通过操作草图和自监督学习提升表格数据中数值推理的泛化能力，实验显示其在FinQA数据集上表现优异，且在领域转移中鲁棒性更强。

Comments Accepted to TACL. This is a pre-MIT Press publication version

Multi-Agent Reasoning with Consistency Verification Improves Uncertainty Calibration in Medical MCQA

基于一致性验证的多智能体推理改进医学多项选择题问答中的不确定性校准

John Ray B. Martinez

机构 * Department of Data Science and Analytics（数据科学与分析系） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出多智能体框架，结合领域专家智能体与两阶段验证及S分数加权融合，在医学MCQA中显著降低校准误差并提升判别能力。

Comments 20 pages, 6 figures. Preprint under review

Continuous Reasoning for Vision-Language-Action

视觉-语言-动作的连续推理

Yueh-Hua Wu, Tatsuya Matsushima, Kei Ota

机构 * Airoa 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 针对视觉-语言-动作策略中语言与连续控制粒度不匹配的问题，提出一种可共享、可验证的连续推理方法，通过高斯潜变量接口和自验证目标提升机器人任务成功率。

Comments Project page: https://continuous-reasoning.airoa.io

Co-RL: Unsupervised Reasoning Emerges from Diverse Cohort in Multi-agent RL

Co-RL：多智能体强化学习中多样群体涌现的无监督推理

Yunhao Yang, Yuexin Bian, Yunjie Tian, Di Fu, Tianjin Huang, Yuanyuan Shi, Ziang Xiao, Nuno Vasconcelos, Yijiang Li

机构 * University of Exeter（埃克塞特大学） ； ByteDance（字节跳动） ； Johns Hopkins University（约翰斯·霍普金斯大学） ； UC San Diego（加州大学圣迭戈分校） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本研究提出Co-RL框架，通过参数不共享的多智能体协作训练，利用同伴奖励减少对真实标注的依赖，提升纯文本及多模态任务的推理性能，缓解训练崩溃与响应同质化问题。

Comments 30 pages, 5 figures, 11 tables

Enhancing Science Classroom Discourse Analysis through Joint Multi-Task Learning for Reasoning-Component Classification

通过联合多任务学习增强科学课堂话语分析以进行推理组件分类

Jiho Noh, Mukhesh Raghava Katragadda, Raymond Carl, Soon Lee

机构 * Department of Computer Science, Kennesaw State University（肯纳邦大学计算机科学系） ； Bagwell College of Education, Kennesaw State University（肯纳邦大学巴格威尔教育学院） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出ADAS系统，通过联合多任务学习对教师和学生话语进行类型和推理组件分类，解决少数类标签不平衡问题，提升课堂话语分析效率。

CulTrace: Tracing Internal Cultural Reasoning in Large Language Models

纠缠于表征：大型语言模型中文化偏见的机制性探究

Haeun Yu, Arnav Arora Seogyeong Jeong, Nadav Borenstein, Siddhesh Pawar, Jisu Shin, Jiho Jin, Junho Myung, Alice Oh, Isabelle Augenstein

机构 * University of Copenhagen（哥本哈根大学） ； KAIST（韩国科学技术院） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本研究提出Culturescope方法，通过机制性可解释性探讨LLMs中文化偏见的来源，揭示低资源文化对文化偏见的抗性及模型参数知识的限制。

Comments 22 pages, 15 figures

DR.GAP: Mitigating Bias in Large Language Models using Gender-Aware Prompting with Decoupled Reasoning

DR.GAP：采用解耦推理的性别感知提示缓解大语言模型中的偏见

Hongye Qiu, Yue Xu, Yi Wang, Meikang Qiu, Wenjie Wang

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 该研究针对大语言模型的性别偏见问题，提出DR.GAP方法，通过生成无性别推理轨迹作为上下文示例，在不修改模型参数的情况下缓解偏见，且可扩展至视觉语言模型，经多任务多模型实验验证有效。

Humans Disengage, Reasoning Models Persist: Separating Difficulty Registration from Deliberation Allocation

人类放弃，推理模型坚持：将难度登记与深思分配分离

Han-yu Wang

机构 * The University of Hong Kong（香港大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文通过分离难度登记与深思分配，发现人类与大型推理模型（LRM）在问题解决中的时间/令牌分配模式相反：人类在错误问题上用时更少，而LRM在错误问题上使用更多令牌。

A note on conditional PAC-efficient reasoning in large language model routing

关于大语言模型中条件PAC有效推理不可能性的注记

Hao Zeng, Bingyi Jing

机构 * Department of Statistics and Data Science（统计与数据科学系） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究证明了在无分布设定下，大语言模型无法实现条件PAC有效推理，指出任何满足此条件的算法必须依赖专家模型。

Topology-Aware Reasoning over Incomplete Knowledge Graph with Graph-Based Soft Prompting

基于拓扑的不完整知识图谱推理与图基软提示

Shuai Wang, Xixi Wang, Yinan Yu

机构 * Chalmers University of Technology and University of Gothenburg, Sweden（楚姆勒大学技术学院和哥德堡大学，瑞典） ； Technical University of Denmark, Kgs. Lyngby, Denmark（丹麦技术大学，基斯勒吕辛，丹麦） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于图的软提示框架，通过图神经网络编码子图生成软提示，使LLM在更丰富的结构上下文中推理，减少缺失边的影响，提升多跳KBQA性能。

Comments 17 pages, 2 figures

From We to Me: Theory Informed Narrative Shift with Abductive Reasoning

从‘我们’到‘我’：基于演绎推理的理论指导叙事转变

Jaikrishna Manojkumar Patil, Divyagna Bavikadi, Kaustuv Mukherji, Ashby Steward-Nolan, Peggy-Jean Allin, Tumininu Awonuga, Joshua Garland, Paulo Shakarian

机构 * Syracuse University（苏塞克斯大学） ； Arizona State University（亚利桑那州立大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出基于演绎推理和社会科学理论的神经符号方法，用于改进大型语言模型的叙述转变能力，在多个模型上实现了显著的性能提升。

Learning to Select, Not Relearn: Hard-Routed Mixtures of Reasoning LoRAs

学会选择，而非重新学习：硬路由推理LoRA混合

Seyed Alireza Molavi, Zhan Su, Yan Hu, Peyman Sheikholharam Mashhadi, Stefan Byttner, Prayag Tiwari

机构 * Halmstad University（哈尔姆斯塔德大学） ； The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出硬路由MoR-LoRA框架，通过硬top-1路由组合冻结的推理LoRA专家，保留专家行为且可训练参数少于软路由方法。

Comments Code available at: https://github.com/sar-molavi/hard-routed-mor-lora

Invariant Learning Dynamics of Transformers in Inductive Reasoning Tasks

归纳推理任务中Transformer的不变学习动态

Tiberiu Musat, Tiago Pimentel, Nicolas Zucchet, Thomas Hofmann

机构 * ETH Zurich（苏黎世联邦理工学院） ； Stanford（斯坦福大学） 纠错

专题命中 其他推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 该研究提出理论框架解释Transformer语言模型归纳推理能力，研究广义归纳任务，证明其训练动态可限制在低维不变流形，刻画数据统计对学习竞争的影响，探讨初始化作用并展示坐标框架用途，向Transformer学习预测理论迈进。