大模型推理能力

Why Diffusion Language Models Struggle with Truly Parallel (Non-Autoregressive) Decoding?

为何扩散语言模型在真正并行（非自回归）解码中表现不佳？

Pengxiang Li, Dilxat Muhtar, Tianlong Chen, Lu Yin, Shiwei Liu

机构 * The Hong Kong Polytechnic University, Hong Kong, China（香港理工大学） ； ELLIS Institute Tübingen, Tübingen, Germany（图宾根ELLIS研究所） ； Max Planck Institute for Intelligent Systems, Tübingen, Germany（智能系统马克斯·普朗克研究所） ； Tübingen AI Center, Tübingen, Germany（图宾根人工智能中心） ； University of Surrey, Guildford, United Kingdom（萨里大学） ； The University of North Carolina at Chapel Hill, Chapel Hill, NC, USA（北卡罗来纳大学教堂山分校） 纠错

专题命中 数学推理 ：reasoning(abstract)；chain-of-thought(abstract)；CoT(abstract)；math reasoning(abstract)

AI总结 本文提出NAP方法，通过数据驱动策略改进扩散语言模型的非自回归并行解码性能。

Recycling Failures: Salvaging Exploration in RLVR via Fine-Grained Off-Policy Guidance

回收失败：通过细粒度反策略指导在RLVR中恢复探索

Yanwei Ren, Haotian Zhang, Likang Xiao, Xikai Zhang, Jiaxing Huang, Jiayan Qiu, Baosheng Yu, Quan Chen, Liu Liu

机构 * School of Artificial Intelligence, Beihang University, Beijing, China（北京航空航天大学人工智能学院） ； Hangzhou International Innovation Institute, Beihang University, Hangzhou, China（北京航空航天大学杭州国际创新研究院） ； University of Leicester, Leicester, United Kingdom（莱斯特大学） ； Nanyang Technological University, Singapore（南洋理工大学） ； The Hong Kong Polytechnic University, Hong Kong SAR, China（香港理工大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 SCOPE通过细粒度反策略指导在RLVR中恢复探索，提高轨迹多样性13.5%，在数学推理和分布外推理任务中取得新突破。

On the Generalization of SFT: A Reinforcement Learning Perspective with Reward Rectification

在SFT的泛化上：从强化学习视角的奖励校正

Yongliang Wu, Yizhou Zhou, Zhou Ziheng, Yingzhe Peng, Xinyu Ye, Xinting Hu, Wenbo Zhu, Lu Qi, Ming-Hsuan Yang, Xu Yang

机构 * Southeast University（东南大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Shanghai Jiao Tong University（上海交通大学） ； Nanyang Technological University（南洋理工大学） ； University of California, Berkeley（加州大学伯克利分校） ； Wuhan University（武汉大学） ； University of California, Merced（加州大学默塞德分校） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；分类 cs.LG

AI总结 本文提出动态微调方法，通过奖励校正提升SFT的泛化能力，在多个任务中表现优于传统SFT。

Comments ICLR 2026

Humans and LLMs Diverge on Probabilistic Inferences

人类与大语言模型在概率推断上存在分歧

Gaurav Kamath, Sreenath Madathil, Sebastian Schuster, Marie-Catherine de Marneffe, Siva Reddy

机构 * McGill University（麦吉尔大学） ； Mila – Quebec AI Institute（魁北克人工智能研究所） ； University of Vienna（维也纳大学） ； FNRS – UCLouvain（佛罗伦萨-鲁汶大学） ； Canada CIFAR AI Chair（加拿大CIFAR人工智能主席） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过ProbCOPA数据集研究人类与大语言模型在概率推断上的差异，发现模型在非确定性推理上表现不足，揭示了人类与LLM在推理模式上的根本差异。

ParamMem: Augmenting Language Agents with Parametric Reflective Memory

ParamMem: 通过参数化反思记忆增强语言代理

Tianjun Yao, Yongqiang Chen, Yujia Zheng, Pan Li, Zhiqiang Shen, Kun Zhang

机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Carnegie Mellon University（卡内基梅隆大学） ； Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 ParamMem通过参数化记忆模块提升语言代理的反思多样性，实现更高效的推理和跨任务迁移能力。

Comments 20 pages