大模型推理能力

Nemotron-CrossThink: Scaling Self-Learning beyond Math Reasoning

Nemotron-CrossThink: 在数学推理之外实现自学习的扩展

Syeda Nahida Akter, Shrimai Prabhumoye, Matvei Novikov, Seungju Han, Ying Lin, Evelina Bakhturina, Eric Nyberg, Yejin Choi, Mostofa Patwary, Mohammad Shoeybi, Bryan Catanzaro

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出NEMOTRON-CROSSTHINK框架，通过整合多领域数据提升推理泛化能力，改进数学和非数学任务的准确性与效率。

Comments 19 pages, 10 figures

Thinking in Latents: Adaptive Anchor Refinement for Implicit Reasoning in LLMs

在潜空间中思考：用于大语言模型隐式推理的自适应锚点细化

Disha Sheshanarayana, Rajat Subhra Pal, Manjira Sinha, Tirthankar Dasgupta

机构 * Manipal University Jaipur（马普尔大学斋普尔） ； TCS Research（塔塔咨询研究） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出AdaAnchor框架，通过自适应终止机制优化潜空间推理，提升准确率并减少计算步骤，实验表明在数学问题基准上准确率提升5%且减少48-60%的潜空间步骤。

Comments Accepted at ICLR 2026, LIT Workshop

Can LLMs Simulate Personas with Reversed Performance? A Systematic Investigation for Counterfactual Instruction Following in Math Reasoning Context

LLMs能否通过反向表现模拟人物角色？一种针对数学推理情境中反事实指令跟随的系统性调查

Sai Adith Senthil Kumar, Hao Yan, Saipavan Perepa, Murong Yue, Ziyu Yao

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(title)；分类 cs.CL

AI总结 本文提出首个评估LLM反事实指令跟随能力的基准数据集，发现主流模型在模拟反向表现人物时表现不佳，揭示了反事实指令跟随的挑战。

Curriculum Reinforcement Learning from Easy to Hard Tasks Improves LLM Reasoning

从简单到困难的任务课程强化学习提升大语言模型推理能力

Shubham Parashar, Shurui Gui, Xiner Li, Hongyi Ling, Sushil Vemuri, Blake Olson, Eric Li, Yu Zhang, James Caverlee, Dileep Kalathil, Shuiwang Ji

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出E2H Reasoner方法，通过从易到难的任务调度提升LLM推理能力，理论证明其收敛性并展示更少样本需求，实验显示在多个领域显著提升小型LLM的推理性能。

Shorten After You're Right: Lazy Length Penalties for Reasoning RL

在正确后缩短：用于推理RL的懒惰长度惩罚

Danlong Yuan, Tian Xie, Shaohan Huang, Zhuocheng Gong, Huishuai Zhang, Chong Luo, Furu Wei, Dongyan Zhao

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出三种集成到大推理模型强化学习过程中的奖励设计，通过减少响应长度而不增加训练阶段，实验证明在逻辑推理和数学问题中均显著缩短响应长度并保持或提升性能。

Comments Under review

GRPO and Reflection Reward for Mathematical Reasoning in Large Language Models

GRPO与反思奖励在大语言模型数学推理中的应用

Zhijie Wang

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出GRPO与反思奖励机制相结合的四阶段框架，提升大语言模型的自我反思能力，通过实验验证其在数学推理中的优越性。

Journal ref Applied and Computational Engineering 154 161-166 (2025)

Co-rewarding: Stable Self-supervised RL for Eliciting Reasoning in Large Language Models

共奖励：用于大型语言模型中激发推理的稳定自监督强化学习

Zizhuo Zhang, Jianing Zhu, Xinmu Ge, Zihua Zhao, Zhanke Zhou, Xuan Li, Xiao Feng, Jiangchao Yao, Bo Han

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 本文提出Co-rewarding框架，通过引入互补监督提升训练稳定性，通过对比一致性和模型蒸馏方法，在多个数学推理基准上实现性能提升，尤其在Llama-3.2-3B-Instruct上表现突出。

Comments Accepted by ICLR 2026

A Closer Look into LLMs for Table Understanding

深入探究用于表格理解的大型语言模型

Jia Wang, Chuanyu Qin, Mingyu Zheng, Qingyi Si, Peize Li, Zheng Lin

机构 * Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） ； School of Cyber Security, University of Chinese Academy of Sciences（中国科学院大学网络安全学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；chain-of-thought(abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文通过研究16种LLM，探讨其理解表格数据和执行下游任务的机制，发现注意力动态、有效层数、专家激活及输入设计影响显著。

daVinci-Env: Open SWE Environment Synthesis at Scale

daVinci-Env：大规模开放软件工程环境合成

Dayuan Fu, Shenyu Wu, Yunze Wu, Zerui Peng, Yaxing Huang, Jie Sun, Ji Zeng, Mohan Jiang, Lin Zhang, Yukun Li, Jiarui Hu, Liming Liu, Jinlong Hou, Pengfei Liu

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出OpenSWE，一个大规模透明的软件工程代理训练框架，包含45320个可执行Docker环境，通过多代理合成管道和质量过滤流程，实现高效学习和高质量训练。

Greedy Information Projection for LLM Data Selection

贪心信息投影用于大语言模型数据选择

Victor Ye Dong, Kuan-Yun Lee, Jiamei Shuai, Shengfei Liu, Yi Liu, Jian Jiao

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出贪心信息投影框架，通过最大化子集与任务查询信号的互信息，平衡质量与多样性，高效选择数据集进行微调。

Comments Published as a paper at 3rd DATA-FM workshop @ ICLR 2026, Brazil

RelayCaching: Accelerating LLM Collaboration via Decoding KV Cache Reuse

RelayCaching: 通过解码KV缓存重用加速LLM协作

Yingsheng Geng, Yuchong Gao, Weihong Wu, Guyue Liu, Jiang Liu

机构 * Beijing University of Posts（北京邮电大学） ； Tsinghua University, Beijing, China（清华大学） ； University of Electronic Science（电子科学大学） ； Peking University, Beijing, China（北京大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出RelayCaching方法，通过重用前序代理的解码阶段KV缓存，在多代理LLM系统中减少冗余预填充计算，提升效率与准确性。

HorizonMath: Measuring AI Progress Toward Mathematical Discovery with Automatic Verification

HorizonMath：通过自动验证衡量AI向数学发现的进步

Erik Y. Wang, Sumeet Motwani, James V. Roggeveen, Eliot Hodges, Dulhan Jayalath, Charles London, Kalyan Ramakrishnan, Flaviu Cipcigan, Philip Torr, Alessandro Abate

机构 * University of Oxford（牛津大学） ； Benchmark ； Harvard University（哈佛大学） ； Princeton University（普林斯顿大学） ； Ellison Institute of Technology（Ellison技术研究所） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 HorizonMath通过自动验证框架评估AI在数学发现中的进展，针对需要深入数学洞察但验证简单的难题，发现部分模型提出改进现有结果的解决方案。

PMAx: An Agentic Framework for AI-Driven Process Mining

PMAx：一种用于AI驱动流程挖掘的代理框架

Anton Antonov, Humam Kourani, Alessandro Berti, Gyunam Park, Wil M. P. van der Aalst

机构 * Fraunhofer Institute for Applied Information Technology（弗劳恩霍夫应用信息科技研究所） ； RWTH Aachen University（亚琛工业大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 PMAx通过隐私保护的多代理架构，使非技术人员能将业务问题转化为可靠流程洞察，避免LLM的确定性推理和隐私泄露问题。

Comments Submitted to EMMSAD 2026 (tool demonstration track), under review

DOS: Dependency-Oriented Sampler for Masked Diffusion Language Models

DOS：基于依赖关系的掩码扩散语言模型采样器

Xueyu Zhou, Yangrong Hu, Jian Huang

机构 * Department of Data Science and AI（数据科学与人工智能系） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 DOS是一种无需训练的解码策略，通过利用令牌间依赖关系提升生成质量，尤其在代码生成和数学推理任务中表现优异，且能与现有并行采样方法结合提升效率。

Comments 16 pages, 5 figures

Penguin-VL: Exploring the Efficiency Limits of VLM with LLM-based Vision Encoders

Penguin-VL：探索基于大语言模型的视觉编码器的效率极限

Boqiang Zhang, Lei Ke, Ruihan Yang, Qi Gao, Tianyuan Qu, Rossell Chen, Dong Yu, Leoweiliang

机构 * Tencent AI Lab（腾讯AI实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)

AI总结 本文提出Penguin-VL，通过基于大语言模型的视觉编码器替代传统对比预训练，实现更高效的多模态理解，在文档理解、视觉知识和多视角视频理解等任务中超越现有领先VLM。

Comments Penguin-VL demonstrates that text-only initialized vision encoders can achieve superior performance in multimodal understanding tasks; Code: https://github.com/tencent-ailab/Penguin-VL