大模型推理能力

Does LLM Alignment Really Need Diversity? An Empirical Study of Adapting RLVR Methods for Moral Reasoning

LLM对齐真的需要多样性吗？对道德推理适应RLVR方法的实证研究

Zhaowei Zhang, Xiaohan Liu, Xuekai Zhu, Junchao Huang, Ceyao Zhang, Zhiyuan Feng, Yaodong Yang, Xiaoyuan Yi, Xing Xie

机构 * Institute for Artificial Intelligence, Peking University（北京大学人工智能研究院） ； Microsoft Research（微软研究院） ； University of Michigan（密歇根大学） ； Shanghai Jiao Tong University（上海交通大学） ； CUHKSZ（香港中文大学（深圳）） ； THU（清华大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；logical reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过实证研究发现，LLM对齐任务并不需要多样性算法，标准奖励最大化RLVR方法在道德推理中同样有效。

IndiMathBench: Autoformalizing Mathematical Reasoning Problems with a Human Touch

IndiMathBench: 用人类触感实现数学推理问题的自动形式化

Param Biyani, Shashank Kirtania, Yasharth Bajpai, Sumit Gulwani, Ashish Tiwari

机构 * Microsoft（微软） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 IndiMathBench通过人机协作管道形式化数学问题，提供具有挑战性的数学推理测试环境。

Adaptive Loops and Memory in Transformers: Think Harder or Know More?

变换器中的自适应循环与记忆：更努力思考还是更了解更多？

Markus Frey, Behzad Shomali, Ali Hamza Bashir, David Berghaus, Joachim Koehler, Mehdi Ali

机构 * Lamarr Institute（拉马尔研究所） ； Fraunhofer IAIS（弗劳恩霍夫 IAIS 研究所） ； University of Bonn（波恩大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL

AI总结 本研究提出结合自适应循环和门控记忆的变换器模型，提升数学推理和常识任务性能。

Comments Published at Latent & Implicit Thinking Workshop @ ICLR 2026

Reinforcement Learning with Conditional Expectation Reward

基于条件期望奖励的强化学习

Changyi Xiao, Caijun Xu, Yixin Cao

专题命中 数学推理 ：reasoning(abstract)；verifier(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出基于大语言模型自身作为隐式验证器的条件期望奖励方法，用于提升一般领域推理任务的准确性与适用性。

Utility Function is All You Need: LLM-based Congestion Control

效用函数就是一切：基于LLM的拥塞控制

Neta Rozen-Schiff, Liron Schiff, Stefan Schmid

专题命中 数学推理 ：chain-of-thought(abstract)；CoT(abstract)；分类 cs.AI

AI总结 本文提出GenCC框架，利用LLM生成代码能力设计拥塞控制效用函数，实验表明其在不同场景下可提升拥塞控制协议性能37%-142%。

Training Language Models via Neural Cellular Automata

通过神经细胞自动机训练语言模型

Dan Lee, Seungwook Han, Akarsh Kumar, Pulkit Agrawal

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 通过神经细胞自动机生成合成非语言数据，提升语言模型的预训练效果和推理能力。

Comments Website: https://hanseungwook.github.io/blog/nca-pre-pre-training/

KV Cache Transform Coding for Compact Storage in LLM Inference

KV缓存变换编码用于LLM推理中的紧凑存储

Konrad Staniszewski, Adrian Łańcucki

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 KVTC通过变换编码实现LLM推理中的高效缓存压缩，保持推理和长上下文准确性，压缩率可达20倍或更高。

Comments Accepted to ICLR 2026

Training with Pseudo-Code for Instruction Following

通过伪代码训练指令跟随

Prince Kumar, Rudra Murthy, Riyaz Bhat, Danish Contractor

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 通过伪代码训练提升LLM指令跟随能力，实现8-21%的提升并在数学和常识推理中取得平均30%的提升。

Comments Under Review

To Mix or To Merge: Toward Multi-Domain Reinforcement Learning for Large Language Models

混合还是合并：为大语言模型的多领域强化学习而努力

Haoqing Wang, Xiang Long, Ziheng Li, Yilong Xu, Tingguang Li, Yehui Tang

机构 * Samsung Research（三星研究院） ； Peking University（北京大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本研究提出M2RL框架，通过混合多任务训练或模型合并策略，提升大语言模型在多领域任务中的推理能力。