大模型推理能力

ThreadWeaver: Adaptive Threading for Efficient Parallel Reasoning in Language Models

ThreadWeaver：自适应线程化实现语言模型高效并行推理

Long Lian, Sida Wang, Felix Juefei-Xu, Tsu-Jui Fu, Xiuyu Li, Adam Yala, Trevor Darrell, Alane Suhr, Yuandong Tian, Xi Victoria Lin

机构 * UC Berkeley（伯克利大学） ； UCSF（旧金山大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 提出ThreadWeaver框架，通过两阶段并行轨迹生成、基于trie的展开设计和并行化感知强化学习，在保持与顺序推理模型相当准确率的同时，显著降低推理延迟。

Comments Accepted as an oral paper at ICML 2026

Geometric Signatures of Reasoning: A Spectral Perspective on Task Hardness

推理的几何特征：任务难度的谱视角

Aria Masoomi, Mahsa Bazzaz, Adel Javanmard, Vahab Mirrokni

机构 * Northeastern University（东北大学） ； University of Southern California（南加州大学） ； Google Research（谷歌研究院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.LG

AI总结 通过分析Transformer隐藏状态空间中思维链轨迹的谱、位置和运动学几何特征，提出有效维度d_ρ衡量轨迹复杂度，发现平坦特征谱对应更难任务，并利用运动学特征在生成早期预测答案正确性。

ISM:Self-Improving Strategy Memory for Continual Mathematical Reasoning

ISM：面向持续数学推理的自我改进策略记忆

Prakhar Dixit, Tim Oates

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.LG

AI总结 提出智能模式记忆（ISM），一种自我演进的记忆增强系统，通过从成功和失败案例中学习并维护策略模式库，在不更新模型参数的情况下提升冻结LLM在持续学习中的数学推理能力。

Comments 3rd AI for Math Workshop at ICML 2026 Forty-Third International Conference on Machine Learning

From Answer Generators to Reasoning Facilitators: Designing AI Tutors for Mathematical Reasoning in High-Stakes Environments

从答案生成器到推理促进者：为高风险环境中的数学推理设计AI导师

Yuming Feng, Yuan Tian, Erica Zhao

专题命中 数学推理 ：reasoning(title,abstract)

AI总结 本研究设计并部署了AITutor系统，通过分层工作示例、步骤链接视觉基础和元认知支架等功能，帮助初中生在高压考试中从被动获取答案转向主动修复推理过程，提出了以推理为中心的产品循环。

Online Safety Monitoring for LLMs

LLMs的在线安全监控

Mona Schirmer, Metod Jazbec, Alexander Timans, Christian Naesseth, Maja Waldron, Eric Nalisnick

专题命中 数学推理 ：reasoning(abstract)；verifier(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究通过阈值化外部模型的验证信号并利用风险控制校准阈值，实现LLM输出的实时安全监控，在数学推理和红队测试中与高级方法性能相当。

Comments ICML 2026 Hypothesis Testing Workshop

Is One Layer Enough? Training A Single Transformer Layer Can Match Full-Parameter RL Training

一层就够了吗？训练单个Transformer层可以匹配全参数RL训练

Zijian Zhang, Rizhen Hu, Athanasios Glentis, Dawei Li, Chung-Yiu Yau, Hongzhou Lin, Mingyi Hong

机构 * University of Minnesota（明尼苏达大学） ； Peking University（北京大学） ； Amazon（亚马逊） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 发现RL训练收益高度集中在少数Transformer层，仅训练单层即可恢复大部分全参数RL收益，且高贡献层集中在模型中部。

Set Diffusion: Interpolating Token Orderings Between Autoregression and Diffusion for Fast and Flexible Decoding

Set Diffusion: 在自回归与扩散之间插值令牌顺序以实现快速灵活的解码

Marianne Arriola, Volodymyr Kuleshov

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 提出Set Diffusion模型，通过将似然参数化为灵活位置和长度的令牌集，并设计集因果扩散架构，支持任意顺序解码和KV缓存更新，在数学推理、摘要和无条件生成上优于先前的扩散语言模型。

Comments ICML 2026. We provide the code at https://github.com/kuleshov-group/setdlms

Proofdoors and Efficiency of CDCL Solvers

证明门与CDCL求解器的效率

Sunidhi Singh, Vincent Liew, Marc Vinyals, Vijay Ganesh

专题命中 数学推理 ：reasoning(abstract)

AI总结 本文提出证明门参数，用于解释CDCL求解器在电路验证中的效率，证明具有小证明门的公式有短的分辨率证明，并展示某些CDCL求解器能高效生成此类证明。

Comments version 2.1