大模型推理能力

Bridging the Gap Between Latent and Explicit Reasoning with Looped Transformers

弥合潜在推理与显式推理之间的差距：循环Transformer

Ying Fan, Anej Svete, Kangwook Lee

机构 * UW-Madison（威斯康星大学麦迪逊分校） ； Microsoft Research（微软研究院） ； ETH Zürich（苏黎世联邦理工学院） ； KRAFTON（魁匠团） ； Ludo Robotics 纠错

专题命中 数学推理 ：CoT(summary_cn,abstract)；reasoning(title,abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.LG

AI总结 提出LOTUS方法，利用循环Transformer在潜在空间进行多步推理，通过并行监督潜在块上的CoT令牌，首次在3B规模弥合与显式CoT的差距，并将推理延迟降低2.5-6.9倍。

KisMATH: Do LLMs Have Knowledge of Implicit Structures in Mathematical Reasoning?

KisMATH: 大型语言模型是否具有数学推理中隐含结构的知识？

Soumadeep Saha, Akshay Chaturvedi, Saptarshi Saha, Utpal Garain, Nicholas Asher

机构 * ISI Kolkata, India（印度 ISI 学院） ； IRIT（IRIT 研究所） ； LINAGORA Labs（LINAGORA 实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.CL、cs.AI

AI总结 KisMATH通过构建因果链式思维图，研究大型语言模型在数学推理中隐含结构的知识与因果依赖关系。

Comments Pre-print; Accepted to TACL

Journal ref Transactions of the Association for Computational Linguistics (2026) 14

Turbo Connection: Reasoning as Information Flow from Higher to Lower Layers

Turbo Connection: 从高层到低层的信息流推理

Mohan Tang, Sidi Lu

专题命中 数学推理 ：reasoning(title,abstract)；planning(abstract)；分类 cs.AI、cs.LG

AI总结 Turbo Conn通过反向连接增强LLM推理能力，实现任务性能显著提升

Cost of Reasoning in non-English Languages: A Case Study on Japanese

非英语语言的推理成本：以日语为例

Yuu Jinnai

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究训练日语推理模型的可行性，开发Qwen - 3 - Swallow - 8B的日语推理变体并用GRPO训练，在多基准测试中发现推理语言控制可行，但性能与英语推理基线相当，在日本文化基准上表现不如基线模型。

MetaState: Persistent Working Memory Enhances Reasoning in Discrete Diffusion Language Models

MetaState: 持久工作记忆增强离散扩散语言模型的推理能力

Kejing Xia, Mingzhe Li, Lixuan Wei, Zhenbang Du, Xiangchi Yuan, Dachuan Shi, Qirui Jin, Wenke Lee

机构 * Georgia Institute of Technology（佐治亚理工学院） ； University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校） ； Harvard University（哈佛大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 MetaState通过引入轻量级循环增强模块，为冻结的离散扩散语言模型提供持久固定大小的工作记忆，提升推理性能，平均提升4.5%。

ProgramTab: Boosting Table Reasoning of LLMs via Programmatic Paradigm

ProgramTab：通过编程范式提升大语言模型的表格推理能力

Pei Guo, Enjie Liu, Yunzhi Tan, Mochi Gao, Jianxin Zhang, Ruichao Zhong, Juntao Li, Bo Hu, Zang Li

机构 * Big Data and AI Platform Department, Tencent（腾讯大数据与人工智能平台部） ； Institute of Computer Science and Technology, Soochow University（苏州大学计算机科学与技术学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 研究基于大语言模型的表格推理问题，提出ProgramTab框架，指导LLMs用Python代码预处理表格数据并进行关键内容提取，实验证明该框架能有效处理表格推理任务，性能优于基于LLM的基线。

Comments Large Language Models, Table Reasoning, In-context Learning

Reinforcement Learning with Verifiable Physics: Post-training LLMs with Continuous Rewards

具有可验证物理的强化学习：具有连续奖励的训练后语言模型

Pengfei Cai, Utkarsh Utkarsh, Alan Edelman, Christopher Vincent Rackauckas, Rafael Gomez-Bombarelli

机构 * Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；verifier(abstract)；分类 cs.AI、cs.LG

AI总结 研究针对偏微分方程求解器代码生成，引入RLVP强化学习训练后框架，通过混合验证器解决可验证性问题，在多PDE族训练单个策略，优于基线且有零样本改进转移，训练后小LLM表现良好，策略有组合性证据。

Nested-ReFT: Efficient Reinforcement Learning for Large Language Model Fine-Tuning via Off-Policy Rollouts

Nested-ReFT：通过离策略展开实现大语言模型微调的高效强化学习

Maxime Heuillet, Yufei Cui, Boxing Chen, Audrey Durand, Prasanna Parthasarathi

机构 * Mila - Québec AI Institute, Canada（魁北克人工智能研究所） ； Huawei Noah's Ark Lab (Montreal Research Center), Canada（华为诺亚实验室（蒙特利尔研究中心）） ； Canada CIFAR AI Chair（加拿大CIFAR人工智能主席） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 研究针对大语言模型在数学推理等领域的高级推理难题，提出Nested-ReFT框架，利用离策略展开及动态层跳过降低训练推理成本，经理论与实证分析验证其有效性，还探索偏差缓解变体以维持性能。

Agentic Routing: The Harness-Native Data Flywheel

智能体路由：原生执行框架的数据飞轮

Xinchen Liu, Hang Zhou, Yingjie Zong, Yuchuan Tian, Liuyang Song, Shuo Zhang, Yulong Li, Wei He, Mengyu Zheng, Runke Liu, Siyang Cheng, Xiang Kuang, Hailin Hu, Kai Han, Yunhe Wang

机构 * TokenRhythm Technologies（TokenRhythm科技公司） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究大型语言模型智能体中模型选择问题，提出原生执行框架智能体路由范式，依执行框架状态选模型，其决策产生的数据记录形成数据飞轮，经实例化验证，表明该路由不仅控成本，更是智能体训练的数据引擎。

Comments Code: https://github.com/opensquilla/opensquilla

Domain-Aware Scaling Laws Uncover Data Synergy

领域感知缩放定律揭示数据协同效应

Kimia Hamidieh, Lester Mackey, David Alvarez-Melis

机构 * MIT CSAIL（麻省理工学院计算机科学与人工智能实验室） ； Microsoft Research（微软研究院） ； Harvard University（哈佛大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 研究语言模型预训练中的数据协同效应，利用开放权重语言模型的观测变化估计领域间协同效应，其框架提高预测精度，恢复稳定估计，经训练模型验证能正确预测性能排名。

Diagnosing and Mitigating Thinking Collapse in On-Policy Self-Distillation

诊断和缓解基于策略的自蒸馏中的思维崩溃

Keqin Peng, Chen Li, Yuanxin Ouyang, Yancheng Yuan, Liang Ding

机构 * Beihang University（北京航空航天大学） ； Hong Kong Polytechnic University（香港理工大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 研究基于策略的自蒸馏在复杂推理任务中性能下降问题，发现思维崩溃陷阱。提出自适应双视角OPSD，通过动态调节自蒸馏目标缓解该问题，在多模型规模和数据集上实验验证其有效性，提升绝对平均准确率4.1%。

Prompt Compression in Diffusion Large Language Models: Evaluating LLMLingua-2 on LLaDA

在扩散大型语言模型中进行提示压缩：在LLDA上评估LLMLingua-2

Sterling Huang, Abigayle Brown, Jiyoo Noh, Jiakang Xu, Wantong Huo, Kaung Myat Kyaw, Jonathan Chan

机构 * University of Toronto（多伦多大学） ； King Mongkut’s University of Technology Thonburi（泰国科技理工学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文研究了提示压缩在扩散大型语言模型中的有效性，通过在LLDA上评估LLMLingua-2，发现提示压缩在数学推理任务中效果不佳，而摘要任务相对稳健，表明为扩散模型设计的提示压缩方法并不适用于所有场景。

Comments Accepted to appear in The 14th International Conference on Advances in Information Technology (IAIT2026)

Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models

通过可扩展查找实现条件记忆：大语言模型稀疏性的新轴

Xin Cheng, Rui Tian, Wangding Zeng, Damai Dai, Qinyu Chen, Bingxuan Wang, Zhenda Xie, Kezhao Huang, Xingkai Yu, Chengqi Deng, Shangyan Zhou, Chenggang Zhao, Zhewen Hao, Yukun Li, Han Zhang, Zhengyan Zhang, Yixu Wei, M. Y Xu, Huishuai Zhang, Dongyan Zhao, Wenfeng Liang

机构 * Peking University（北京大学） ； DeepSeek-AI 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 研究针对Transformer缺乏知识查找原语的问题，引入条件记忆及Engram模块，通过制定稀疏分配问题发现U形缩放定律，扩展Engram至27B参数，在多领域提升性能，揭示其优势，为下一代稀疏模型提供重要建模原语。

AdvancedMathBench: A Benchmark Suite for Advanced Mathematical Proof Generation and Verification

高级数学基准测试：用于高级数学证明生成与验证的基准测试套件

Lingkai Kong, Zijian Wu, Yuzhe Gu, Haiteng Zhao, Wenyong Huang, Shuang Sun, Zhicheng Xiong, Xiaotian Zhang, Shuya Zhao, Yan Wang, Disheng Xu, Wenwei Zhang, Kai Chen

机构 * Shanghai AI Laboratory（上海人工智能实验室） ； MMLab, The Chinese University of Hong Kong（香港中文大学多媒体实验室） ； Shanghai Jiao Tong University（上海交通大学） ； Great Bay University（大湾区大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 介绍用于评估高级数学推理能力的AdvancedMathBench基准测试套件，含ProverBench证明生成基准及自动验证管道，还有VerifierBench。实验显示前沿模型在证明生成与验证上表现不佳，该套件对模型提升高级数学证明能力有挑战。

Looped State-Space Language Models with Adaptive Exit-State Selection

具有自适应退出状态选择的循环状态空间语言模型

Zhenxuan Yu, Takeshi Kojima, Yutaka Matsuo, Yusuke Iwasawa

机构 * Rikkyo University（立教大学） ； The University of Tokyo（东京大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 研究循环状态空间语言模型在推理任务及预训练中的表现，采用循环曼巴等架构，在推理任务中优于非循环基线，预训练时在下游基准测试有竞争力，适配退出门后在中间深度提升下游性能。

Exploring Agentic Workflows for Generating High Quality Math Visual Aids

探索用于生成高质量数学视觉辅助工具的智能工作流程

Rizwaan Malik, Ashna Khetan, Isabel Sieh, Samin Khan

机构 * Stanford Graduate School of Education（斯坦福大学教育研究生院） ； Department of Computer Science（计算机科学系） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 研究针对中学数学图表可靠生成难的问题，引入智能工作流程，让 LLM 智能体评估并迭代改进生成的视觉效果，通过探索性评估确定改进关键领域，初步证明可提高 AI 生成数学图表的可靠性和教育价值。

Comments 13 pages, 9 figures. Exploratory course project on agentic workflows for generating and evaluating K 12 mathematical diagrams

When Reasoning Hurts Legal Drafting: The Verbalization Bottleneck in Patent Claim Generation

当推理对法律起草造成阻碍时：专利权利要求生成中的语言表达瓶颈

Lekang Jiang, Wenjun Sun, Stephan Goetz

专题命中 代码与定理证明 ：CoT(summary_cn,abstract)；reasoning(title,abstract)；chain-of-thought(abstract)；分类 cs.CL

AI总结 研究专利权利要求生成中CoT提示是否有益，提出特定任务CoT方法并评估。结果显示推理增强提示可提升权利要求质量，且隐式CoT优于显式CoT，显式CoT会引入信息瓶颈，为法律任务和CoT应用提供新见解。

Comments Accepted to AI for Law Workshop @ ICML 2026

TreeThink: A Modular Tree Search Library for Mathematical Reasoning with LLMs

TreeThink：用于大语言模型数学推理的模块化树搜索库

Burak S. Akbudak, Zeynel A. Uluşan, Can S. Erer, Gözde Gül Şahin

机构 * Bogazici University（博阿齐奇大学） ； Codeway Studios（Codeway工作室） ； Friedrich-Alexander-Universität Erlangen-Nürnberg（埃尔朗根-纽伦堡大学） ； Koç University（科克大学） ； KUIS AI Lab（KUIS人工智能实验室） 纠错

专题命中 代码与定理证明 ：reasoning(title,abstract)；分类 cs.CL

AI总结 介绍开源Python库TreeThink，用于神经定理证明的模块化全异步树搜索，集成多种方法技术，支持多种语言，连接REPL服务器，经评估在miniF2F和MATH500上有跨语言证明搜索等优势及异步加速。

Sense and Sensitivity: Examining the Influence of Semantic Recall on Long Context Code Understanding

感知与敏感性：探讨语义回忆对长上下文代码推理的影响

Adam Štorek, Mukur Gupta, Samira Hajizadeh, Prashast Srivastava, Suman Jana

机构 * Columbia University（哥伦比亚大学） 纠错

专题命中 代码与定理证明 ：reasoning(title)；分类 cs.CL、cs.LG

AI总结 本文探讨了语义回忆对长上下文代码推理的影响，通过评估10种先进LLM发现，前沿模型在词汇回忆上表现优异，但语义回忆在长上下文中央位置时显著下降。引入语义回忆敏感性指标，提出SemTrace任务，展示LLM在长上下文中的位置效应。

Comments Accepted to ACL 2026 (main)

Efficient Test-Time Optimization for Multi-Agent Proof Autoformalization

多智能体证明自动形式化的高效测试时优化

Tian-Shuo Liu, Shiyuan Zhang, Zijie Geng, Haoyu Liu, Runjie Xu, Pengyuan Wang, Lei Yuan, Yang Yu

机构 * Polixir Technologies（波利希瑞技术公司） ； University of Science and Technology of China（中国科学技术大学） 纠错

专题命中 代码与定理证明 ：reasoning(abstract)；test-time compute(abstract)；分类 cs.AI

AI总结 研究多智能体证明自动形式化，提出ToMap框架，将其构建为分解器-形式化器-证明器管道，经瓶颈分析聚焦于分解器优化，通过特定循环和标准指导更新，实验显示该方法提升了性能且降低测试成本。

WebDesignIter: Co-Evolving Design Knowledge for Repository-Level Front-End Code Generation

WebDesignIter：用于仓库级前端代码生成的协同进化设计知识

Zheng Pei, Mingwei Liu, Zhenxi Chen, Zihao Wang, Yanlin Wang

专题命中 代码与定理证明 ：planning(abstract)

AI总结 研究针对前端开发仓库级代码生成问题，提出WebDesignIter框架，通过持久知识图谱融合设计知识与仓库结构，分两阶段工作，实验证明其相比基线和通用编码代理有优势，凸显设计知识对仓库级代码生成的重要性。

Enabling Agents to Communicate Entirely in Latent Space

使智能体能够在潜在空间中完全交流

Zhuoyun Du, Runze Wang, Huiyu Bai, Zouying Cao, Xiaoyong Zhu, Yu Cheng, Bo Zheng, Wei Chen, Haochao Ying

机构 * State Key Lab of CAD&CG（CAD与CG国家重点实验室） ； Future Living Lab of Alibaba（阿里巴巴未来生活实验室） ； Zhejiang Key Laboratory of Medical Imaging Artificial Intelligence（浙江医学影像人工智能重点实验室） ； Shanghai Jiao Tong University（上海交通大学） 纠错

专题命中 逻辑推理 ：CoT(abstract,abstract_cn)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出Interlat方法，通过利用LLM的连续隐藏状态实现智能体间的潜在空间通信，实验表明其在跨异构模型中表现优异，提升了推理速度并保持性能。

Comments Accepted to ACL 2026

Think Through a Bottleneck: Hourglass Reasoning for Rigorous Induction

突破瓶颈：用于严格归纳的沙漏推理

Huan Zhu

机构 * Peking University（北京大学） 纠错

专题命中 逻辑推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究针对大语言模型少样本归纳推理能力不足的问题，提出沙漏推理方法，通过在推理阶段强制实现严格上下文隔离，构建符号编码器 - 解码器。实验表明该方法在多基准测试中显著提升准确率，证实收益源于阶段隔离和初始归纳质量。

Personalized Emotional Intelligence in Generative AI through Symbolic Affective Reasoning

通过符号情感推理实现生成式人工智能中的个性化情商

Qing Lin, Mengmi Zhang

专题命中 逻辑推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 研究旨在解决生成式人工智能中缺乏个性化情感理解等问题，提出EROS混合框架，结合符号推理与深度学习，利用大规模数据集发现情感规则等，通过可扩展记忆库实现个性化，实验表明其能有效引发目标情感反应并适应个体偏好，为相关AI系统奠定基础。

LLM-Driven Collaborative Model for Untangling Commits via Explicit and Implicit Dependency Reasoning

基于显式和隐式依赖推理的大语言模型驱动的提交解缠协作模型

Bo Hou, Xin Tan, Kai Zheng, Fang Liu, Yinghao Zhu, Li Zhang

机构 * State Key Laboratory of Complex \& Critical Software Environment (SKLCCSE), School of Computer Science ； Engineering, Beihang University Beijing China ； SKLCCSE, School of Computer Science ； School of Computing ； Data Science, The University of Hong Kong Hong Kong SAR China ； Engineering, Beihang University ； Data Science, The University of Hong Kong 纠错

专题命中 逻辑推理 ：reasoning(title)；分类 cs.AI

AI总结 针对开发者常产生的缠结提交问题，提出ColaUntangle协作框架，集成大语言模型驱动智能体，构建显式和隐式上下文捕捉信息，经实验验证，该框架在提交解缠任务中性能优于基线，凸显基于大语言模型协作框架的潜力。

Measuring AI Ability to Complete Long Software Tasks

衡量AI完成长期软件任务的能力

Thomas Kwa, Ben West, Joel Becker, Amy Deng, Katharyn Garcia, Max Hasin, Sami Jawhar, Megan Kinniment, Nate Rush, Sydney Von Arx, Ryan Bloom, Thomas Broadley, Haoxing Du, Brian Goodrich, Nikola Jurkovic, Luke Harold Miles, Seraphina Nix, Tao Lin, Chris Painter, Neev Parikh, David Rein, Lucas Jun Koba Sato, Hjalmar Wijk, Daniel M. Ziegler, Elizabeth Barnes, Lawrence Chan

机构 * Model Evaluation & Threat Research (METR)（模型评估与威胁研究（METR）） ； Ohm Chip ； Anthropic 纠错

专题命中 逻辑推理 ：reasoning(abstract)；logical reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出50%任务完成时间跨度指标，用于衡量AI在完成长期软件任务方面的能力，结果显示AI模型的时间跨度呈指数增长，预计5年后将能自动化许多人类月度完成的软件任务。

Comments v4: added Chris Painter as listed author, consistent with listing in the pdf

Journal ref NeurIPS 2025

Agentic generation of verifiable rules for deterministic, self-expanding reaction classification

用于确定性、自扩展反应分类的可验证规则的智能体生成

Daniel Armstrong, Maarten Dobbelaere, Valentas Olikauskas, Helena Avila, Octavian Susanu, Jérôme Waser, Philippe Schwaller

机构 * École Polytechnique Fédérale de Lausanne (EPFL)（洛桑联邦理工学院） ； Laboratory for Chemical Technology, Ghent University（根特大学化学技术实验室） ； NCCR Catalysis（瑞士国家研究能力中心催化项目） 纠错

专题命中 逻辑推理 ：planning(abstract)；分类 cs.CL、cs.AI

AI总结 提出多智能体LLM框架，通过验证循环自动生成反应规则，将标准分类从68类扩展到14,073类，并实现97.7%的未知反应分类准确率。

EasyOPD: An Easy-to-use On-Policy Distillation Framework for Large Language Models

EasyOPD：一种易于使用的大语言模型在线策略蒸馏框架

Jie Sun, Mao Zheng, Mingyang Song, Qiyong Zhong, Gengsheng Li, Zhepei Hong, Chang Wu, Pengfei Liu, Junfeng Fang, Xiang Wang

机构 * University of Science and Technology of China（中国科学技术大学） ； Tencent（腾讯） ； Shanghai Innovation Institute（上海创新研究院） ； National University of Singapore（新加坡国立大学） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；分类 cs.CL

AI总结 研究针对传统语言模型蒸馏问题，提出基于verl构建的EasyOPD框架，分离用户配置等，为三种OPD设置实例化方法，经多基准测试，其实现可通过同一后端执行，还发布了相关配置、文档及演示包。

Comments 10 pages, 2 figures

RL Forgets! Towards Continual Policy Optimization

强化学习会遗忘！迈向持续策略优化

Mao-Lin Luo, Zhe-Xu Wang, Zi-Hao Zhou, Bo Ye, Jian Zhao, Min-Ling Zhang, Tong Wei

机构 * School of Computer Science and Engineering, Southeast University（东南大学计算机科学与工程学院） ； Key Laboratory of Computer Network and Information Integration (Southeast University), Ministry of Education（教育部计算机网络和信息集成重点实验室（东南大学）） ； Zhongguancun Academy（中关村科学城公司） ； Zhongguancun Institute of Artificial Intelligence（中关村人工智能研究院） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；分类 cs.LG

AI总结 研究持续训练中强化学习易遗忘问题，引入MRCL基准测试，提出持续策略优化框架CPO，通过参数移动正则化减少遗忘，多模型规模实验验证了其有效性。

Cognitive Alpha Mining via LLM-Driven Code-Based Evolution

通过LLM驱动的代码基于进化进行认知Alpha挖掘

Fengyuan Liu, Yi Huang, Sichun Luo, Yuqi Wang, Yazheng Yang, Xinye Li, Zefa Hu, Junlan Feng, Qi Liu

机构 * Jiutian Research, China Mobile（九天研究，中国移动） ； School of Computing and Data Science, The University of Hong Kong（香港大学计算与数据科学学院） 纠错

专题命中 逻辑推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出CogAlpha框架，结合代码级Alpha表示与LLM驱动的推理和进化搜索，以实现更广泛、结构化且人似的探索，提升Alpha发现的预测准确性与经济解释性。