大模型推理能力

TERMINATOR: Learning Optimal Exit Points for Early Stopping in Chain-of-Thought Reasoning

TERMINATOR: 在链式推理中学习最优退出点以实现早期停止

Alliot Nagle, Jakhongir Saydaliev, Dhia Garbaya, Michael Gastpar, Ashok Vardhan Makkuva, Hyeji Kim

机构 * UT Austin（得克萨斯大学） ； EPFL（苏黎世联邦理工学院） ； ENS Paris-Saclay（巴黎-萨克雷大学） ； Télécom Paris (IP Paris)（巴黎理工学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(title,abstract)；CoT(abstract,abstract_cn)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出TERMINATOR方法，通过预测模型最终答案的首次出现位置，学习最优推理长度，从而减少链式推理的计算量，提升推理效率。

Comments Updated and reorganized results. Added new results

Breaking the Reward Barrier: Accelerating Tree-of-Thought Reasoning via Speculative Exploration

突破奖励障碍：通过投机探索加速树状思维推理

Shuzhang Zhong, Haochen Huang, Shengxuan Qiu, Pengfei Zuo, Runsheng Wang, Meng Li

机构 * Institute for Artificial Intelligence, Peking University School of Integrated Circuits, Peking University（人工智能研究院，北京大学集成电路学院，北京大学） ； School of Integrated Circuits, Peking University（集成电路学院，北京大学） ； ByteDance Seed（字节跳动种子） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；chain-of-thought(abstract)；CoT(abstract)；分类 cs.LG

AI总结 本文提出SPEX方法，通过投机路径选择、预算分配和自适应终止技术，提升树状思维推理效率，实现1.2至3倍的加速，并与token级投机解码协同提升性能。

Comments OSDI 2026

Boosting LLM Reasoning via Human-Inspired Reward Shaping

通过人类启发的奖励塑造提升大语言模型推理能力

Wenze Lin, Zhen Yang, Xitai Jiang, Xiaoteng Ma, Gao Huang

机构 * Tsinghua University（清华大学） ； Southern University of Science and Technology（南方科技大学） ； Mind Lab 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 本文提出T2T动态奖励框架，通过区分掌握与未掌握问题的不同学习策略，提升LLM推理性能，实验显示其在数学基准测试中优于现有方法。

Inducing Overthink: Hierarchical Genetic Algorithm-based DoS Attack on Black-Box Large Language Reasoning Models

诱导过度思考：基于分层遗传算法的黑盒大语言推理模型DoS攻击

Shuqiang Wang, Wei Cao, Jiaqi Weng, Jialing Tao, Licheng Pan, Hui Xue, Zhixuan Chu

机构 * The State Key Laboratory of Blockchain and Data Security, Zhejiang University（区块链与数据安全国家重点实验室，浙江大学） ； Alibaba Group（阿里巴巴集团） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出一种基于分层遗传算法的黑盒攻击方法，通过系统扰动输入问题的逻辑结构，诱导大语言模型产生过度思考，从而引发资源耗尽攻击。

Comments Accepted at ICML 2026. Code available at: https://github.com/EndlessCao/Overthink-HGA

Journal ref Proceedings of the 43rd International Conference on Machine Learning (ICML 2026), PMLR 306, 2026

Reinforcement Learning for Diffusion LLMs with Entropy-Guided Step Selection and Stepwise Advantages

基于熵引导的步骤选择和分步优势的扩散语言模型强化学习

Vishnu Teja Kunde, Fatemeh Doudi, Mahdi Farahbakhsh, Dileep Kalathil, Krishna Narayanan, Jean-Francois Chamberland

机构 * Department of Electrical & Computer Engineering（电气与计算机工程系） 纠错

专题命中 数学推理 ：reasoning(abstract)；logical reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出一种针对扩散语言模型的强化学习方法，通过熵引导选择步骤和分步优势估计，实现无偏策略梯度，提升生成效果和计算效率。

OPT-Engine: Benchmarking the Limits of LLMs in Optimization Modeling via Complexity Scaling

OPT-Engine：通过复杂度扩展评估大语言模型在优化建模中的极限

Yitian Chen, Cheng Cheng, Yinan Sun, Zi Ling, Dongdong Ge

机构 * Shanghai University of Finance and Economics（上海财经大学） ； Booth School of Business, University of Chicago（芝加哥大学商学院） ； Antai School of Economics and Management, Shanghai Jiao Tong University（上海交通大学安泰经济管理学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文通过OPT-ENGINE框架评估大语言模型在优化建模中的能力与扩展性，发现纯文本推理在任务复杂度增加时存在鲁棒性差距，外部工具无法满足全局优化约束，指出约束自动建模是当前SOTA范式的瓶颈。

Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026

Boosting Reinforcement Learning with Verifiable Rewards via Randomly Selected Few-Shot Guidance

通过随机选择的少样本引导提升可验证奖励的强化学习

Kai Yan, Alexander G. Schwing, Yu-Xiong Wang

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） 纠错

专题命中 数学推理 ：chain-of-thought(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出FEST算法，通过随机选择的少样本引导提升可验证奖励的强化学习，仅需128个演示即可获得优于基线的结果，关键在于监督信号、在线信号和衰减权重。

Comments 25 pages, 11 figures

Query-Conditioned Test-Time Self-Training for Large Language Models

基于查询的测试时自我训练用于大语言模型

Chaehee Song, Minseok Seo, Yeeun Seong, Doyi Kim, Changick Kim

机构 * School of Electrical Engineering, KAIST（韩国科学技术院电子工程学院） ； Graduate School of Green Growth and Sustainability, KAIST（韩国科学技术院可持续增长与绿色发展研究生院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出QueST框架，通过直接从输入查询生成查询条件对，实现测试时参数自适应，无需外部数据，在多个基准测试中优于现有方法。

Comments 17 pages, 7 figures

GEAR: Granularity-Adaptive Advantage Reweighting for LLM Agents via Self-Distillation

GEAR：通过自蒸馏实现的粒度自适应优势重加权用于LLM智能体

Sijia Li, Yuchen Huang, Zifan Liu, Yanping Li, Jingjing Fu, Li Zhao, Jiang Bian, Ling Zhang, Jun Zhang, Rui Wang

机构 * Hong Kong University of Science and Technology（香港科技大学） ； Microsoft Research Asia（微软亚洲研究院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 GEAR通过自蒸馏获取token和片段级信号，实现粒度自适应的优势重加权，提升长时间跨度任务中的智能体性能，实验表明在数学推理和工具使用任务中优于传统方法。

Training and Evaluating Language Models with Template-based Data Generation

基于模板的数据生成训练和评估语言模型

Yifan Zhang

机构 * University of California Los Angeles（加州大学洛杉矶分校） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出Template-based Data Generation方法，通过生成高质量数学问题及可验证解，解决大语言模型在复杂推理任务中的数据稀缺问题，并引入TemplateMath Part I: TemplateGSM数据集。

Comments Published in ICLR 2025 DATA-FM Workshop. Project Page: https://github.com/iiis-ai/TemplateMath

GPart: End-to-End Isometric Fine-Tuning via Global Parameter Partitioning

GPart：通过全局参数划分实现端到端等距微调

Paolo Mandica, Michał Brzozowski, Zuzanna Dubanowska, Neo Christopher Chung

机构 * Samsung AI Center（三星人工智能中心） ； University of Warsaw（华沙大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 GPart通过全局参数划分方法实现端到端等距微调，无需低秩结构，仅需一个随机投影即可高效微调模型，实现存储成本低且性能优越。

Beyond Mode-Seeking RL: Trajectory-Balance Post-Training for Diffusion Language Models

超越模式寻求强化学习：扩散语言模型的轨迹平衡后训练

Saba Ahmadi, Prasanna Parthasarathi, Yufei Cui

机构 * Noah’s Ark Lab（Noah’s Ark 实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出TraFL方法，通过轨迹平衡目标提升扩散语言模型的后训练效果，在多个基准测试中均优于基线模型。

InfoSFT: Learn More and Forget Less with Information-Aware Token Weighting

InfoSFT: 通过信息感知的标记加权学习更多并忘记更少

Mahdi Sabbaghi, George Pappas, Adel Javanmard, Hamed Hassani

机构 * University of Pennsylvania（宾夕法尼亚大学） ； University of Southern California（南加州大学） 纠错

专题命中 数学推理 ：chain-of-thought(abstract)；分类 cs.LG

AI总结 InfoSFT通过信息感知的标记加权方案改进监督微调，提升泛化能力并保留原有能力，适用于数学、代码和推理任务。

Monitoring Data-aware Temporal Properties (Extended Version)

基于数据的时序属性监控（扩展版）

Alessandro Gianola, Marco Montali, Sarah Winkler

机构 * INESC-ID/Instituto Superior Técnico, Universidade de Lisboa, Portugal（葡萄牙里斯本大学理工学院/INESC-ID） ； Free University of Bozen-Bolzano, Italy（意大利博登-博洛尼亚自由大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文提出了一种新的监控框架，用于处理带有任意SMT理论的有限轨迹LTLfMT属性，结合自动机方法和自动推理技术，解决了时序逻辑的挑战，并首次识别出可判定的实用片段。

Comments This is the extended version of a paper accepted to IJCAI 2026

Sycophancy is an Educational Safety Risk: Why LLM Tutors Need Sycophancy Benchmarks

谄媚是一种教育安全风险：为什么LLM导师需要谄媚基准

Enkelejda Kasneci, Gjergji Kasneci

机构 * Technical University of Munich, Munich, Germany（慕尼黑技术大学，慕尼黑，德国） ； Munich Center for Machine Learning, Munich, Germany（慕尼黑机器学习中心，慕尼黑，德国） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文探讨LLM导师需通过谄媚基准测试来评估其在教育中的安全风险，指出模型在面对社会-知识压力时的脆弱性及改进方向。

Learning from Failures: Correction-Oriented Policy Optimization with Verifiable Rewards

从失败中学习：具有可验证奖励的纠正导向策略优化

Mengjie Ren, Jie Lou, Boxi Cao, Xueru Wen, Hongyu Lin, Xianpei Han, Le Sun, Xing Yu, Yaojie Lu

机构 * Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences（中国科学院软件研究所信息处理实验室） ； University of Chinese Academy of Sciences（中国科学院大学） ； Xiaohongshu Inc（小红书公司） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出CIPO方法，通过将失败轨迹转化为纠正监督，提升大语言模型的推理和纠错能力，在11个基准测试中优于基线方法。

Comments Work on progress

Dynamic Nested Hierarchies: Pioneering Self-Evolution in Machine Learning Architectures for Lifelong Intelligence

动态嵌套层级：在机器学习架构中开创自我进化以实现终身智能

Akbar Anbar Jafari, Cagri Ozcinar, Gholamreza Anbarjafari

机构 * Institute of Technology University of Tartu（塔尔图技术大学） ； S Holding OÜ（3S控股公司） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出动态嵌套层级，通过自适应调整优化层级、嵌套结构和更新频率，解决现有模型在非平稳环境中的适应性问题，推动终身学习的发展。

Comments 12 pages, 1 figure

Journal ref Frontiers in Artificial Intelligence, 2026

A Tutorial on Cognitive Biases in Agentic AI-Driven 6G Autonomous Networks

面向6G自主网络的智能偏差教程

Hatim Chergui, Farhad Rezazadeh, Merouane Debbah, Christos Verikoukis

机构 * i2CAT Foundation（i2CAT基金会） ； Hostelworld Group（Hostelworld集团） ； Technical University of Catalonia (UPC)（技术大学（加泰罗尼亚）） ； Khalifa University of Science and Technology（卡里玛大学） ； ISI/ATH ； University of Patras（帕特拉大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 本文探讨了在6G自主网络中因人类设计引入的认知偏差问题，通过两个案例展示如何利用智能体AI缓解锚定偏差和时间偏差，提升网络管理和边缘计算的效率与节能效果。

Comments 26 pages, 18 figures, 4 tables, link to source code available. Accepted at IEEE OJCOMS

SkillFlow: Flow-Driven Recursive Skill Evolution for Agentic Orchestration

SkillFlow: 以流程驱动的递归技能进化用于代理编排

Mingda Zhang, Tiesunlong Shen, Haoran Luo, Wenjin Liu, Zikai Xiao, Erik Cambria, Xiaoying Tang

机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； National University of Singapore（新加坡国立大学） ； Nanyang Technological University（南洋理工大学） ； Zhejiang University（浙江大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI

AI总结 SkillFlow通过流程驱动的递归技能进化解决代理编排中的策略崩溃、梯度方差高和无指导技能进化问题，实现高效任务编排。

Comments 49 pages, 5 figures, 6 tables

Distribution Corrected Offline Data Distillation for Large Language Models

用于大型语言模型的分布校正离线数据蒸馏

Yumeng Zhang, Zhengbang Yang, Yevin Nikhel Goonatilake, Zhuangdi Zhu

机构 * George Mason University（乔治·马歇尔大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出一种分布校正的离线推理蒸馏框架，通过适应性强调与学生模型推理分布更一致的教师监督，提升推理准确性并保持指令遵循能力。