大模型推理能力

Thinking Without Words: Efficient Latent Reasoning with Abstract Chain-of-Thought

无需言语的思考：通过抽象链式推理实现高效潜在推理

Keshav Ramji, Tahira Naseem, Ramón Fernandez Astudillo

机构 * IBM Research AI（IBM人工智能研究院） 纠错

专题命中 数学推理 ：chain-of-thought(title,summary_cn)；reasoning(title,abstract)；CoT(abstract,abstract_cn)；分类 cs.CL

AI总结 本文提出Abstract Chain-of-Thought，通过离散潜在推理机制在训练后实现高效推理，减少推理token数量同时保持性能，发现抽象词汇的幂律分布。

Stabilizing Efficient Reasoning with Step-Level Advantage Selection

通过步骤级优势选择稳定高效推理

Han Wang, Xiaodong Yu, Jialian Wu, Jiang Liu, Ximeng Sun, Mohit Bansal, Zicheng Liu

机构 * UNC Chapel Hill（北卡罗来纳大学教堂山分校） ； Advanced Micro Devices, Inc.（先进微器件公司） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；verifier(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出SAS方法，在步骤层面选择优势，提升推理稳定性与效率，实验显示在多个基准上准确率提升0.86点，推理长度减少16.3%。

Comments Findings of ACL 2026, Code: https://github.com/HanNight/SAS

Scoring, Reasoning, and Selecting the Best! Ensembling Large Language Models via a Peer-Review Process

评分、推理与选择最佳！通过同行评审过程进行大型语言模型的集成

Zhijun Chen, Zeyu Ji, Qianren Mao, Hao Wu, Jinhuan Song, Junhang Cheng, Bangjie Qin, Zhuoran Li, Jingzheng Li, Kai Sun, Zizhe Wang, Yikun Ban, Zhu Sun, Xiangyang Ji, Hailong Sun

机构 * Beihang University, Beijing, China（北京航空航天大学） ； Zhongguancun Laboratory, Beijing, China（中关村实验室） ； Beijing University of Posts and Telecommunications（北京邮电大学） ； Hong Kong University of Science and Technology（香港科学与技术大学） ； Xi'an Jiaotong University, Xi'an, China（西安交通大学） ； Tsinghua University, Beijing, China（清华大学） ； Singapore University of Technology and Design（新加坡科技设计大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI

AI总结 本文提出LLM-PeerReview方法，通过同行评审机制集成多个大型语言模型，提升响应质量。实验显示其在多个数据集上优于Smoothie-Global，适用于事实性问答、数学推理等任务。

IRIS: Interleaved Reinforcement with Incremental Staged Curriculum for Cross-Lingual Mathematical Reasoning

IRIS：交错强化与增量阶段课程用于跨语言数学推理

Navya Gupta, Rishitej Reddy Vyalla, Avinash Anand, Chhavi Kirtani, Erik Cambria, Zhengchen Zhang, Zhengkui Wang, Timothy Liu, Aik Beng Ng, Simon See, Rajiv Ratn Shah

机构 * Singapore Institute of Technology（新加坡理工学院） ； IIIT Delhi（德里印度理工学院） ； University of California, San Diego（加州大学圣地亚哥分校） ； Nanyang Technological University（南洋理工大学） ； NVIDIA 纠错

专题命中 数学推理 ：reasoning(title,abstract)；math reasoning(abstract)；分类 cs.CL

AI总结 IRIS通过结合逐步增加难度的监督微调与逆课程强化学习，提升多语言数学推理能力，尤其在低资源和双语环境下表现突出。

Comments Accepted in ACL main

SFT-then-RL Outperforms Mixed-Policy Methods for LLM Reasoning

在LLM推理中，SFT-然后-RL优于混合策略方法

Alexis Limozin, Eduard Durech, Torsten Hoefler, Imanol Schlag, Valentina Pyatkin

机构 * ETH AI Center, ETH Zürich（苏黎世联邦理工学院人工智能中心） ； EPFL（瑞士联邦理工学院） ； Allen Institute for AI（人工智能研究所） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文指出，混合策略方法的性能提升源于两个错误：DeepSpeed优化器在梯度累积中丢失中间微批次，以及OpenRLHF损失聚合错误加权。修正后，标准SFT-然后-RL流程在数学基准上超越了所有混合策略方法。

LongFlow: Efficient KV Cache Compression for Reasoning Models

LongFlow：用于推理模型的高效KV缓存压缩

Yi Su, Zhenxu Tian, Dan Qiao, Yuechi Zhou, Juntao Li, Min Zhang

机构 * School of Computer Science and Technology, Soochow University, China（苏州大学计算机科学与技术学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.LG

AI总结 LongFlow通过高效的重要性估计指标实现KV缓存压缩，减少内存消耗和带宽压力，提升推理模型的吞吐量和效率。

CURE-Med: Curriculum-Informed Reinforcement Learning for Multilingual Medical Reasoning

CURE-MED：基于课程的强化学习用于多语言医学推理

Eric Onyame, Akash Ghosh, Subhadip Baidya, Sriparna Saha, Xiuying Chen, Chirag Agarwal

机构 * University of Virginia（弗吉尼亚大学） ； Indian Institute of Technology Patna（印度理工学院帕纳布分校） ； Indian Institute of Technology Kanpur（印度理工学院坎普尔分校） ； MBZUAI（中东技术研究所） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 本文提出CURE-MED框架，通过课程引导的强化学习提升多语言医学推理的逻辑正确性和语言稳定性，实验表明在13种语言上均优于基线模型，实现了高一致性与高正确率。

Comments Accepted at ACL 2026, main conference, oral presentation

Scheduling Your LLM Reinforcement Learning with Reasoning Trees

用推理树调度你的LLM强化学习

Hong Wang, Zhezheng Hao, Jian Luo, Chenxing Wei, Yao Shu, Lei Liu, Qiang Lin, Hande Dong, Jiawei Chen

机构 * Cranberry-Lemon University（Cranberry-Lemon 大学） ； University of the Witwatersrand（独立研究者） ； Hong Kong University of Science and Technology (Guangzhou)（香港科学与技术大学（广州）） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出基于推理树结构的Re-Schedule算法，通过r-score衡量查询难度，提升数据效率和准确性，实验显示在数学推理任务中平均准确率提升3.2%。

Tandem: Riding Together with Large and Small Language Models for Efficient Reasoning

Tandem: 大小语言模型协同以实现高效的推理

Zichuan Fu, Xian Wu, Guojing Li, Yejing Wang, Yijun Chen, Zihao Zhao, Yixuan Luo, Hanyu Yan, Yefeng Zheng, Xiangyu Zhao

机构 * City University of Hong Kong（香港城市大学） ； Tencent Jarvis Lab（腾讯Jarvis实验室） ； Renmin University of China（中国人民大学） ； Westlake University（西湖大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 Tandem通过结合大语言模型和小语言模型，减少计算成本并提升推理质量，实验表明其在数学推理和代码生成任务中性能优越。

Comments ACL 2026 Findings

LLM-Assisted Op-Amp Behavioral-Level Design via Agentic Human-Mimicking Reasoning

通过代理人类模拟推理的LLM辅助运算放大器行为级设计

Zihao Chen, Ziyi Sun, Jiayin Wang, Ji Zhuang, Jinyi Shen, Xiaoyue Ke, Li Shang, Xuan Zeng, Fan Yang

机构 * State Key Laboratory of Integrated Chips and Systems（集成芯片与系统国家重点实验室） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI

AI总结 本文提出White-Op框架，利用大语言模型代理的类人推理能力，实现运算放大器行为级参数设计，通过符号推理与数值求解分离方法，结合模拟验证和迭代优化，提升设计可解释性与电路功能保持性。

Beyond Math: Stories as a Testbed for Memorization-Constrained Reasoning in LLMs

超越数学：故事作为LLM中受记忆限制推理的测试平台

Yuxuan Jiang, Francis Ferraro

机构 * Department of Computer Science and Electrical Engineering（计算机科学与电气工程系） ； University of Maryland, Baltimore County（马里兰大学巴尔的摩县分校） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL

AI总结 本文通过故事测试平台探讨LLM在记忆受限推理中的表现，提出减少机械记忆的方法，发现记忆驱动性能下降，揭示现有基准测试的数据污染问题。

Comments published on EACL 2026 Main

Rethinking Parameter Sharing for LLM Fine-Tuning with Multiple LoRAs

重新思考多LoRAs的参数共享用于LLM微调

Hao Ban, Kaiyi Ji

机构 * Department of Computer Science and Engineering, University at Buffalo（计算机科学与工程系，布法罗大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本文提出ALoRA和Fed-ALoRA，通过异构矩阵分解策略，在多任务和联邦微调中实现更平衡的性能，优于现有多LoRA方法。

Comments Accepted to ACL 2026 Findings

AutoPyVerifier: Learning Compact Executable Verifiers for Large Language Model Outputs

AutoPyVerifier: 为大语言模型输出学习紧凑的可执行验证器

Pouya Pezeshkpour, Estevam Hruschka

机构 * Megagon Labs（梅加戈恩实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)；verifier(abstract)；分类 cs.CL、cs.LG

AI总结 本文提出AutoPyVerifier框架，通过LLM生成候选验证器并利用DAG搜索优化，提升验证器集对目标任务的预测精度，实验表明在多个基准测试中性能提升显著。

DVPO: Distributional Value Modeling-based Policy Optimization for LLM Post-Training

DVPO：基于分布价值建模的策略优化用于大语言模型后训练

Dingwei Zhu, Zhiheng Xi, Shihan Dou, Yuhui Wang, Sixian Li, Junjie Ye, Honglin Guo, Shichun Liu, Chenhao Huang, Yajie Yang, Junlin Shang, Senjie Jin, Ming Zhang, Jiazheng Zhang, Caishuang Huang, Yunke Zhang, Yuran Wang, Tao Gui

机构 * College of Computer Science and Artificial Intelligence, Fudan University（复旦大学计算机科学与人工智能学院） ； Honor Device Co., Ltd（荣誉设备有限公司） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 DVPO通过结合条件风险理论与分布价值建模，在噪声监督下提升大语言模型后训练的鲁棒性和泛化能力，优于PPO、GRPO等方法。

Masked by Consensus: Disentangling Privileged Knowledge in LLM Correctness

被共识掩盖：在LLM正确性中解构特权知识

Tomer Ashuach, Shai Gretz, Yoav Katz, Yonatan Belinkov, Liat Ein-Dor

机构 * Technion – Israel Institute of Technology（技术学院–以色列理工学院） ； IBM Research（IBM研究院） ； Kempner Institute, Harvard University（哈弗大学凯普纳研究所） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；分类 cs.CL

AI总结 研究探讨大语言模型是否具备类似人类的内部状态评估正确性知识，通过自代表和外部模型对比发现，在分歧子集上，自代表在事实任务中表现更优，但数学推理中无优势。

Comments Accepted to ACL 2026 (Main Conference). 8 pages, 16 figures, 2 tables

TRINITY: An Evolved LLM Coordinator

TRINITY：一个进化的人工智能语言模型协调器

Jinglue Xu, Qi Sun, Peter Schwendeman, Stefan Nielsen, Edoardo Cetin, Yujin Tang

机构 * Sakana AI ； University of Michigan（密歇根大学） ； Institute of Science Tokyo（东京科学研究所） 纠错

专题命中 数学推理 ：reasoning(abstract)；verifier(abstract)；分类 cs.LG

AI总结 TRINITY通过轻量级协调器高效分配角色，提升多轮查询处理能力，在多个任务中超越单一模型和现有方法，实现卓越性能。

Comments To appear at the 14th International Conference on Learning Representation (ICLR 2026)

Utility-Aware Data Pricing: Token-Level Quality and Empirical Training Gain for LLMs

面向效用的数据定价：LLMs的令牌级质量与经验训练增益

Minghui Xu, Qi Luo, Kun Li

机构 * Shandong University（山东大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出动态数据估值框架，通过令牌级信息密度、经验训练增益测量和加密可验证性三层方法，实现LLM能力的效用定价，优于传统行数和令牌数基准。

Comments 23 pages, 1 figure, 6 tables

Beyond Experience Retrieval: Learning to Generate Utility-Optimized Structured Experience for Frozen LLMs

超越经验检索：学习生成优化的结构化经验以冻结LLM

Xuancheng Li, Haitao Li, Yujia Zhou, Yiqun Liu, Qingyao Ai

机构 * Department of Computer Science and Technology, Tsinghua University, Beijing, China（清华大学计算机科学与技术系，北京，中国） ； Quancheng Laboratory（千晨实验室） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出SEAM模块，通过单次前向传递生成实例定制的经验条目，优化冻结LLM的执行效率，实验显示在数学推理基准上准确率提升显著。

From Optimization to Prediction: Transformer-Based Path-Flow Estimation to the Traffic Assignment Problem

从优化到预测：基于Transformer的路径-流量估计到交通分配问题

Mostafa Ameli, Sulthana Shams, Van Anh Le, Alexander Skabardonis

机构 * Institute of Transportation Studies, University of California, Berkeley, USA（加州大学伯克利分校交通研究学院） 纠错

专题命中 数学推理 ：planning(abstract)；分类 cs.AI、cs.LG

AI总结 本文提出基于Transformer的深度学习方法，直接预测交通均衡路径流量，提升大规模网络计算效率和预测精度。

LearnAlign: Data Selection for LLM Reinforcement Learning with Improved Gradient Alignment

LearnAlign: 用于改进梯度对齐的LLM强化学习数据选择

Shipeng Li, Zhiqin Yang, Shikun Li, Xiaobo Xia, Hengyu Liu, Xinghua Zhang, Gaode Chen, Dong Fang, Ying Tai, Zhe Peng

机构 * Nanjing University（南京大学） ； The Hong Kong Polytechnic University（香港理工大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of Science and Technology of China（中国科学技术大学） ； Institute of Information Engineering, Chinese Academy of Sciences（中国科学院信息工程研究所） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 LearnAlign通过改进梯度对齐方法，智能选择训练数据以提升LLM推理能力，减少训练数据需求且性能表现优异。

Comments ACL 2026 Findings

Differentiable Faithfulness Alignment for Cross-Model Circuit Transfer

可微的忠实对齐用于跨模型电路转移

Shun Shao, Binxu Wang, Shay B. Cohen, Anna Korhonen, Yonatan Belinkov

机构 * University of Cambridge（剑桥大学） ； Kempner Institute, Harvard University（哈佛大学凯普勒研究所） ； University of Edinburgh（爱丁堡大学） ； Technion（技术学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 本文提出DFA框架，通过学习可微对齐将小模型的电路信息转移到大模型，实验证明在事实检索、多选推理和算术任务中，DFA在Llama-3 1B→3B任务中表现优异，且在某些情况下恢复的电路忠实度不低于直接归因。

Comments 10 pages, 5 figures

Guided Speculative Inference for Efficient Test-Time Alignment of LLMs

引导推测推断用于大型语言模型的高效测试时间对齐

Jonathan Geuter, Youssef Mroueh, David Alvarez-Melis

机构 * Harvard SEAS（哈佛大学SEAS学院） ； Kempner Institute（Kempner研究所） ； IBM Research（IBM研究院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 本文提出引导推测推断（GSI），通过结合软最佳n次测试时间缩放、奖励模型和小型辅助模型的推测样本，提高大语言模型的奖励引导解码效率，并在多个基准测试中实现更高的准确性和更低的延迟。

Comments 41 pages, 11 figures. Published at ICLR 2026