大模型推理能力

The Readout Shortcut: Positional Number Copying Dominates Arithmetic CoT Readout in Small Language Models

读出捷径：位置数字复制主导小语言模型中的算术思维链读出

Ming Liu

机构 * Amazon（亚马逊） 纠错

专题命中 数学推理 ：CoT(title,summary_cn)；reasoning(abstract)；chain-of-thought(abstract)；分类 cs.CL、cs.AI、cs.LG

AI总结 本研究通过前缀补全实验，发现小语言模型在算术思维链中主要依赖位置捷径（复制答案分隔符前的最后一个数字），而非逻辑推理，并分析了不同模型的行为差异。

Comments 18 pages (8 main + 10 appendix), 3 figures, 5 tables

ALIVE: Awakening LLM Reasoning via Adversarial Learning and Instructive Verbal Evaluation

ALIVE: 通过对抗学习和指导性语言评估唤醒LLM推理

Yiwen Duan, Jing Ye, Xinpei Zhao

机构 * Independent Researcher（独立研究者） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；self-correction(abstract)；分类 cs.AI

AI总结 提出ALIVE框架，通过对抗学习与指导性语言反馈替代标量奖励，使模型内化推理逻辑，在数学、代码和逻辑推理任务中提升准确率、跨域泛化与自我修正能力。

Adaptive Mass-Segmented KV Compression for Long-Context Reasoning

自适应质量分段KV压缩用于长上下文推理

Junzhe Yang, Xiaoyu Shen

机构 * Shanghai Jiao Tong University（上海交通大学） ； Institute of Digital Twin, Eastern Institute of Technology（数字孪生研究院，东部技术研究所） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.AI、cs.LG

AI总结 提出自适应质量分段（AMS）KV压缩框架，通过区域感知配额分配替代全局Top-k选择，防止推理块被过度驱逐，从而保持逻辑连贯性。

Visually-Guided Policy Optimization for Multimodal Reasoning

视觉引导的多模态推理策略优化

Zengbin Wang, Feng Xiong, Liang Lin, Xuecai Hu, Yong Wang, Yanlin Wang, Man Zhang, Xiangxiang Chu

机构 * AMAP, Alibaba Group（阿里集团AMAP） ； SYSU（南方科技大学） ； BUPT（北京邮电大学） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 针对视觉语言模型在推理中视觉关注不足和时序遗忘问题，提出视觉引导策略优化（VGPO）框架，通过视觉注意力补偿机制和双粒度优势重加权策略增强视觉聚焦，提升多模态推理性能。

Comments Accepted to ACL 2026, https://github.com/wzb-bupt/VGPO

MAS-Orchestra: Understanding and Improving Multi-Agent Reasoning Through Holistic Orchestration and Controlled Benchmarks

MAS-Orchestra：通过整体编排和受控基准理解与改进多智能体推理

Zixuan Ke, Yifei Ming, Austin Xu, Ryan Chin, Xuan-Phi Nguyen, Prathyusha Jwalapuram, Jiayu Wang, Semih Yavuz, Caiming Xiong, Shafiq Joty

机构 * Salesforce Research（Salesforce研究院） ； University of Wisconsin-Madison（威斯康星大学麦迪逊分校） ； Massachusetts Institute of Technology（麻省理工学院） 纠错

专题命中 数学推理 ：reasoning(title,abstract)；分类 cs.CL、cs.AI

AI总结 提出MAS-Orchestra框架，将多智能体系统编排形式化为函数调用的强化学习问题，并引入受控基准MASBENCH，揭示MAS收益依赖于任务结构等因素，在数学推理等任务上取得一致改进且效率提升10倍以上。

Comments ICML 2026

Reinforcement Learning with Verifiable yet Noisy Rewards under Imperfect Verifiers

在不完美验证器下基于可验证但含噪声奖励的强化学习

Xin-Qiang Cai, Wei Wang, Feng Liu, Tongliang Liu, Gang Niu, Masashi Sugiyama

机构 * RIKEN AIP（日本理化学研究所AIP） ； The University of Tokyo（东京大学） ； The University of Melbourne（墨尔本大学） ； The University of Sydney（悉尼大学） 纠错

专题命中 数学推理 ：reasoning(abstract)；math reasoning(abstract)；verifier(abstract)；分类 cs.AI、cs.LG

AI总结 针对不完美验证器引入的假阴性和假阳性噪声，提出后向校正（无偏奖励）和前向校正（梯度方向对齐）两种轻量级方法，在分组相对策略优化中提升数学推理性能，并设计上诉机制在线估计假阴性率。

RMA: an Agentic System for Research-Level Mathematical Problems

RMA：一个面向研究级数学问题的智能体系统

Zelin Zhao, Bo Yuan, Jaemoo Choi, Yongxin Chen

机构 * Georgia Institute of Technology（佐治亚理工学院） 纠错

专题命中 数学推理 ：reasoning(abstract)；verifier(abstract)；分类 cs.AI、cs.LG

AI总结 提出Research Math Agents (RMA)框架，通过多角色多轮协作的智能体工作流，在First Proof基准上解决80%的研究级数学问题，优于GPT-5.2R等基线。

MemReward: Graph-Based Experience Memory for LLM Reward Prediction with Limited Labels

MemReward: 基于图的经验记忆用于有限标签下的LLM奖励预测

Tianyang Luo, Tao Feng, Zhigang Hua, Yan Xie, Shuang Yang, Ge Liu, Jiaxuan You

机构 * University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Meta 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI、cs.LG

AI总结 提出MemReward框架，利用图神经网络在少量标签下将奖励从标注样本传播到未标注样本，实现混合奖励获取策略，在数学、问答和代码生成任务上接近Oracle性能。

InfiGFusion: Graph-on-Logits Distillation via Efficient Gromov-Wasserstein for Model Fusion

InfiGFusion：通过高效Gromov-Wasserstein进行图对逻辑蒸馏的模型融合

Yuanyi Wang, Zhaoyi Yan, Yiming Zhang, Qi Zhou, Yanggan Gu, Fei Wu, Hongxia Yang

机构 * The Hong Kong Polytechnic University（香港理工大学） ； Zhejiang University（浙江大学） ； Daya Bay Technology and Innovation Research Institute（大亚湾技术与创新研究院） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL

AI总结 提出InfiGFusion，一种结构感知的模型融合框架，通过图对逻辑蒸馏损失显式建模词汇维度间的语义依赖，并利用排序闭式近似将Gromov-Wasserstein距离的计算复杂度从O(n^4)降至O(n log n)，在多个基准上超越现有方法。

FuRA: Full-Rank Parameter-Efficient Fine-Tuning with Spectral Preconditioning

FuRA: 基于谱预条件的全秩参数高效微调

Yequan Zhao, Ruijie Zhang, Liyan Tan, Niall Moran, Tong Qin, Zheng Zhang

机构 * University of California at Santa Barbara（加州大学圣芭芭拉分校） ； Amazon Lab126（亚马逊实验室126） 纠错

专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG

AI总结 提出FuRA方法，通过块张量列车分解实现全秩谱预条件，在保持参数效率的同时提升微调性能，在LLM和VLM任务上优于全微调和LoRA。