Ability Transfer and Recovery via Modularized Parameters Localization
通过模块化参数定位实现能力迁移与恢复
机构 * University of California San Diego（加州大学圣地亚哥分校）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 ACT通过激活差异局部化能力相关通道，实现能力迁移与恢复，提升多语言数学和科学推理性能。
AI 大模型
大模型推理能力
大模型数学、逻辑、规划、多步推理和测试时计算能力。
1. 数学推理 3220 篇
Distributional Clarity: The Hidden Driver of RL-Friendliness in Large Language Models
分布清晰度：大型语言模型中RL友好性的隐藏驱动因素
机构 * Tsinghua Shenzhen International Graduate School, Tsinghua University（清华大学深圳国际研究生院，清华大学） ； Baidu Inc（百度公司）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 研究揭示了大型语言模型中RL友好性的隐藏驱动因素——分布清晰度，通过量化Silhouette系数并提出Silhouette-aware Reweighting策略，提升了模型在数学基准测试中的表现。
Attention Is All You Need for KV Cache in Diffusion LLMs
注意力是扩散大语言模型中KV缓存的所有需求
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文提出Elastic-Cache方法，通过适应性缓存更新提升扩散LLM的解码效率和生成质量。
Comments Code at: https://github.com/VILA-Lab/Elastic-Cache
Hidden in the Haystack: Smaller Needles are More Difficult for LLMs to Find
haystack中隐藏的针：更小的针对LLM来说更难找到
机构 * Center for Alzheimer’s Disease and Related Dementias, NIA, NIH（阿尔茨海默病及相关痴呆症研究中心，国家老龄化研究所，国家卫生研究院） ； DataTecnica LLC（DataTecnica公司） ； Johns Hopkins University（约翰霍普金斯大学） ； Laboratory of Neurogenetics, NIA, NIH（神经遗传学实验室，国家老龄化研究所，国家卫生研究院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 本文研究了黄金上下文大小对LLM长上下文问答性能的影响，发现较短的黄金上下文会显著降低模型性能，揭示了上下文长度对模型表现的关键作用。
Comments Under Review
Astra: A Multi-Agent System for GPU Kernel Performance Optimization
Astra：一种用于GPU内核性能优化的多智能体系统
机构 * Stanford University（斯坦福大学） ； Shanghai Jiao Tong University（上海交通大学） ； Nanjing University（南京大学）
专题命中 数学推理 ：planning(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 Astra是首个基于LLM的多智能体系统，用于优化GPU内核性能，通过协作生成高效内核并实现显著加速。
Guided Self-Evolving LLMs with Minimal Human Supervision
受最小人类监督引导的自演化大语言模型
机构 * Tencent AI Lab in Seattle（西雅图腾讯AI实验室） ； Washington University in St. Louis（斯托克维尔华盛顿大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 R-Few通过引入轻量级人类监督，实现稳定可控的自演化大语言模型，提升数学推理性能并减少对大量人类数据的依赖。
Soft Adaptive Policy Optimization
软适应策略优化
机构 * Qwen Team, Alibaba Inc（阿里巴巴公司）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
AI总结 SAPO通过软门替代硬剪裁，提升大语言模型强化学习的稳定性和效率。
P1: Mastering Physics Olympiads with Reinforcement Learning
机构 * Shanghai AI Laboratory（上海人工智能实验室）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
HAPO: Training Language Models to Reason Concisely via History-Aware Policy Optimization
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Instella: Fully Open Language Models with Stellar Performance
机构 * AMD
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
GoRA: Gradient-driven Adaptive Low Rank Adaptation
机构 * University of Science and Technology of China（中国科学技术大学） ； Institute of Intelligent Machines, HFIPS, Chinese Academy of Sciences（中国科学院智能机械研究所） ； Shanghai Artificial Intelligence Laboratory（上海人工智能实验室） ； Fudan University（复旦大学） ； The Chinese University of Hong Kong（香港中文大学） ； University of Sydney（悉尼大学） ； Anhui Disaster Warning & Agrometeorological Information Center（安徽省灾害预警与农业气象信息中心）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments NeurIPS 2025
FlyLoRA: Boosting Task Decoupling and Parameter Efficiency via Implicit Rank-Wise Mixture-of-Experts
机构 * Department of Automation, Tsinghua University（自动化系，清华大学） ； Academy of Medical Engineering and Translational Medicine, Tianjin University（医学工程与转化医学学院，天津大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments NeurIPS 2025 accepted paper
AdaSPEC: Selective Knowledge Distillation for Efficient Speculative Decoders
机构 * University of California, Berkeley（加州大学伯克利分校） ； Tsinghua University（清华大学） ； Georgia Institute of Technology（佐治亚理工学院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Unleashing Diverse Thinking Modes in LLMs through Multi-Agent Collaboration
机构 * University of Birmingham, United Kingdom（英国伯明翰大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Predicting Task Performance with Context-aware Scaling Laws
机构 * UC Santa Cruz（加州大学圣克ruz分校） ； Washington University in St. Louis（华盛顿大学圣路易斯分校） ； Databricks（Databricks公司） ； Google DeepMind（谷歌DeepMind） ； UC Berkeley（加州大学伯克利分校）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Think Globally, Group Locally: Evaluating LLMs Using Multi-Lingual Word Grouping Games
机构 * School of Computing and Information（计算与信息学院） ； University of Pittsburgh（匹兹堡大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments EMNLP Main 2025
CaRT: Teaching LLM Agents to Know When They Know Enough
机构 * Carnegie Mellon University（卡内基梅隆大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
The Unreasonable Effectiveness of Model Merging for Cross-Lingual Transfer in LLMs
机构 * University of California, Los Angeles（加州大学洛杉矶分校）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments MRL Workshop at EMNLP 2025
Fed-SB: A Silver Bullet for Extreme Communication Efficiency and Performance in (Private) Federated LoRA Fine-Tuning
机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Duke University（杜克大学） ； University of Illinois Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Massachusetts Institute of Technology（麻省理工学院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments Raghav Singhal and Kaustubh Ponkshe contributed equally to this work
Rubrics as Rewards: Reinforcement Learning Beyond Verifiable Domains
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments preprint
Quagmires in SFT-RL Post-Training: When High SFT Scores Mislead and What to Use Instead
机构 * FAIR at Meta（Meta 的 FAIR） ； Meta
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments Preprint. Under Review
Initialization using Update Approximation is a Silver Bullet for Extremely Efficient Low-Rank Fine-Tuning
机构 * Mohamed bin Zayed University of Artificial Intelligence（穆罕默德·本·扎耶德人工智能大学） ； Georgia Institute of Technology（佐治亚理工学院） ； Massachusetts Institute of Technology（麻省理工学院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments Kaustubh Ponkshe and Raghav Singhal contributed equally to this work
Affordable AI Assistants with Knowledge Graph of Thoughts
机构 * ETH Zurich（苏黎世联邦理工学院） ； Cledar（Cledar公司） ； IDEAS Research Institute（IDEAS研究所）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Knapsack RL: Unlocking Exploration of LLMs via Optimizing Budget Allocation
机构 * The Chinese University of Hong Kong, Shenzhen（香港中文大学（深圳）） ； Shenzhen Research Institute of Big Data（深圳大数据研究院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Reinforcement Learning on Pre-Training Data
机构 * LLM Department, Tencent（腾讯大模型部门） ； HunYuan Infra Team（文心一言基础设施团队） ； The Chinese University of Hong Kong（香港中文大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments Work in progress
DCPO: Dynamic Clipping Policy Optimization
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Roll the dice & look before you leap: Going beyond the creative limits of next-token prediction
机构 * Google Research, US（谷歌研究） ； Carnegie Mellon University, Pittsburgh, US（卡内基梅隆大学）
专题命中 数学推理 ：planning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments ICML 2025 (oral)
Nemotron-CC-Math: A 133 Billion-Token-Scale High Quality Math Pretraining Dataset
机构 * NVIDIA（英伟达） ； Boston University（波士顿大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
LoRA-XS: Low-Rank Adaptation with Extremely Small Number of Parameters
机构 * Jagiellonian University（雅盖隆大学） ； EPFL（苏黎世联邦理工学院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Reinforcement Learning with Rubric Anchors
机构 * Inclusion AI ； Ant Group（蚂蚁集团） ； Zhejiang University（浙江大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL、cs.AI、cs.LG
Comments technical report
