Full-bandwidth transformer
全带宽Transformer
机构 * Johns Hopkins University（约翰斯·霍普金斯大学） ； Princeton University（普林斯顿大学） ； Microsoft（微软公司）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 该研究提出全带宽Transformer，通过潜在反馈拓宽解码步骤间的垂直反馈通道，经训练验证其在多项任务上性能提升，且解码开销可忽略。
AI 大模型
大模型推理能力
大模型数学、逻辑、规划、多步推理和测试时计算能力。
1. 数学推理 276 篇
Quantum-Structured World Models (QSWMs) for Predictive Latent Dynamics
用于预测潜在动力学的量子结构化世界模型（QSWMs）
机构 * Youngstown State University（扬斯敦州立大学） ； Kent State University（肯特州立大学） ； George Washington University（乔治·华盛顿大学）
专题命中 数学推理 ：planning(abstract)；分类 cs.LG
AI总结 本文提出量子结构化世界模型（QSWMs），研究量子启发结构对世界建模的作用，在基本元胞自动机上评估其变体，发现复值QSWM局部预测潜力良好但类密度矩阵变体存在长时序预测局限。
Comments 19 pages, 5 figures,
OPTD: On-Policy Transition Distillation with Consistency-Guided Adaptive Compression for Few-Step Diffusion Language Models
OPTD：用于少步扩散语言模型的一致性引导自适应压缩的策略内转换蒸馏
机构 * HKUST（香港科技大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL
AI总结 针对少步扩散语言模型现有离线策略蒸馏的轨迹不匹配问题，提出 OPTD 策略内转换蒸馏方法，在四个推理基准上改善质量效率权衡并取得最优质量约束 AUP。
Comments 9 pages, 4 figures, 5 tables
Start Classifying: Categorical Critics for LLM Reinforcement Learning
开始分类：用于大语言模型强化学习的分类式评判器
机构 * Fudan University（复旦大学） ； Shanghai Innovation Institute（上海创新研究院） ； Tencent YoutuLab（腾讯优图实验室） ； Griffith University（格里菲斯大学） ； Shanghai Academy of Artificial Intelligence for Science（上海科学人工智能研究院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG
AI总结 该研究提出HL-Gauss PPO，将PPO的标量评判器改为分类式预测器，在多任务及Qwen2.5、Qwen3主干上均优于PPO、DAPO基线，可改进评判器信号与优势估计。
Comments Accepted at COLM 2026. 26 pages, 9 figures. Code: https://github.com/ZhijianZhou/HL-guass-ppo
CURE: Local Uncertainty Repair for Block-Parallel Speculative Decoding
CURE：面向块并行推测解码的局部不确定性修复
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 针对并行推测解码的长序列精度下降问题，提出预算感知动态修复树CURE，通过定位高不确定性token修复错误，在多个基准上提升平均接受长度并实现2.66-3.49倍端到端速度提升。
Comments 9 pages, 2 figures, 5 tables
Mask-Based Priors Are More Persistent than Query-Key Initializations
基于掩码的先验比查询-键初始化更具持久性
机构 * Australian Institute for Machine Learning（澳大利亚机器学习研究所） ； Adelaide University（阿德莱德大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 该研究针对 Transformer 在布尔外推任务上的系统性错误泛化问题，提出直接初始化注意力掩码的方法，该方法可保留结构先验，在布尔推理等任务上实现优异外推效果。
TAPR: Enhancing LLM Performance with a Task-Aware Prompt Rewriter
TAPR：利用任务感知提示重写器提升大语言模型性能
机构 * University of Amsterdam（阿姆斯特丹大学） ； Elsevier（爱思唯尔）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 本研究提出TAPR模型，采用带GRPO的强化学习训练，可将用户提示优化为任务适配的提示，经微调Phi-4-mini-instruct后，在多任务基准测试中提升了大语言模型的准确率。
$β$-OPSD: Deriving with Policy Optimization, Training with Self-Distillation
β-OPSD：基于策略优化推导，采用自蒸馏训练
机构 * University of Maryland（马里兰大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG
AI总结 β-OPSD是将普通OPSD扩展为含可控正则化参数β的策略优化通用形式，通过蒸馏近似策略优化解，在数学推理基准上性能与稳定性均优于普通OPSD。
LEEPS: Latent-Guided Explore-Exploit Prompt Sampling for Efficient RLVR in Large Language Models
LEEPS：用于大语言模型中高效RLVR的潜在引导探索-利用提示采样
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL
AI总结 LEEPS是一种潜在引导探索-利用提示采样器，通过自适应分配rollout预算等方式优化提示采样，在6个数学推理基准和3个OOD通用推理基准上均取得最优性能，且训练开销较小。
Comments 15pages
SKIMIX: Multi-Agent Harness-Time Scaling with Skill Mixture for Dynamic Harness Engineering
SKIMIX：面向动态 harness 工程的技能混合多智能体 harness 时间缩放方法
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 SKIMIX 是一种多智能体框架，结合技能检索、抗稀释路由等技术，在六个推理基准上提升开放式数学推理能力，为可扩展智能体设计提供了任务特性相关的实用指导。
MECA: A Mechanism-Centered Agent for Constructing Well-Specified and Valuable Mathematical Conjectures
MECA：一种以机制为中心的智能体，用于构建定义明确且有价值的数学猜想
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 MECA是一种以机制为中心的多智能体框架，可联合构建候选数学命题及其支撑机制，能生成定义明确且有研究价值的猜想，相关猜想对现有自动证明器仍具挑战性。
Comments 78 pages, 5 figures. Includes appendices and the full collection of 100 generated conjectures
Multi-Agent Debate and Visual Information Extraction for SeePhys Pro: A 1st-Place Technical Report from ICML 2026 AI4Math Track 3 Challenge
用于SeePhys Pro的多智能体辩论与视觉信息提取：ICML 2026 AI4Math赛道3挑战赛的第一名技术报告
专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG
AI总结 针对回答含图像的大学物理问题的SeePhys Pro任务，提出两阶段框架，包括视觉信息提取和多智能体辩论推理阶段，提高了准确率，在挑战赛中获第一名，分析得出编排收益及图形辅助价值与问题图像占比相关的结论。
Profiling Lightweight Large Language Models
轻量级大语言模型剖析
机构 * Graduate School of Science and Engineering, Saitama University（埼玉大学理工学研究科） ； ITIS, University of Malaga（马拉加大学信息技术与系统研究所）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 研究轻量级大语言模型在资源受限环境中的情况，提出基于PTME的实验框架，通过硬件级测量联合测量精度、时间、内存和能耗，对一组模型进行测试，发现代理描述符不足，揭示非主导配置，为不同资源下选模型提供指导。
ArbiGraph: Arbitrarily Scalable Verifiable Task Graphs for Evaluating Context Management
ArbiGraph：用于评估上下文管理的任意可扩展可验证任务图
机构 * University of Toronto（多伦多大学） ； Vector Institute（向量研究所）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 ArbiGraph作为基准生成器，将任务表示为带Python求解器的自然语言问题，通过类型化中间状态组合任务。用多种任务类别实例化并评估智能体，发现其在孤立任务和复杂相关任务上表现不同，揭示了单任务评估无法发现的问题。
PyroDash: Cost-Efficient Token-Level Small-Large Language Model Collaborative Inference
PyroDash：具有成本效益的令牌级小语言模型与大语言模型协作推理
机构 * Pyromind Dynamics Inc.（Pyromind动力学公司）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL
AI总结 研究针对大语言模型推理成本高、小语言模型可靠性低的问题，提出PyroDash框架，通过令牌级协作推理，分三阶段训练小语言模型，在数学推理基准测试中能支持不同操作点，可减少大语言模型使用并保持推理性能。
Comments 19 pages, 3 figures
FindStatBench: Evaluating Large Language Models on Combinatorial Code Synthesis
FindStatBench：在组合代码合成上评估大语言模型
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 介绍用于评估大语言模型组合代码合成能力的FindStatBench基准，涵盖多种合成任务，通过特定方式评分并评估11个系统，发现开源闭源系统准确率趋同、示例可能有害、存在输出预算问题等，揭示统计合成与映射合成的差异及相关问题。
Rethinking Heterogeneous LLM Merging: A Weighted Model Averaging Perspective
重新思考异构语言模型合并：加权模型平均视角
机构 * University of Science and Technology of China（中国科学技术大学） ； School of Computer Science and Technology, University of Science and Technology of China（中国科学技术大学计算机科学与技术学院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 研究异构语言模型合并问题，通过无训练的维度适配和比率控制插值，在联合式与交叉式合并中进行实验，结果表明简单参数平均结合轻量级适配和比率控制是强大基线，揭示直接加权融合的限制及对复杂方法的制约。
Comments 17 pages, 3 figures, 20 tables, preprint
Though Language Models Err While They Strive: Conformal Prediction for Self-Correcting Scientific Generation
尽管语言模型在努力时会出错：用于自我纠正科学生成的共形预测
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL
AI总结 研究针对大语言模型生成技术内容常违反科学原理的问题，提出图结构共形预测框架SFC，将科学推理分解为单元，考虑逻辑依赖，通过实时验证和动态分支纠错，在多基准测试中表现出色，提升准确率、有效性并减少定律违反。
Comments 25 pages
Shapley Context Pruning: A Cooperative Game Perspective for Context Reranking and Pruning
Shapley上下文剪枝：一种用于上下文重排和剪枝的合作博弈视角
机构 * Southern University of Science and Technology（南方科技大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 本文针对检索增强生成系统上下文重排和剪枝缺乏可解释统一框架的问题，提出Shapley上下文剪枝框架，用合作博弈视角归因重要性，采用深度集架构和蒙特卡罗采样，经多实验验证，模型在下游问答性能上表现出色。
PPO-HSC: An Exploratory Reinforcement Learning Framework Based on Wide-Area Policy Coverage Optimization
PPO-HSC：基于广域策略覆盖优化的探索性强化学习框架
机构 * School of Mathematics, Hunan University（湖南大学数学学院） ； College of Computer Science and Electronic Engineering, Hunan University（湖南大学计算机科学与电子工程学院）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 PPO-HSC是用于解决大语言模型微调中模式崩溃问题的探索性强化学习框架，通过纳入高阶采样覆盖奖励及维护动态轨迹库，提高解决方案多样性与状态空间覆盖，在数学推理和代码生成任务中表现出色。
Comments 13 pages, 3 figures
It Takes 8 Tokens: Weak-to-Strong Off-Policy RL via Auxiliary Branches
需要8个令牌：通过辅助分支实现从弱到强的离策略强化学习
机构 * Baidu Inc.（百度公司） ； Nanyang Technological University（南洋理工大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 研究针对可验证奖励强化学习中目标模型样本语义冗余问题，提出从弱到强学习范式，引入W2SPO方法，通过注入短辅助段指导策略探索，实验表明该方法在数学推理基准测试中性能优异，能提升训练速度和准确率。
EpiNarrate: Agentic Generation of Grounded Narratives from Epidemiological Scenario Projections
EpiNarrate：基于流行病学情景预测的有智能体的叙事生成
机构 * University of Virginia（弗吉尼亚大学） ； Biocomplexity Institute（生物复杂性研究所） ； Virginia Tech（弗吉尼亚理工大学） ； University of Pittsburgh（匹兹堡大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL
AI总结 研究旨在生成公共卫生叙事，提出EpiNarrate框架，将数值推理与自然语言生成分离，通过提取情景轴、构建数据集等步骤，经实验验证该模型能生成事实依据更充分、覆盖范围更广且风格类似专家报告的叙事。
Routing Ceilings Are Domain-Independent: Structural Prior Injection in Code Security Vulnerability Detection
路由上限与领域无关：代码安全漏洞检测中的结构先验注入
机构 * Bytepro AI（字节专业人工智能公司）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL
AI总结 研究在代码安全漏洞检测中测试路由器假设是否跨领域，通过重现SAIR设计评估三个大语言模型。结果表明结构先验能提升语义漏洞召回率，零样本性能随语义复杂度下降，备忘单在真实数据上效果不佳，迭代重新校准也有问题，证实了SAIR的跨分布权衡及路由器假设的跨领域性。
Comments 12 pages, 5 tables
A Continuous-Time Reinforcement Learning Framework for Fine-Tuning Discrete Diffusion Models
用于微调离散扩散模型的连续时间强化学习框架
机构 * Columbia University（哥伦比亚大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.LG
AI总结 该研究提出连续时间强化学习框架，推导策略梯度方法得到PPO和GRPO的连续时间变体。以此开发框架微调离散扩散模型，无需奖励信号可微，能纳入中间奖励或优势信号，还为MDM提供统一视角，用轨迹子采样技术降低计算成本，在相关任务中验证了方法有效性。
Comments 36 pages, 5 figures
AdvancedMathBench: A Benchmark Suite for Advanced Mathematical Proof Generation and Verification
高级数学基准测试：用于高级数学证明生成与验证的基准测试套件
机构 * Shanghai AI Laboratory（上海人工智能实验室） ； MMLab, The Chinese University of Hong Kong（香港中文大学多媒体实验室） ； Shanghai Jiao Tong University（上海交通大学） ； Great Bay University（大湾区大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.CL
AI总结 介绍用于评估高级数学推理能力的AdvancedMathBench基准测试套件，含ProverBench证明生成基准及自动验证管道，还有VerifierBench。实验显示前沿模型在证明生成与验证上表现不佳，该套件对模型提升高级数学证明能力有挑战。
Looped State-Space Language Models with Adaptive Exit-State Selection
具有自适应退出状态选择的循环状态空间语言模型
机构 * Rikkyo University（立教大学） ； The University of Tokyo（东京大学）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 研究循环状态空间语言模型在推理任务及预训练中的表现，采用循环曼巴等架构，在推理任务中优于非循环基线，预训练时在下游基准测试有竞争力，适配退出门后在中间深度提升下游性能。
Exploring Agentic Workflows for Generating High Quality Math Visual Aids
探索用于生成高质量数学视觉辅助工具的智能工作流程
机构 * Stanford Graduate School of Education（斯坦福大学教育研究生院） ； Department of Computer Science（计算机科学系）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 研究针对中学数学图表可靠生成难的问题，引入智能工作流程，让 LLM 智能体评估并迭代改进生成的视觉效果，通过探索性评估确定改进关键领域，初步证明可提高 AI 生成数学图表的可靠性和教育价值。
Comments 13 pages, 9 figures. Exploratory course project on agentic workflows for generating and evaluating K 12 mathematical diagrams
Concretized Proposition Prompting Resolves Composition-Knowledge Dichotomy in Large Language Models
具体化命题提示解决大语言模型中的组合-知识二分法
机构 * Columbia University（哥伦比亚大学） ； UNIST（全南科学技术大学） ； POSCO Holdings（POSCO控股）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 研究针对大语言模型组合-知识二分法难题，提出具体化命题提示（CPP）框架。通过明确相关命题具体化，提升推理性能，尤其在医学基准测试中表现突出，且可扩展到多种模型和参数规模，弥合两类方法差距，解决了二分法问题。
Comments 9
SPL: Orchestrating Workflows with Declarative Deterministic-Probabilistic Composition
SPL：使用声明式确定性-概率性组合编排工作流
机构 * Independent Researcher（独立研究者）
专题命中 数学推理 ：verifier(abstract)；分类 cs.CL
AI总结 研究提出SPL语言统一确定性与概率性计算模式，通过共享语法等实现跨平台运行。经实验验证，求解器分支有较高机器验证正确性，对比仅用大语言模型的分支，呈现后端难度梯度，主要失败模式为求解器错误。
Comments 24 pages, 2 figures, under review at TMLR
Evaluating SageMath-Augmented LLM Agents for Computational and Experimental Mathematics
评估用于计算和实验数学的SageMath增强型大语言模型智能体
机构 * The Sage Developers（Sage开发者团队）
专题命中 数学推理 ：reasoning(abstract)；分类 cs.AI
AI总结 研究聚焦AI在数学领域进展，提出结合大语言模型推理与SageMath反馈的智能体设置，改进RealMath基准。实验表明该设置能提升模型性能，缩小模型差距，CAS增强型智能体在计算探索上有潜力，朝自动猜想发现迈进。
Comments 37 pages, 16 figures, accepted to 3rd AI for Math Workshop at ICML 2026
