高校专区
训练任务多样性对上下文学习的影响：基于低维子空间的视角
机构 * University of California, Berkeley（加州大学伯克利分校） ； University of Washington（华盛顿大学） ； University of California, Los Angeles（加州大学洛杉矶分校） ； Stanford University（斯坦福大学） ； University of Toronto（多伦多大学）
AI总结 本文通过低秩高斯混合模型分析训练任务多样性（由子空间非重叠列数定义）如何提升线性注意力上下文学习的泛化与优化，解释训练多样性缩短学习平台期及实现分布外泛化的现象，并扩展至非线性场景。
自动驾驶任务级运行时保证框架
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学）
AI总结 提出一种评估驾驶安全与任务完成能力的运行时保证框架，通过监控系统拒绝不可行命令，实验证明其优于仅关注平台安全的方法。
微调陷阱：评估负迁移及PEFT在亚十亿参数数学推理中的作用
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学）
AI总结 本研究评估了五种亚十亿参数模型在数学推理任务中的微调策略，发现全量微调对小于3亿参数的模型造成负迁移，而参数高效微调（PEFT）是稳定性要求。
Comments 8 pages, 6 figures, 2 tables
AdaGRPO: 一种面向基于流的GRPO的能力感知自适应增强方法
机构 * Shanghai Jiao Tong University（上海交通大学） ； S-Lab, Nanyang Technological University（南洋理工大学S实验室） ； Shanghai AI Laboratory（上海人工智能实验室） ； University of Science and Technology of China（中国科学技术大学） ； Stanford University（斯坦福大学） ； Shanghai Innovation Institute（上海创新研究院） ； The Chinese University of Hong Kong（香港中文大学） ； Fudan University（复旦大学） ； CPII under InnoHK（InnoHK下的CPII） ； Adobe Research（Adobe研究）
AI总结 提出AdaGRPO，通过在线课程过滤策略和跨层级优势融合，解决流模型GRPO中提示选择随机和优势估计缺乏全局视角的问题，提升训练稳定性和性能。
Comments Project Website: https://bujiazi.github.io/adagrpo.github.io/
MMBU: 大规模多模态生物医学理解基准，用于探测视觉语言模型的感知能力
机构 * Stanford University（斯坦福大学） ； University of Wisconsin–Madison（威斯康星大学麦迪逊分校） ； Instituto Tecnológico de Monterrey（蒙特雷技术学院） ； Monash University（墨尔本大学） ； University of Cambridge（剑桥大学） ； Shanghai Jiao Tong University（上海交通大学） ； Shandong University（山东大学）
AI总结 提出MMBU基准，涵盖35个子模态，通过分类、定位和检测任务系统评估VLM在生物医学领域的视觉感知和泛化能力，发现高准确率可能掩盖感知缺陷。
语言模型如何失败：承诺性和持续性推理错误的令牌级特征
机构 * Department of Computer Science, Stanford University（计算机科学系，斯坦福大学） ； Department of Aeronautics and Astronautics, Stanford University（航空航天工程系，斯坦福大学）
AI总结 通过令牌级不确定性信号，将语言模型推理失败分为承诺性失败（早期锁定错误路径）和持续性不确定性（不确定性持续累积），并在23个模型-数据集配置中验证了可预测性，为自我一致性策略提供了指导。
机器人需要的不仅仅是VLA和世界模型
机构 * Motoniq.ai ； Stanford University（斯坦福大学） ； Istituto Italiano di Tecnologia（意大利技术研究院） ； ETH Zurich（苏黎世联邦理工学院） ； Technical University of Darmstadt（德累斯顿技术大学） ； UCL Centre for AI（伦敦大学学院人工智能中心）
AI总结 本文认为机器人通用智能的关键瓶颈不仅是策略学习，还缺乏将非结构化行为数据转化为机器人可用监督的机制，并提出了四种缺失的接口组件。
基于结构化步态-语言表示的LLM条件病理步态合成
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学） ； University of Toronto（多伦多大学） ； MIT Media Lab（麻省理工学院媒体实验室）
AI总结 提出一种多模态LLM引导框架，通过结构化文本描述合成病理步态3D数据，利用运动标记化、病理感知语言条件、LLM语义增强和语言到步态生成，改善下游分类性能。
Comments Accepted at CVPR MOMA Workshop 2026 and selected for spotlight presentation at the workshop
CORE: 对比反思实现推理能力的快速提升
机构 * Stanford University（斯坦福大学）
AI总结 提出对比反思（CORE）非参数学习算法，通过对比成功与失败的推理轨迹生成自然语言洞察，在少量样本和 rollout 下实现比参数方法（GRPO）和非参数方法（GEPA、情景RAG、MemRL）更快的推理性能提升。
CountsDiff: 一种用于计数数据生成和插补的自然数扩散模型
机构 * Princeton University（普林斯顿大学） ； Stanford University（斯坦福大学） ； University of California, Berkeley（加州大学伯克利分校）
AI总结 提出CountsDiff扩散框架，通过生存概率调度和显式损失加权简化Blackout扩散，引入连续时间训练、无分类器引导和逆动态，在自然图像和单细胞RNA-seq插补任务中匹配或超越现有方法。
Comments 39 Pages, 11 figures. To appear in the 43rd International Conference on Machine Learning (ICML 2026)
生产环境中的智能体测量
机构 * University of California at Berkeley（加州大学伯克利分校） ； IBM Research（IBM研究院） ； University of Illinois at Urbana-Champaign（伊利诺伊大学厄巴纳-香槟分校） ； Stanford University（斯坦福大学）
AI总结 通过对86个已部署系统的调查和20个案例研究，发现生产环境中的LLM智能体主要采用简单可控的方法，可靠性是首要挑战，并依赖系统级设计和人工评估。
Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026) as Oral Presentation
使用Rashomon分区稳健估计因子数据中的异质性
机构 * Department of Statistics, University of Washington, USA（美国华盛顿大学统计学系） ； Department of Economics, Stanford University, USA（美国斯坦福大学经济学系） ； J-PAL, NBER, USA（美国J-PAL和NBER） ； Department of Sociology, University of Washington, USA（美国华盛顿大学社会学系）
AI总结 提出Rashomon分区集(RPS)贝叶斯框架，通过枚举后验密度接近最大后验模型的所有模型来量化模型不确定性，实现稳健的异质性估计。
ChemQuests: 从ChemRxiv论文中提取的精选化学问答数据库
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学）
AI总结 提出ChemQuests数据集，包含从155篇ChemRxiv论文中提取的952个高质量问答对，覆盖17个化学子领域，用于化学NLP研究。
多目标偏好优化：提升生成模型的人类对齐
机构 * University of California, Berkeley（加州大学伯克利分校） ； Stanford University（斯坦福大学）
AI总结 针对RLHF和偏好优化方法假设单一目标的问题，提出多目标偏好优化框架MOPO，通过约束KL散度最大化主要目标并保障次要目标下限，在合成基准和人类偏好数据上实现帕累托最优策略。
Comments arXiv admin note: text overlap with arXiv:2406.18853 by other authors
分布内与分布外机器遗忘的效用与复杂性
机构 * EPFL（瑞士联邦理工学院） ； Stanford University（斯坦福大学）
AI总结 本文分析近似机器遗忘的效用、时间和空间复杂度权衡，提出输出扰动的经验风险最小化实现分布内遗忘的紧致权衡，并针对分布外遗忘提出鲁棒噪声梯度下降变体以摊销时间复杂性。
扫码添加微信好友，提出您的宝贵建议 👇
💡 备注请填写：网站反馈