CUPID in the Model Zoo: Online Matchmaking for Selecting Your Dream LLM
模型动物园中的丘比特:在线匹配以选择你的梦想大语言模型
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出一种基于决斗老虎机算法的主动学习框架,通过迭代选择大语言模型对并收集用户反馈,高效匹配用户偏好与模型能力。
Comments 38 pages, 11 figures
高校专区
模型动物园中的丘比特:在线匹配以选择你的梦想大语言模型
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出一种基于决斗老虎机算法的主动学习框架,通过迭代选择大语言模型对并收集用户反馈,高效匹配用户偏好与模型能力。
Comments 38 pages, 11 figures
晶体性质预测的潜在扩散预训练
机构 * University of California, Berkeley(加州大学伯克利分校) ; Indian Institute of Technology, Bombay(印度班加罗尔印度理工学院)
AI总结 提出基于潜在扩散的预训练框架CrysLDNet,结合变分自编码器和扩散模型,从无标注晶体结构中学习表示,微调后显著提升性质预测性能。
Comments Published in ICML 2026
DistMatch: 通过分布匹配的自适应分箱用于鲁棒序列共形预测
机构 * University of California, Berkeley(加州大学伯克利分校) ; University of Tokyo(东京大学)
AI总结 提出DistMatch方法,利用Kolmogorov-Smirnov统计量递归划分残差以实现近似可交换性,结合在线分位数回归进行局部自适应推理,提升序列共形预测对分布偏移的鲁棒性。
Comments ICML 2026 (34 pages, 12 figures, 16 tables)
隐藏的思考并非秘密:大型语言模型中的推理痕迹暴露
机构 * National Yang Ming Chiao Tung University(国家阳明交通大学) ; UC Berkeley(伯克利大学)
AI总结 本文提出推理暴露提示(REP)方法,通过影子模型生成的示范以辅助代码格式包装,从受害者模型中引出用户可见的推理痕迹,显著提高暴露痕迹与内部痕迹的相似性并保留有用推理信号。
学习用于训练数据选择的元网络的困难性
机构 * University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学)
AI总结 针对元学习训练数据选择(MTS)在实践中表现不佳的问题,本文通过数学分析揭示了梯度信噪比低和缺乏信息特征两大障碍,并提出增大批大小和利用信息特征作为解决方案。
面向视觉-语言推理的分解式在策略蒸馏:引导梯度实现视觉定位
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 通过将视觉-语言模型蒸馏损失分解为语言先验和视觉定位两个正交分量,提出视觉梯度引导(VGS)方法动态调整更新方向以优先优化视觉子空间,从而提升小模型在复杂多模态任务中的定位能力。
Comments ICML 2026 Spotlight
大规模神经相位分析的环面图模型
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出一种随机得分匹配方法,将环面图模型的计算复杂度从O(d^6)降至O(d^2),使其能处理数千变量,并扩展至隐马尔可夫模型和自回归模型,用于分析脑状态依赖的相位耦合和方向性交互。
Comments 23 pages, 15 figures; to be published in ICML 2026
文本编辑能否泛化到视觉生成?统一多模态模型中的跨模态知识编辑基准
机构 * University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学) ; University of Toronto(多伦多大学) ; University of Washington(华盛顿大学)
AI总结 提出跨模态知识编辑基准UniKE,发现文本编辑在图像生成中效果显著下降(VQA准确率仅18.5%),并提出推理增强参数编辑方法提升跨模态迁移效果。
Comments Published at ICML 2026; Code and data available at https://github.com/gxx27/UniKE
弱批评者造就强学习者:用于可扩展监督的在策略批评蒸馏
机构 * University of Cambridge(剑桥大学) ; University of California, Berkeley(加州大学伯克利分校) ; UC Berkeley AI Lab(加州大学伯克利分校人工智能实验室)
AI总结 提出在策略批评蒸馏(OPCD)方法,利用弱模型作为批评者提供修订方向,通过自适应自教师信号蒸馏批评引导的行为,提升强模型在推理和对齐基准上的表现。
掩盖过时观察帮助搜索智能体——直到适得其反:一个机制图谱及其机制
机构 * UC San Diego(加州大学圣地亚哥分校) ; UC Berkeley(加州大学伯克利分校) ; Texas A&M University(德克萨斯大学) ; UIUC(伊利诺伊大学厄巴纳-香槟分校)
AI总结 本文通过系统实验发现,在长时域搜索智能体中掩盖过时观察的效果呈现非对称倒U型曲线,取决于检索器召回率与模型隐式过滤能力的交互,并揭示了其背后的令牌-轮次权衡机制。
Comments 47 pages, 7 figures
Zamba2-VL 技术报告
机构 * University of California, Berkeley(加州大学伯克利分校) ; University of Cambridge(剑桥大学) ; University of Washington(华盛顿大学) ; University of Toronto(多伦多大学)
AI总结 提出基于混合架构Zamba2的视觉语言模型Zamba2-VL,在图像理解等基准上媲美Transformer模型,且首次令牌延迟降低约一个数量级。
Comments 16 pages, 2 figures
从噪声到控制:参数化扩散策略
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出参数化扩散策略(PDP),通过学习行为流形上的低维连续参数条件化扩散策略,将扩散从随机多样性机制转化为精确可优化的行为引导工具,实现策略间的平滑插值和新约束下的高效适应。
聊天机器人假设了哪些制度框架?审计多语言大语言模型中的司法默认值
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 研究多语言大语言模型在未指定司法管辖区时,是否将输入语言作为默认司法信号,通过审计7个模型在60个提示上的2520个响应,发现中文输入更常产生中国特定答案,英文输入更常产生美国特定答案,揭示了制度框架误选风险。
通过Rockafellar-Uryasev共形推断的条件风险价值对抗鲁棒控制
机构 * University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学)
AI总结 提出一种在线无分布框架,通过结合共形尾风险控制、在线学习和CVaR的变分表示,在非平稳和对抗环境下实现对条件风险价值(CVaR)的鲁棒控制,并提供渐近保证。
使用随机梯度马尔可夫链蒙特卡洛进行精确的大样本不确定性量化
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 针对大批量或模型误设下随机梯度下降和随机梯度Langevin动力学调参困难的问题,提出新的离散时间近似方法,实现稳态协方差、迭代平均协方差和积分自相关时间的精确预测,并给出非渐近误差界。
Journal ref Proceedings of the 43rd International Conference on Machine Learning, Seoul, South Korea. PMLR 306, 2026
分组误差而非总MSE:微调视觉-语言-动作模型用于11自由度移动操作
机构 * University of California, Berkeley(加州大学伯克利分校) ; ETH Zurich(苏黎世联邦理工学院)
AI总结 针对异构关节空间的移动操作器微调视觉-语言-动作模型时,发现总MSE最低的检查点并非实际表现最佳,提出以分组误差作为更可靠的检查点选择指标。
Comments 4 pages, 3 figures, 3 tables. Accepted as poster at ICRA 2026 Workshop "From Data to Decisions: VLA Pipelines for Real Robots". Code: [https://github.com/paumontagut/per-group-mse-vla](https://github.com/paumontagut/per-group-mse-vla)
用于去噪高维结构化表示的测地流匹配
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 针对向量符号代数中空间语义指针的流形约束问题,提出测地流匹配方法,将去噪流限制在环面上,在脉冲神经SLAM系统中实现72%的跟踪误差降低和40%的神经效率提升。
Comments ICML 2026 Main track
全面的人工智能治理需要解决非模型增益问题
机构 * Stanford University(斯坦福大学) ; UC Berkeley(加州大学伯克利分校) ; Open Philanthropy(开放哲学基金会)
AI总结 本文提出非模型增益的概念,包括推理增益、系统增益和资产增益,并论证这些增益会削弱以模型为中心的治理有效性,进而提出超越模型层面的治理方法。
Comments This paper has been accepted to ICML 2026 (Position paper track): https://openreview.net/forum?id=V3O1sHpKxX
语言模型如何处理否定
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 研究大型语言模型处理否定的内部机制,发现模型内部存在正确处理的组件,但后期注意力层导致错误,通过消融可提升准确率;模型同时采用抑制和构建两种机制,其中构建机制更显著。
Comments ICML 2026
超越加性分解:通过可分离性实现可解释性
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出张量分离学习(TSL)回归模型,通过阶段式贪心过程与正交重拟合学习单变量特征函数的秩1乘积之和,避免加性分解中的信号抵消和外推问题,实现忠实于拟合分量的可视化,并提供近似率保证。
Comments To appear in Proceedings of the 43rd International Conference on Machine Learning (ICML 2026)
TIMEGATE: 资源约束下可持续的限时促销门控用于持续ML适应
机构 * University of California, Berkeley(加州大学伯克利分校) ; University of Washington(华盛顿大学)
AI总结 提出TIMEGATE策略层,通过预算时间、标注、训练和评估来管理持续ML适应,实现评估计算节省且无静默错误促销。
揭秘可合并性:预测模型合并成功的可解释属性
机构 * University of California, Berkeley(加州大学伯克利分校) ; Stanford University(斯坦福大学)
AI总结 通过架构无关框架和L1正则化线性优化,发现合并成功取决于合并方法和伙伴任务,梯度对齐是最基本的兼容性信号。
Comments 9 pages of main paper, 3 figures in the main paper, 4 tables in the main paper, many more figures and tables in the appendix
状态条件对抗学习:一种用于端到端模仿学习的离策略视觉域迁移方法
机构 * University of California, Berkeley, CA, USA(加州大学伯克利分校)
AI总结 针对目标域数据严格离策略、无专家且稀缺的挑战,提出状态条件对抗学习(SCAL),通过状态条件潜在KL散度的判别器估计对齐分布,实现鲁棒的视觉域迁移。
面向数据敏感检索增强生成的隐私策略执行护栏
机构 * University of California, Berkeley(加州大学伯克利分校) ; University of Washington(华盛顿大学) ; University of Toronto(多伦多大学) ; University of Texas at Austin(德克萨斯大学奥斯汀分校) ; University of California, Los Angeles(加州大学洛杉矶分校)
AI总结 针对RAG系统中上下文数据泄露问题,提出基于双单类密度估计器与融合文本嵌入的隐私策略执行框架,在医学、金融和法律领域实现高AUROC和低误报率。
通过Hodge分解保持拓扑的神经算子学习
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 本文从函数空间视角研究几何网格上物理场方程的解算子,利用Hodge正交性分离不可学习的拓扑自由度与可学习的几何动力学,提出基于Hodge谱对偶的混合欧拉-拉格朗日架构,在保持物理不变量的同时提升几何图上的精度与效率。
Comments Accepted at ICML 2026. Code available at https://github.com/ContinuumCoder/Hodge-Spectral-Duality
走向因果效应识别中选择偏差的整体理解
机构 * Carnegie Mellon University(卡内基梅隆大学) ; University of California, Berkeley(加州大学伯克利分校)
AI总结 研究在观测研究中存在选择偏差时,如何利用弱假设刻画倾向得分和选择概率,给出平均处理效应可识别性的充要条件,扩展了现有图形识别准则。
Comments 9 pages for the main text, ICML 2026
探索和利用潜流匹配中的稳定性
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 本文证明潜流匹配模型对数据缩减和模型容量收缩具有鲁棒性,并利用这种稳定性提出更高效的训练和推理算法,包括数据节省和超过两倍的推理加速。
Comments Accepted at ICML 2026
旋转的特殊酉参数化估计器
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 本文通过特殊酉矩阵重新审视旋转估计问题,提出两种新的连续表示用于神经网络中的旋转学习,并通过实验验证其有效性。
Comments Published at ICLR 2026; clarified paper contribution and theoretical narrative; 33 pages
Journal ref Proceedings of the International Conference on Learning Representations (ICLR 2026)
一致性扩散语言模型
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出多路径离散一致性(MPDC)原则,通过训练去噪器在随机桥上的路径不变性,实现单阶段训练的一致性扩散语言模型(CDLM),在文本生成中达到最先进性能。
Comments ICML 2026
非凸等式和不等式约束下的高效扩散模型 via Landing
机构 * University of California, Berkeley(加州大学伯克利分校)
AI总结 提出一个统一框架,通过计算高效的landing机制替代投影,结合欠阻尼动力学加速混合,在非凸可行集上实现等式和不等式约束下的扩散模型,显著降低计算成本。
Comments 58 pages