Harvard University（哈佛大学）

Score Broadcast and Decorrelation: A General Framework for Broadcast-Based Credit Assignment

分数广播与去相关：基于广播的信用分配通用框架

Mustafa Uzun, Mete Erdogan, Cengiz Pehlevan, Alper T. Erdogan

机构 * KUIS AI Center, Koc University, Turkey（科克大学KUIS人工智能中心，土耳其） ； Electrical and Electronics Engineering, Koc University, Turkey（科克大学电子与电气工程系，土耳其） ； Department of Electrical Engineering, Stanford University, USA（斯坦福大学电气工程系，美国） ； John A. Paulson School of Engineering & Applied Sciences, Harvard University, USA（哈佛大学约翰·A·保罗森工程与应用科学学院，美国） ； Kempner Institute, Harvard University, USA（哈佛大学凯姆纳研究所，美国） ； Center for Brain Science, Harvard University, USA（哈佛大学脑科学中心，美国） 纠错

AI总结 提出分数广播与去相关（SBD）框架，通过输出分数与隐藏层激活的正交性原理，统一了多种可微损失函数下的广播式信用分配，并理论支撑了三因子学习规则。

Cost-Aware Learning

成本感知学习

Clara Mohri, Amir Globerson, Haim Kaplan, Tomer Koren, Yishay Mansour

机构 * Kempner Institute（凯姆纳研究所） ； Harvard University（哈佛大学） ； Google Research（谷歌研究） ； Tel Aviv University（特拉维夫大学） 纠错

AI总结 针对有限和优化中不同组件采样成本不同的问题，提出基于梯度范数和成本的采样分布算法Cost-Aware SGD，并应用于语言模型强化学习，显著降低策略优化中的token使用量。

World Action Verifier: Self-Improving World Models via Forward-Inverse Asymmetry

World Action Verifier: 通过前向-反向不对称性自我改进世界模型

Yuejiang Liu, Fan Feng, Lingjing Kong, Weifeng Lu, Jinzhou Tang, Kun Zhang, Kevin Murphy, Chelsea Finn, Yilun Du

机构 * Stanford University（斯坦福大学） ； UC San Diego（加州大学圣地亚哥分校） ； Carnegie Mellon University（卡内基梅隆大学） ； Google DeepMind（谷歌DeepMind） ； Harvard University（哈佛大学） 纠错

AI总结 提出World Action Verifier (WAV)框架，利用状态合理性和动作可达性的独立验证以及前向-反向不对称性，通过视频语料库的多样子目标生成器和稀疏逆模型实现循环一致性，从而在欠探索区域自我改进世界模型，在多个任务中样本效率提升2倍且下游策略性能提升22%以上。

Comments Project Website: https://world-action-verifier.github.io

Weight Decay Improves Language Model Plasticity

权重衰减提升语言模型可塑性

Tessa Han, Sebastian Bordt, Hanlin Zhang, Sham Kakade

机构 * Broad Institute, Schmidt Center（Broad研究所，Schmidt中心） ； University of Tübingen, Tübingen AI Center（图宾根大学，图宾根人工智能中心） ； Harvard University（哈佛大学） 纠错

AI总结 本文通过系统实验表明，预训练中较大的权重衰减能提高模型的可塑性，使微调后下游性能更优，并揭示了其促进线性可分表示、正则化注意力矩阵和减少过拟合的机制。

ParisKV: Fast and Drift-Robust KV-Cache Retrieval for Long-Context LLMs

ParisKV：面向长上下文LLM的快速且漂移鲁棒的KV缓存检索

Yanlin Qi, Xinhang Chen, Huiqiang Jiang, Qitong Wang, Botao Peng, Themis Palpanas

机构 * Xi'an Jiaotong University, Xi'an, China（西安交通大学） ； Qwen Team, Alibaba Group, China（通义实验室） ； Harvard University, Cambridge, MA, USA（哈佛大学） ； Institute of Computing Technology, Chinese Academy of Sciences, Beijing, China（中国科学院计算技术研究所） 纠错

AI总结 提出基于碰撞候选选择和量化内积重排序的GPU原生KV缓存检索框架ParisKV，在百万token上下文中实现低延迟、高吞吐且分布漂移鲁棒的检索，性能优于或持平全注意力。

Comments Accepted to the 43rd International Conference on Machine Learning (ICML 2026)

Who Gets Credit or Blame? Attributing Accountability in Modern AI Systems

谁获得功劳或责备？在现代AI系统中分配责任

Shichang Zhang, Hongzhe Du, Jiaqi W. Ma, Himabindu Lakkaraju

机构 * Harvard University, Cambridge, MA, USA（哈佛大学） ； University of California, Los Angeles, Los Angeles, CA, USA（加州大学洛杉矶分校） ； University of Illinois Urbana-Champaign, Urbana-Champaign, IL, USA（伊利诺伊大学厄巴纳-香槟分校） 纠错

AI总结 提出一个归因框架，通过反事实问题量化模型开发各阶段（预训练、微调等）对最终行为的影响，并设计无需重训练的估计器，成功识别并移除多阶段任务中的虚假关联。

Flow Equivariant World Models: Memory for Partially Observed Dynamic Environments

流等变世界模型：部分观测动态环境的记忆

Hansen Jin Lillemark, Benhao Huang, Fangneng Zhan, Yilun Du, Thomas Anderson Keller

机构 * Kempner Institute, Harvard University（哈佛大学 Kempner 研究所） ； ML, Carnegie Mellon University（卡内基梅隆大学 ML 研究所） ； SEAS, Harvard University（哈佛大学 SEAS 研究所） 纠错

AI总结 提出流等变世界建模框架，利用时间参数化对称性在潜在记忆中实现长时程稳定准确的动力学预测，解决部分观测问题。

Comments Accepted at ICML 2026