Edge of Stability Selectively Shapes Learning Across the Data Distribution
稳定性边缘选择性地塑造数据分布上的学习
机构 * MIT(麻省理工学院)
AI总结 本文发现优化中的稳定性边缘(EoS)具有选择性,通过分支干预因果证明了EoS在训练数据子集间重新分配学习,并识别了受益组需满足的两个条件:梯度与Hessian主特征向量对齐,以及梯度幅度持续非零。
Comments ICML HiLD 2026; 27 pages, 22 figures