Do We Really Need Permutations? Impact of Model Width on Linear Mode Connectivity
我们真的需要排列吗?模型宽度对线性模式连接的影响
机构 * Tohoku University(东大理工大学) ; NTT DOCOMO, INC.(NTT DOCOMO公司) ; NTT Computer and Data Science Laboratories(NTT计算机与数据科学实验室)
AI总结 本研究发现,通过扩大模型宽度并使用合适的softmax温度校准,无需排列即可实现线性模式连接。
Comments Accepted to the Fourteenth International Conference on Learning Representations (ICLR 2026). OpenReview: https://openreview.net/forum?id=ll8GLAic7q