University of California, San Diego（加州大学圣迭戈分校）

Reassessing Muon for Matrix Factorization

重新评估用于矩阵分解的Muon优化器

Ali Parviz, Gal Mishne, Alex Cloninger

机构 * Halicioğlu Data Science Institute, UC San Diego（加州大学圣地亚哥分校哈利西奥卢数据科学研究所） ； Department of Mathematics, UC San Diego（加州大学圣地亚哥分校数学系） 纠错

AI总结 研究在低秩矩阵分解问题上重新评估Muon优化器，通过与精心调整的自适应基线对比，发现Muon在此设置下不始终优于AdamW，一些优势对超参数选择敏感，更细致地展现谱感知正交化何时有益，主张在受控问题上评估优化器。