On the Benefits of Weight Normalization for Overparameterized Matrix Sensing
关于过参数化矩阵感知中权重归一化的优势
机构 * ETH Zurich(苏黎世联邦理工学院)
AI总结 本文证明在过参数化矩阵感知中,权重归一化结合黎曼优化可实现线性收敛,相比未使用归一化的方法获得指数级加速,且过参数化程度越高,迭代和样本复杂度多项式级降低。
高校专区
关于过参数化矩阵感知中权重归一化的优势
机构 * ETH Zurich(苏黎世联邦理工学院)
AI总结 本文证明在过参数化矩阵感知中,权重归一化结合黎曼优化可实现线性收敛,相比未使用归一化的方法获得指数级加速,且过参数化程度越高,迭代和样本复杂度多项式级降低。