Towards Weaker Variance Assumptions for Stochastic Optimization
面向随机优化的更弱方差假设
机构 * University of British Columbia(不列颠哥伦比亚大学) ; University of Vienna(维也纳大学) ; University of Wisconsin–Madison(威斯康星大学麦迪逊分校)
AI总结 本文重新审视随机梯度算法分析中的经典方差假设,允许随机次梯度平方范数随优化变量平方范数增长,并建立与Halpern迭代的联系,为凸非光滑随机优化提供无界可行集下的最优性度量收敛率。