Optimizing the Preconditioner: A Black-box Online-to-Nonconvex Conversion with Static Regret Minimization Oracles
优化预处理器:一种具有静态遗憾最小化预言机的黑盒在线到非凸转换
机构 * Center for Computational Science and Engineering, MIT(麻省理工学院计算科学与工程中心) ; Department of Civil and Environmental Engineering, MIT(麻省理工学院土木与环境工程系) ; Institute for Data, Systems, and Society, MIT(麻省理工学院数据、系统与社会研究所)
AI总结 研究随机非凸优化能否黑盒简化为在线凸优化的静态遗憾最小化,提出维护梯度跟踪器并由在线学习器选预处理器的方法,对光滑和非光滑非凸目标均适用,解决了相关开放问题,还为理解自适应优化方法提供新视角。