Yoshua Bengio

Equilibrated adaptive learning rates for non-convex optimization

非凸优化中的平衡自适应学习率

Yann N. Dauphin, Harm de Vries, Yoshua Bengio

AI总结 本文提出ESGD算法，通过平衡预条件器改进非凸优化中的自适应学习率，实验显示其收敛速度优于RMSProp。