Gradient Regularized Newton Boosting Trees with Global Convergence
具有全局收敛性的梯度正则化牛顿提升树
机构 * Department of Mathematics, Imperial College London, UK(帝国理工学院伦敦数学系) ; School of Computer Science, University of St. Gallen, Switzerland(圣加尔登大学计算机科学学院) ; Department of Mathematics, Stockholm University, Sweden(斯德哥尔摩大学数学系)
AI总结 本文提出受限牛顿下降法,通过研究在希尔伯特空间上使用牛顿法进行凸优化,证明了牛顿提升在满足Hessian主导条件的光滑强凸损失下的线性收敛率,并通过引入适应性ℓ2正则化项实现对一般凸损失的全局收敛。