Gradient Span Algorithms Make Predictable Progress in High Dimension
梯度跨度算法在高维中取得可预测进展
AI总结 研究梯度跨度算法在高维中的渐近确定性行为,此行为是随机二次函数和自旋玻璃类似结果的泛化,能解释机器学习模型训练的反直觉现象,自动机器学习社区借此避免超参数多次重试。
Journal ref Journal of Machine Learning Research 27, no. 121 (2026): 1-62. https://jmlr.org/papers/v27/25-1651.html