大模型对齐与安全

Non-asymptotic implicit bias of logistic regression at early-stage gradient descent dynamics

早期梯度下降动力学下逻辑回归的非渐近隐式偏置

Han Bao

机构 * The Institute of Statistical Mathematics（统计数理研究所） ； Tohoku University（东北大学） ； RIKEN AIP（理化学研究所人工智能项目） 纠错

专题命中 AI治理与伦理 ：alignment(abstract)；分类 cs.LG

AI总结 本研究揭示早期梯度下降动力学中逻辑回归参数向量与最大间隔方向弱对齐的机制，给出对齐迭代次数的紧上界，为理解训练时长与泛化性能的关联提供理论支撑。