Can Bayesian Optimization Efficiently Find a Strong Single Expert in Neural Thickets?
贝叶斯优化能否在神经丛中高效找到强单专家?
机构 * University College London(伦敦大学学院) ; Institut Polytechnique de Paris(巴黎理工学院) ; University of Oxford(牛津大学)
AI总结 本文探究在适度评估预算下,贝叶斯优化能否在神经丛中高效找到强单专家,提出在权重空间随机线性嵌入中应用贝叶斯优化的无梯度方法,在Qwen2.5-Instruct模型基准测试中,该方法评估成本更低且性能优于随机优化。