Understanding and inverse design of implicit bias in stochastic learning: a geometric perspective
隐式偏置的理解与逆向设计:从几何视角出发
机构 * Department of Mathematics, Informatics and Geoscience, University of Trieste(的里雅斯特大学数学、信息学与地球科学系) ; Area Science Park(科学园区) ; McGovern Institute, MIT(麻省理工学院麦戈文研究所)
AI总结 本文从几何视角探讨了随机学习中隐式偏置的形成机制,提出了一种理论框架,通过梯度噪声与损失连续对称性的相互作用解释隐式偏置,并展示了如何通过参数化设计实现逆向设计,验证了稀疏性和谱稀疏性等特性。
Comments v2