Self-supervised local learning rules learn the hidden hierarchical structure of high-dimensional data
自监督局部学习规则学习高维数据的隐藏层次结构
机构 * School of Life Science and School of Computer and Communications Sciences, EPFL(生命科学学院和计算机与通信科学学院,瑞士联邦理工学院) ; Machine Learning Research Unit, TU Wien(机器学习研究单位,维也纳技术大学)
AI总结 本文研究了自监督局部学习规则在随机层次模型上的表现,发现第一类规则因输入特定的非线性(masking)失效,而第二类规则能有效学习层次结构并具备数据效率和生物合理性。