The Rules-and-Facts Model for Simultaneous Generalization and Memorization in Neural Networks
规则与事实模型:神经网络中同时泛化与记忆的规则
机构 * Statistical Physics of Computation Laboratory, École Polytechnique Fédérale de Lausanne (EPFL)(洛桑联邦理工学院统计物理与计算实验室)
AI总结 本文提出规则与事实模型,通过结合泛化和记忆的理论框架,探讨神经网络如何同时学习规则和记忆事实,分析过参数化对两者平衡的影响。