Bayesian Inference with Shaped Deep Non-linear MLPs
具有形状深度非线性MLP的贝叶斯推断
机构 * Princeton University(普林斯顿大学)
AI总结 本文通过神经协方差SDE分析深度非线性MLP在训练样本数、输入维数、隐藏层宽度和层数均较大时的贝叶斯推断,发现LP/N的一阶准则决定深度对模型证据的益处,并推导出贝叶斯预测后验等价于数据相关核方法。
Comments 35 Pages
高校专区
具有形状深度非线性MLP的贝叶斯推断
机构 * Princeton University(普林斯顿大学)
AI总结 本文通过神经协方差SDE分析深度非线性MLP在训练样本数、输入维数、隐藏层宽度和层数均较大时的贝叶斯推断,发现LP/N的一阶准则决定深度对模型证据的益处,并推导出贝叶斯预测后验等价于数据相关核方法。
Comments 35 Pages
通过控制学习感知世界:基于赋能的表示学习
机构 * Princeton University, USA(普林斯顿大学,美国)
AI总结 本文通过最大化赋能目标,研究如何学习仅捕捉环境控制相关特征的表示,并证明赋能代理诱导的前向和后向表示对控制无关特征具有不变性。
VLM3:视觉语言模型是原生3D学习者
机构 * Meta ; Princeton University(普林斯顿大学)
AI总结 本文提出VLM3,通过焦距统一、文本像素参考和数据混合缩放,使标准视觉语言模型无需复杂架构或损失函数即可高效掌握多种3D任务。
NumLeak: 基础模型中的公开数值基准作为潜在标签
机构 * Princeton University(普林斯顿大学)
AI总结 提出NumLeak框架,通过API边界探测和开源因果模型的白盒验证,揭示基础模型在预训练中记忆公开数值基准,导致评估高估泛化能力。
Comments 23 pages, 12 figures, 17 tables. Accepted at the ICML 2026 Workshop on the Impact of Memorization on Trustworthy Foundation Models (MemFM)