University of Toronto（多伦多大学）

SingularClip: Preventing Spectral Collapse to Maintain Plasticity in Continual and Reinforcement Learning

SingularClip：防止谱崩溃以在持续学习和强化学习中保持可塑性

Tyler Kastner, Nimrod De La Vega, Amir-massoud Farahmand

机构 * University of Toronto（多伦多大学） ； Vector Institute（向量研究所） ； Mila（米拉研究所） ； Polytechnique Montréal（蒙特利尔理工学院） 纠错

AI总结 SingularClip是一种定期裁剪权重矩阵奇异值的方法，可缓解训练中因奇异值各向异性增长导致的神经网络可塑性丧失问题，在两类学习任务上性能优于基线。

Bidirectional representational alignment between biological and artificial neural networks

生物神经网络与人工神经网络间的双向表征对齐

Samuel Kostousov, Abhinn Kaushik, Brokoslaw Laschowski

机构 * University of Toronto（多伦多大学） ； KITE Research Institute（KITE研究所） ； University Health Network（大学健康网络） 纠错

AI总结 该研究针对生物与人工神经网络表征对齐的不对称问题，开发整合谱正则化与双向预测性分析的计算框架，调控表征几何使双向预测性获55%相对提升，证明可通过调控表征几何调节双向对齐。

Pre-Training for Simulation-Based Science: A Study on Jet Foundation Model Training Objectives

基于模拟的科学预训练：喷注基础模型训练目标研究

Ibrahim Elsharkawy, Joschka Birk, Vinicius Mikuni, Wahid Bhimji, Gregor Kasieczka, Benjamin Nachman

机构 * Department of Physics, University of Toronto and Vector Institute（物理系，多伦多大学和向量研究所） ； NERSC, Lawrence Berkeley National Laboratory（NERSC，伯克利国家实验室） ； Institut für Experimentalphysik, Universität Hamburg（实验物理研究所，汉堡大学） ； Nagoya University, Kobayashi-Maskawa Institute（名古屋大学，小林昭夫研究所） ； Department of Particle Physics and Astrophysics, Stanford University（粒子物理与天体物理系，斯坦福大学） ； Fundamental Physics Directorate, SLAC National Accelerator Laboratory（基础物理局，SLAC国家加速器实验室） 纠错

AI总结 本文系统比较了高能物理中基础模型的预训练方法，发现纯分类预训练在标签充足时最优，结合自监督掩码粒子建模在低标签场景下表现突出，而流匹配生成预训练对下游分类无益，但必须包含在预训练目标中才能提升生成任务。