Pretraining Recurrent Networks without Recurrence
无递归预训练循环网络
机构 * MIT(麻省理工学院)
AI总结 提出监督记忆训练(SMT)方法,通过将循环神经网络训练转化为一步记忆转换标签上的监督学习,实现时间并行训练和稳定梯度路径,优于反向传播通过时间(BPTT)方法。
Comments 30 pages, 23 figures
高校专区
无递归预训练循环网络
机构 * MIT(麻省理工学院)
AI总结 提出监督记忆训练(SMT)方法,通过将循环神经网络训练转化为一步记忆转换标签上的监督学习,实现时间并行训练和稳定梯度路径,优于反向传播通过时间(BPTT)方法。
Comments 30 pages, 23 figures
RAD:面向机器人观测的真实异常检测数据集与基准
机构 * Massachusetts Institute of Technology(麻省理工学院) ; Peking University(北京大学) ; Carnegie Mellon University(卡内基梅隆大学) ; Great Bay University(大湾大学) ; Harvard University(哈佛大学) ; Tsinghua University(清华大学) ; Nanjing University(南京大学) ; Deakin University(德克萨斯大学)
AI总结 提出RAD数据集,包含13类日常物体和4种缺陷,从60多个机器人视角在非受控光照下采集,用于评估2D特征、3D重建和视觉语言模型在姿态无关的异常检测中的表现,发现2D方法优于3D和VLM方法。