Maglev: Sliding Recurrent Memory
Maglev:滑动循环记忆
机构 * The University of Texas at Austin(德克萨斯大学奥斯汀分校)
AI总结 本文提出Maglev,一种带固定记忆的循环Transformer架构,通过耦合模型与记忆一致性损失实现训练可并行性,在验证损失及下游预训练基准上优于基线,参数共享可减少内存。
Comments Neural Architecture Research
高校专区
Maglev:滑动循环记忆
机构 * The University of Texas at Austin(德克萨斯大学奥斯汀分校)
AI总结 本文提出Maglev,一种带固定记忆的循环Transformer架构,通过耦合模型与记忆一致性损失实现训练可并行性,在验证损失及下游预训练基准上优于基线,参数共享可减少内存。
Comments Neural Architecture Research
SimFoundry: 用于策略学习和评估的模块化自动化场景生成
机构 * NVIDIA ; Georgia Institute of Technology(佐治亚理工学院) ; Stanford University(斯坦福大学) ; The University of Texas at Austin(德克萨斯大学奥斯汀分校) ; University of Toronto(多伦多大学)
AI总结 提出SimFoundry系统,从视频零样本构建仿真场景,支持对象、场景和任务编辑,生成数字孪生与数字表亲,提升策略在真实世界的泛化能力,实验显示仿真评估与真实性能高度相关。
并非真正的多语言:脚本一致性作为VLM评估中缺失的维度
机构 * RediMinds Inc.(RediMinds公司) ; The University of Texas at Austin(德克萨斯大学奥斯汀分校) ; Independent Researcher(独立研究员)
AI总结 提出PuMVR基准,评估10个VLM在旁遮普语三种文字上的表现,发现显著的脚本差距,并提出脚本一致性率(SCR)作为必要评估指标。
具有异构人工筛选的自消耗生成模型的收敛性与稳定性分析
机构 * School of Statistics, University of Minnesota(明尼苏达大学统计学系) ; Department of Statistics and Data Sciences, UT Austin(德克萨斯大学奥斯汀分校统计学与数据科学系)
AI总结 本文针对Ferbach等人(2024)提出的自消耗生成模型,研究其异构偏好推广模型的收敛性与稳定性,采用非线性Perron-Frobenius理论等技术,在Banach压缩映射不适用的场景下获得了新的收敛结果。
Comments 42 pages, 2 tables