World Model Self-Distillation: Training World Models to Solve General Tasks
世界模型自蒸馏:训练世界模型以解决通用任务
机构 * Department of Computer Science(计算机科学系)
专题命中 效率与蒸馏 :diffusion(abstract);分类 cs.CV
AI总结 提出结合自蒸馏与强化学习的框架,从预训练视频生成器中提取任务解决能力,无需配对任务视频,在基准测试中超越原始模型。
视觉与机器人
图像生成、文生图、图像编辑、扩散模型和可控生成。
世界模型自蒸馏:训练世界模型以解决通用任务
机构 * Department of Computer Science(计算机科学系)
专题命中 效率与蒸馏 :diffusion(abstract);分类 cs.CV
AI总结 提出结合自蒸馏与强化学习的框架,从预训练视频生成器中提取任务解决能力,无需配对任务视频,在基准测试中超越原始模型。
NSVQ: 通过稳定向量量化中的编码器漂移缓解码本崩溃
机构 * Wake Forest University School of Medicine(维克森林大学医学院) ; Advocate Health(倡导健康)
专题命中 效率与蒸馏 :diffusion(abstract);分类 cs.CV
AI总结 提出NSVQ训练策略,通过非平稳嵌入损失、码本替换和分阶段编码器冻结,缓解大码本VQ中的码本崩溃,在ImageNet-1k上提升重建质量并保持100%码本利用率。
K-Forcing:通过前推语言建模进行联合下一K词解码
机构 * DAMO Academy, Alibaba Group(阿里巴巴达摩院) ; Hupan Lab(湖畔实验室) ; Zhejiang University(浙江大学) ; The Hong Kong University of Science and Technology(香港科技大学)
专题命中 效率与蒸馏 :diffusion(abstract)
AI总结 提出K-Forcing范式,通过前推映射将自回归模型蒸馏为单次前向传播生成多个未来词,实现2.4-3.5倍加速,质量损失小。
Comments Code: https://github.com/alibaba-damo-academy/K-Forcing
具有小初始加速度的聚合物流体-结构相互作用的强解
专题命中 效率与蒸馏 :diffusion(abstract)
AI总结 针对三维-三维-二维耦合的溶质-溶剂-结构三态系统,通过解耦和不动点论证构造了强解的唯一高阶正则性,并证明了移动域上Stokes问题的最大正则性结果。