Teacher-Feature Drifting: One-Step Diffusion Distillation with Pretrained Diffusion Representations
教师特征漂移:基于预训练扩散表示的一步扩散蒸馏
机构 * JD Explore Academy(京东探索研究院) ; Peking University(北京大学) ; Tsinghua University(清华大学) ; The Hong Kong University of Science and Technology(香港科技大学) ; Beijing Institute of Technology(北京理工大学)
专题命中 效率与蒸馏 :diffusion(title,abstract);分类 cs.CV
AI总结 本文提出通过单步扩散蒸馏简化模型,利用预训练扩散教师自身的特征空间,无需额外网络即可实现语义特征几何的漂移,同时引入轻量模式覆盖损失以提升生成质量和多样性。