D-OPSD: On-Policy Self-Distillation for Continuously Tuning Step-Distilled Diffusion Models
D-OPSD:用于连续调优步蒸馏扩散模型的在线自蒸馏方法
机构 * The Hong Kong University of Science and Technology(香港科技大学) ; Z-Image Team, Alibaba Group(阿里集团Z-Image团队) ; University of California, San Diego(加州大学圣地亚哥分校) ; The Chinese University of Hong Kong(香港中文大学)
专题命中 多模态生成 :multimodal(abstract);分类 cs.CV
AI总结 提出D-OPSD,一种在线自蒸馏训练范式,使步蒸馏扩散模型在监督微调中保持少步推理能力,通过让模型同时作为教师和学生,利用不同上下文条件(学生仅文本特征,教师多模态特征)最小化预测分布,学习新概念和风格而不牺牲原有少步能力。
Comments Project Page: https://vvvvvjdy.github.io/d-opsd/