Omni-Diffusion: Unified Multimodal Understanding and Generation with Masked Discrete Diffusion
全模态扩散:基于掩码离散扩散的统一多模态理解与生成
机构 * Nanjing University(南京大学) ; Tencent Youtu Lab(腾讯云科技实验室) ; CASIA(中国科学院自动化研究所)
AI总结 受离散扩散模型在多领域成功应用启发,提出全模态扩散模型,基于掩码离散扩散模型构建,统一文本、语音和图像的理解与生成,用统一模型直接捕捉离散多模态令牌联合分布,性能优于现有多模态系统。
Comments Accepted to ICML 2026. This version updates the ICML submission with an optimized model checkpoint. Project page: https://omni-diffusion.github.io