OrbitQuant: Data-Agnostic Quantization for Image and Video Diffusion Transformers
OrbitQuant: 图像和视频扩散Transformer的数据无关量化
机构 * Cantina Labs(Cantina实验室) ; University of Southern California(南加州大学) ; University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
AI总结 提出数据无关量化方法OrbitQuant,通过归一化旋转基和Lloyd-Max码本,无需校准数据即可对扩散Transformer的权重和激活进行低比特量化,在多个模型和模态上达到最优。