图像生成

DiVeQ: Differentiable Vector Quantization Using the Reparameterization Trick

DiVeQ: 使用重参数化技巧的可微分向量量化

Mohammad Hassan Vali, Tom Bäckström, Arno Solin

机构 * ELLIS Institute Finland & Department of Computer Science, Aalto University, Finland（芬兰ELLIS研究所及阿尔托大学计算机科学系） ； Department of Information and Communications Engineering, Aalto University, Finland（芬兰阿尔托大学信息与通信工程系） 纠错

专题命中 效率与蒸馏 ：image generation(abstract)

AI总结 提出DiVeQ方法，通过重参数化技巧将量化视为添加模拟量化失真的误差向量，实现前向传播硬量化而梯度可流动，并引入空间填充变体SF-DiVeQ减少量化误差并充分利用码本，在VQ-VAE、VQGAN和DAC任务中提升重建质量和样本质量。