Distributional Matching for Vector Quantization: A Unified Theoretical and Empirical Framework
用于矢量量化的分布匹配:一个统一的理论和实证框架
机构 * University of Toronto(多伦多大学) ; The Hong Kong University of Science and Technology(香港科技大学) ; Boston College(波士顿学院) ; Lehigh University(里海大学) ; Southern University of Science and Technology(南方科技大学)
AI总结 针对现有矢量量化方法训练不稳定和码本崩溃问题,提出分布匹配框架,通过对齐特征和码向量分布缓解上述问题,经理论分析和实验验证,基于瓦瑟斯坦距离目标实例化该框架,在视觉tokenization基准上表现有效且鲁棒。
Comments 33 pages, 17 figures, and 16 tables. arXiv admin note: substantial text overlap with arXiv:2506.15078