Breaking the Geometric Bottleneck: Contrastive Expansion in Asymmetric Cross-Modal Distillation
突破几何瓶颈:不对称跨模态蒸馏中的对比扩展
专题命中 跨模态检索 :cross-modal(title);分类 cs.CV
AI总结 本研究通过对比扩展方法解决不对称跨模态蒸馏中的维度坍缩问题,揭示了容量与密度之间的权衡关系。
Comments Introduced auxiliary InfoNCE objective to reverse dimensional collapse. Expanded experiments to DINOv2 teacher and CIFAR-100 dataset. 3 pages, 3 figures, 2 tables