Geometry-Aware Distillation for Prompt Tuning Biomedical Vision-Language Models
几何感知蒸馏用于提示调优生物医学视觉-语言模型
机构 * Department of Machine Learning(机器学习系) ; Mohamed bin Zayed University of Artificial Intelligence(Mohamed bin Zayed人工智能大学)
专题命中 医疗多模态 :biomedical(title);分类 cs.CV、cs.LG
AI总结 提出Omni-Geometry知识蒸馏(OGKD)框架,通过注入类别关系结构到教师模型,生成保留真实标签同时尊重类间几何的方向性目标,并设计全局几何感知蒸馏(GAD)和标签引导几何蒸馏(LGD)损失,在11个医学数据集上平均提升准确率1.7%-2.8%。
Comments Preprint. Code is available at https://github.com/tientrandinh/OGKD