Multi-Teacher Contrastive Distillation for Edge-Efficient Pathology Foundation Models
用于边缘高效病理学基础模型的多教师对比蒸馏
机构 * EKFZ for Digital Health(数字健康EKFZ) ; TU Dresden(德累斯顿工业大学) ; University of Augsburg(奥格斯堡大学) ; Bavarian Cancer Research Center (BZKF)(巴伐利亚癌症研究中心) ; Department of Medicine I, TU Dresden(德累斯顿工业大学第一医学院) ; NCT Heidelberg(海德堡NCT) ; University of Leeds(利兹大学)
专题命中 病理影像 :pathology(title,abstract);分类 cs.CV
AI总结 研究针对计算病理学基础模型本地部署难题,提出MuCoDi预训练框架,通过多教师对比蒸馏,将多个PFMs的切片嵌入蒸馏到轻量级编码器,经实验验证该方法能大幅减小模型大小并保持性能,推动病理学表示向边缘部署发展。