CADRE: Stable, Parameter Efficient Adaptation of Medical Vision Language Models with Bounded Forgetting and Prior Drift
CADRE:具有有界遗忘和先验漂移的稳定、参数高效的医学视觉语言模型适应
机构 * Mindriser's Consortium, Kathmandu, Nepal(Mindriser's 联盟,加德满都,尼泊尔) ; University of Victoria, BC, Canada(维多利亚大学,不列颠哥伦比亚省,加拿大)
专题命中 效率与部署 :language model(title,abstract);分类 cs.AI
AI总结 提出CADRE框架,通过结合低秩适应与弹性权重巩固及先验锚定惩罚,在仅训练0.23%参数下实现医学视觉语言模型的高精度、低遗忘和正向反向迁移,遗忘率降低约七倍。