Beyond Captions: Context-Grounded Reconstruction for Biomedical Multimodal Continued Pretraining
PMC-InterCPT:重新思考用于多模态持续预训练的医学交错数据
机构 * The Hong Kong Polytechnic University(香港理工大学) ; Sun Yat-sen University(中山大学) ; InfiX.ai ; PolyU-Daya Bay Technology and Innovation Research Institute(PolyU-大亚湾技术与创新研究院)
专题命中 医疗多模态 :biomedical(title,abstract)
AI总结 针对医学多模态持续预训练中图像-文本对数据存在的上下文缺失、结构噪声等问题,提出PMC-InterCPT交错语料库,通过恢复缺失标题、清洗文本、重建交错样本及LLM监督过滤,结合模态感知重采样,有效提升医学与通用多模态性能。