Beyond Objective Expressivity: Geometry Preservation in Multimodal Contrastive Learning
超越目标表现力:多模态对比学习中的几何保留
机构 * Berlin Institute of Health, Charité - Universitätsmedizin Berlin(柏林健康研究院,柏林夏里特大学医学中心) ; Department of Mathematics and Computer Science, Freie Universität Berlin(柏林自由大学数学与计算机科学系) ; Intelligent Medicine Institute, Fudan University(复旦大学智能医学研究院)
专题命中 跨模态检索 :multimodal(title,abstract);image-text(abstract);分类 cs.AI
AI总结 研究多模态对比学习从成对扩展到高阶对齐的挑战,确定编码器雅可比条件是关键因素,引入几何保留编码器,通过正则化调节雅可比,实验证明改善其条件可提升检索和线性探针性能,表明多模态对比学习还取决于编码器几何和优化属性。