MixAtlas: Uncertainty-aware Data Mixture Optimization for Multimodal LLM Midtraining
MixAtlas: 多模态大语言模型中训练过程中的数据混合优化方法
机构 * Apple(苹果公司) ; University of Washington(华盛顿大学) ; Virginia Tech(弗吉尼亚理工学院)
专题命中 文档图表理解 :grounding(abstract);分类 cs.AI、cs.LG
AI总结 MixAtlas通过双轴分解训练语料,结合小代理模型与高斯过程代理,优化多模态大语言模型的训练混合策略,提升性能和泛化能力。