MegaScale-Omni: A Hyper-Scale, Workload-Resilient System for MultiModal LLM Training in Production
MegaScale-Omni: 一种面向多模态大语言模型生产训练的超大规模、工作负载容错系统
专题命中 其他多模态 :multimodal(title,abstract);MLLM(abstract,abstract_cn)
AI总结 本文提出MegaScale-Omni系统,通过解耦并行策略、统一表示和负载平衡技术,提升多模态大语言模型在动态工作负载下的训练效率,实现1.27倍至7.57倍的吞吐量提升。