Rollplex: Cross-Phase GPU Spatial Sharing for Vision Language Model Post-Training
Rollplex:面向视觉语言模型后训练的跨阶段GPU空间共享
机构 * HKUST(香港科技大学) ; Alibaba Inc(阿里巴巴公司)
专题命中 文档图表理解 :vision language model(title);vision-language model(abstract,abstract_cn);分类 cs.LG
AI总结 Rollplex是一种跨阶段GPU空间共享运行时,通过解耦RL后训练的参考与训练阶段、优化内存与并行度,提升VLMs后训练的GPU利用率与训练速度。
Comments 16 pages, 10 figures