Libra: Efficient Resource Management for Agentic RL Post-Training
Libra:面向智能体强化学习后训练的高效资源管理
机构 * The Chinese University of Hong Kong(香港中文大学) ; The Hang Seng University of Hong Kong (2018)(香港恒生大学)
AI总结 针对智能体强化学习中长尾、非平稳工作负载带来的资源管理挑战,提出Libra系统,通过周期性全局资源规划器和因果驱动多级反馈队列调度器,实现GPU分配优化和请求调度,最高提升3倍吞吐量和2.5倍收敛速度。
Comments 19 pages, 12 figures