Cornfigurator: Automated Planning for Any-to-Any Multimodal Model Serving
Cornfigurator:任意到任意多模态模型服务的自动化规划
机构 * University of Michigan(密歇根大学) ; University of Southern California(南加州大学) ; Cisco Research(思科研究)
专题命中 规划决策 :planning(title);分类 cs.LG
AI总结 Cornfigurator是首个针对通用任意到任意模型推理服务的部署规划器,通过统计评估最大化服务吞吐量,比现有系统和专家调优方案提升1.12至6.32倍。
Comments Open-source at https://github.com/cornserve-ai/cornfigurator