Cisco（思科）

Cornfigurator: Automated Planning for Any-to-Any Multimodal Model Serving

Cornfigurator：任意到任意多模态模型服务的自动化规划

Jeff J. Ma, Jae-Won Chung, Jisang Ahn, Yizhuo Liang, Runyu Lu, Akshay Jajoo, Myungjin Lee, Mosharaf Chowdhury

机构 * University of Michigan（密歇根大学） ； University of Southern California（南加州大学） ； Cisco Research（思科研究） 纠错

AI总结 Cornfigurator是首个针对通用任意到任意模型推理服务的部署规划器，通过统计评估最大化服务吞吐量，比现有系统和专家调优方案提升1.12至6.32倍。

Comments Open-source at https://github.com/cornserve-ai/cornfigurator