Cornserve: A Distributed Serving System for Any-to-Any Multimodal Models
Cornserve:一种用于任意到任意多模态模型的分布式服务系统
机构 * University of Michigan(密歇根大学) ; University of Southern California(南加州大学) ; Cisco Research(思科研究)
专题命中 多模态生成 :any-to-any(title,abstract);multimodal(title,abstract)
AI总结 本文提出Cornserve,一种支持任意到任意多模态模型的分布式服务系统,通过灵活的任务抽象和组件解耦实现高效部署,提升了吞吐量和延迟性能。
Comments CAIS 2026 Demo track | Open source at https://github.com/cornserve-ai/cornserve | Demo video at https://www.youtube.com/watch?v=nb8R-vztLRg