Tessera: Unlocking Heterogeneous GPUs through Kernel-Granularity Disaggregation
Tessera:通过内核粒度解耦解锁异构GPU
机构 * Peking University(北京大学) ; Key Lab of HCST (PKU), MOE(高可信软件技术教育部重点实验室(北京大学)) ; University of Chinese Academy of Sciences(中国科学院大学) ; Institute for AI Industry Research, Tsinghua University(清华大学人工智能研究院) ; Tsinghua University(清华大学) ; University of Leeds(利兹大学) ; Huawei Cloud(华为云)
AI总结 Tessera通过内核粒度解耦提升异构GPU上的大模型推理性能和成本效率,利用离线分析与在线适应结合,实现计算与硬件能力的匹配。