AoiZora: Topology-Aware Auto-Parallel Optimization for Inference of Diffusion Transformers
AoiZora: 面向扩散变换器推理的拓扑感知自动并行优化
机构 * Rice University(里士大学) ; Independent Researcher(独立研究者) ; Google(谷歌)
专题命中 视频扩散模型 :video diffusion(abstract)
AI总结 针对扩散变换器推理中的低延迟需求,提出AoiZora编译器,通过拓扑感知的物理布局优化自动并行策略,在TPU子片上实现高达1.42倍的加速。