UCCL-EP: Portable Expert-Parallel Communication
UCCL-EP:便携式专家并行通信
机构 * UC Berkeley(加州大学伯克利分校) ; UC Davis(加州大学戴维斯分校) ; UW–Madison(威斯康星大学麦迪逊分校) ; AMD(超威半导体) ; Tsinghua University(清华大学) ; Amazon Web Services(亚马逊网络服务) ; ICSI(信息与计算机科学研究所) ; Broadcom & University Politehnica of Bucharest(博通与布加勒斯特理工大学)
AI总结 UCCL-EP通过高吞吐量GPU-CPU控制通道和RDMA立即数据模拟,实现了在异构GPU和NIC平台上的高性能专家并行通信,提升了多个模型的训练和推理效率。