GPU RDMA是什么
时间: 2023-09-17 10:14:54 浏览: 117
mpi-nccl-tests:使用GPU Direct RDMA进行MPI + NCCL测试
5星 · 资源好评率100%
GPU RDMA(Remote Direct Memory Access)是一种通过网络适配器实现GPU内存之间直接数据传输的技术。传统上,GPU之间的数据传输需要通过主机内存作为中介,即数据从一个GPU传输到主机内存,再从主机内存传输到另一个GPU,这样的传输过程会占用大量的CPU资源,导致传输效率低下。而GPU RDMA技术通过网络适配器实现GPU之间的直接数据传输,无需经过主机内存,从而避免了CPU资源的占用和数据传输的瓶颈,提高了传输效率和系统性能。GPU RDMA技术需要网络适配器支持RoCE(RDMA over Converged Ethernet)或InfiniBand等RDMA协议,以实现高效的GPU内存之间直接数据传输。
阅读全文