MPI-CUDA并行实现：多GPU集群中流体计算的加速研究

"该资源是关于在多GPU集群上实现流体计算的MPI-CUDA方法的研究，探讨了如何在带有深度内存层次结构的异构架构上开发可扩展且高效的模拟代码，以加速计算流体动力学（CFD）模拟。在伊利诺伊州国家超级计算应用中心（NCSA）的林肯Tesla集群上，利用128个GPU和30,720个处理元素，实现了约2.4 TeraFLOPS的计算性能。" 在现代科学计算领域，图形处理单元（GPU）因其多核架构而成为通用并行计算平台，极大地提升了仿真应用的速度。多GPU工作站能够加速计算问题，但面对更大的问题时，需要更强大的资源。因此，传统的中央处理器（CPU）集群现在开始配备多个GPU，以解决大规模问题。这种多GPU集群的异构架构带来了独特的挑战，尤其是在开发可扩展且高效的模拟代码时。 本文研究了一种混合MPI-CUDA实现策略，以应对这些挑战。MPI（Message Passing Interface）是一种用于分布式内存系统中的进程间通信的标准，而CUDA是NVIDIA提供的用于编程GPU的并行计算平台和编程模型。通过结合使用MPI和CUDA，研究者可以实现数据传输和MPI通信与GPU上的计算的重叠，从而提高效率。 研究中，作者在林肯Tesla集群上针对不可压缩流体计算进行了实验，该集群由64个节点组成，每个节点都配备了GPU。结果显示，他们能够在128个GPU上保持大约2.4 TeraFLOPS的持续计算性能，总共使用了30,720个处理元素。这表明多GPU集群对于计算流体动力学（CFD）模拟有显著的加速效果。 通过使用先进的MPI特性和CUDA编程技术，研究者能够有效地管理多GPU环境中的数据传输和通信，减轻了GPU之间以及GPU与CPU之间的数据交换瓶颈。这不仅提高了计算速度，还展示了在大规模并行计算中的可扩展性。 这篇研究提供了在多GPU集群上进行大规模并行流体计算的方法，对于理解如何优化GPU计算资源的利用和提升计算效率具有重要价值。其结果对于需要进行复杂CFD模拟的工程和科学研究具有指导意义，如航空航天、气候建模或生物流体动力学等领域。