CPU-GPU系统全局性能优化：基于剖分的3级策略

本文主要探讨了在CPU-GPU异构并行系统中进行应用性能优化的一种创新方法，即基于剖分的全局性能优化方法。随着高性能计算的发展，将应用程序迁移到CPU-GPU混合架构变得越来越重要，然而传统的优化策略往往是分散的，缺乏统一的指导。作者针对这一问题，提出了一个由三个关键组件构成的解决方案：优化策略库、剖分工具库和策略配置模块。 优化策略库是核心部分，它将应用移植过程中的性能优化划分为三个层次：访存级、内核加速级和数据划分级。每个级别都有特定的关注点，如访存级优化关注内存访问效率，内核加速级优化着重于GPU计算单元的利用率，而数据划分级则关注数据在CPU和GPU之间的合理分布。这种分级优化使得优化过程更具针对性和系统性。 剖分工具库针对这三个优化级别提供了相应的剖分机制，通过在运行时动态分析和调整，获取关于应用性能瓶颈和数据流动的详细信息。这些信息对于理解应用程序的行为至关重要，帮助确定在哪一级别进行优化最为有效。 策略配置模块是整个优化框架的决策中心，它根据运行时剖分工具库收集的数据，为用户提供指导，如何在各个优化级别选择最合适的优化策略。这样，用户不再需要单独处理每个级别的优化，而是得到了一个全局的优化路径。 作者通过实验证明，基于剖分的全局性能优化方法有效地提高了CPU-GPU异构系统的应用性能。以矩阵相乘和傅里叶变换等典型应用为例，使用这种方法后，整体性能相较于仅进行访存级优化有显著提升，最高可达30%左右的性能提升。这表明，该方法不仅提高了优化效率，还提升了优化效果的深度和广度。 这篇文章介绍了一种在CPU-GPU异构并行系统中实现全局性能优化的新方法，其通过细致的划分和动态剖分，提供了一个更为系统和有效的优化框架，有助于开发者更高效地迁移和优化他们的应用程序。这对于推动异构计算平台的广泛应用和发展具有重要意义。