中科大讲义：并行计算详解——结构、算法与编程

全局通讯-并行计算(中科大讲义)是一份详细的讲义，由国家高性能计算中心（合肥）提供，旨在介绍并行计算的基础理论和实践应用。该讲义分为四个主要部分： 1. 并行计算机系统及其结构模型：首先介绍了并行计算的基本概念，探讨了它与计算科学的关系，以及当代科学和工程问题对高性能计算的需求。这部分涵盖了系统互连的多种方式，如静态、动态和标准互联网络，以及并行计算机系统的不同结构模型。 2. 并行算法设计：这一部分着重于设计原则和技术，包括并行算法的基础、一般设计方法和基本设计技术。具体涉及了密集矩阵运算、线性方程组求解和快速傅里叶变换等核心数值算法。 3. 并行数值算法：专门针对数值计算任务，讲解了基本通信操作，以及如何在并行环境中高效地处理稠密矩阵和线性方程组等问题。 4. 并行程序设计：深入讲解了并行程序设计的各个方面，包括基础原理、共享存储系统编程、分布存储系统并行编程，以及并行程序设计环境和工具的选择和使用。 通过这份讲义，学习者可以掌握从系统层面到算法设计再到实际编程的全面知识，对于理解和解决大规模计算问题具有重要的指导意义。无论是对于科研人员、工程师还是对并行计算感兴趣的学生，这份资料都提供了扎实的理论基础和实践经验。