中科大讲义：并行计算结构、算法与编程详解

《并行计算——结构•算法•编程》是一本面向并行计算领域的详细介绍教材，由国家高性能计算中心（合肥）提供。本书分为四篇，详尽探讨了并行计算的基础理论和技术实践。 第一篇“并行计算的基础”主要涵盖了三个章节。第一章介绍了并行计算机系统及其结构模型，包括并行计算的概念，它如何满足现代科学与工程问题的计算需求，以及不同类型的系统互连方式，如静态、动态和标准互联网络。并深入解析了并行计算机的结构模型。 第二章进一步探讨了当代并行机系统，包括对SMP（Symmetric Multi-Processor，对称多处理器）、MPP（Massively Parallel Processing，大规模并行处理）和Cluster（集群）等不同类型的并行计算机架构的分析，以及如何评价并行计算的性能。 第三章则是关于并行计算性能评测，这一部分对于理解和优化并行算法至关重要，它可能涉及度量指标、基准测试和性能调优等内容。 第二篇“并行算法的设计”着重于算法层面的并行化策略。第四章至第七章分别讲述了并行算法的设计基础、一般设计方法、基本设计技术和设计过程，涵盖了从理论到实践的完整路径。 第三篇“并行数值算法”则具体应用到数值计算领域，涉及基本通信操作、稠密矩阵运算、线性方程组求解和快速傅里叶变换等关键算法，并行化处理这些复杂计算任务。 最后一部分“并行程序设计”是将理论知识转化为实际应用的关键环节。第十二章至第十五章讲解了并行程序设计的基础、共享存储系统编程、分布存储系统并行编程以及并行程序设计环境和工具的选择和使用。 通过这本书，读者可以系统地学习并掌握并行计算的核心概念、设计方法和技术，这对于从事高性能计算、科学计算、分布式系统等领域的人来说是一份宝贵的参考资料。