并行计算：机群系统与当代并行机结构解析

"这篇讲义主要探讨了典型的机群系统在并行计算中的应用和相关概念，涵盖了并行计算的结构、算法和编程等方面。它列举了若干个具有代表性的机群系统，如Princeton的SHRIMP、Karlsruhe的Parastation、Rice的TreadMarks等，这些系统各有特色，有的侧重于共享虚拟存储，有的致力于有效通信网络的构建，还有的关注分布式共享存储的实现。此外，讲义还提到了如Globus项目这样的广域网并行计算平台。内容深入到并行计算的基础理论，包括并行计算机系统结构模型、SMP、MPP和Cluster的比较、并行计算性能评测、并行算法设计和数值计算等。" 这篇来自中国科学技术大学的讲义详细介绍了并行计算的各个方面，首先定义了并行计算的重要性和在解决科学与工程问题中的作用。接着，它讨论了并行计算机系统的互连结构，包括静态、动态和标准互连网络，这些都是构建高效机群系统的关键要素。讲义还分析了并行计算机的结构模型，为后续章节的深入探讨奠定了基础。 在系统层面，讲义提到了几种不同的机群架构，如SHRIMP的PC商用组件构建的共享虚拟存储系统，以及Parastation的分布并行处理和通信网络。这些案例展示了如何利用现有的商业硬件和技术构建高性能的并行计算平台。 在算法和编程部分，讲义涵盖了并行计算的基础、设计原则、性能评测，以及数值计算中的并行化方法，包括基本通信操作、稠密矩阵运算、线性方程组求解和快速傅里叶变换。此外，还讲解了并行程序设计的基础，如共享存储系统和分布式存储系统编程，以及并行程序设计环境和工具的使用。 讲义最后的部分可能涉及了并行计算的实际应用，例如在HKU的Pearl Cluster中对分布式多媒体和金融数据库的研究，以及在Virginia的Legion项目中开发元计算软件，这些示例突显了并行计算在现实世界中的广泛应用和价值。通过学习这份讲义，读者可以全面理解并行计算的概念、系统构建、算法设计和实际应用，为进一步研究和开发提供坚实的基础。