并行计算入门：程序到主机映射与PVM应用

"该资源是中科大的一门关于并行计算的课程讲义，涵盖了并行计算的基础、算法设计以及数值算法等内容。课程介绍了并行计算机系统结构模型，包括SMP、MPP和Cluster等当代并行机系统，以及并行计算性能评测。此外，还深入探讨了并行算法设计的基础、一般设计方法和技术，以及如何在共享存储和分布式存储系统中进行编程。并行程序设计环境和工具也是课程的重点，提供了基本通信操作、稠密矩阵运算、线性方程组求解和快速傅里叶变换等实际应用的案例。" 并行计算是一种利用多处理器或多个计算设备同时处理任务的计算方式，它能够显著提高计算效率，解决大规模复杂问题。课程首先阐述了并行计算与计算科学的关系，强调了当代科学与工程计算需求的快速增长，这促使了并行计算的发展。接着，详细讲解了并行计算机系统的互连结构，包括静态互联网络、动态互连网络和标准互联网络，这些都是构建并行系统的基础。 并行计算机结构模型是理解并行计算的关键，课程介绍了多种模型，比如SIMD（单指令多数据）和MIMD（多指令多数据）等。这些模型帮助理解数据和指令在并行系统中的处理方式。此外，还讨论了并行计算机的访存模型和通信机制，这对于优化并行程序的性能至关重要。 在并行算法设计部分，课程不仅探讨了设计基础，还讲解了一般设计方法和技术，如数据分解、任务调度和负载平衡。并行算法设计过程的讲解有助于学生掌握如何将串行算法转化为并行算法，以充分利用并行计算的优势。 在数值算法方面，课程涵盖了一些核心主题，如基本通信操作（如PVM中的`spawn`命令），稠密矩阵运算，线性方程组的求解，以及快速傅里叶变换（FFT）。这些内容是科学计算中的常见操作，通过并行化可以极大地加速计算速度。 最后，课程关注并行程序设计，讲解了共享存储系统和分布式存储系统编程，以及并行程序设计环境和工具，这些工具是开发和调试并行程序的关键。 这门课程全面地覆盖了并行计算的各个方面，从硬件结构到软件设计，旨在培养学生的并行计算思维和实践能力。