共享存储并行机模型：并行程序基础与OpenMP

"这篇资料是关于共享存储并行机模型和并行程序的介绍，主要关注在共享存储环境下的并行编程，特别是OpenMP和MPI的使用。文档由马少杰在2006年撰写，并提及了一些重要的参考书籍。" 在并行计算领域，共享存储并行机模型是一种常见的体系架构，它允许多台处理机通过网络连接共享一个统一的内存空间。这种架构的特点包括： 1. **统一内存空间**：所有的处理机通过单一的内存地址系统进行通信和协调，这意味着它们都可以访问相同的数据。 2. **多存储器模块**：内存空间可能由多个物理存储器模块构成，以支持更大的容量和更高的访问速度。 3. **指令流多样性**：每个处理机可以执行独立的指令流，既可以执行相同的任务也可以执行不同的任务，这使得并行处理成为可能。 4. **直接访问数据**：每台处理机都能够直接读写所有数据，无需通过专门的通信机制。 5. **共享主存通信**：处理机间的通信是通过共享内存实现的，简化了数据交换的过程。 然而，共享存储并行机模型也存在局限性，尤其是**可扩展性**的问题。当多个处理机需要同时访问共享的全局变量时，可能出现**内存竞争**，导致性能下降。因此，这种模型更适合解决中小规模的问题，特别是在计算密集型任务和事务处理中。 文档还提到了两种主要的并行编程模型：**OpenMP**和**消息传递接口(MPI)**。OpenMP是一种在共享内存系统上进行并行编程的API，它提供了一种简单的、基于编译器的接口，用于实现多线程并行化。而MPI则是用于分布式内存系统的消息传递库，适用于更广泛的并行计算环境，尤其在大型并行计算中广泛应用。 在后续的内容中，文档会详细介绍OpenMP的编译与运行，以及MPI的基本概念和并行程序的编译运行方法，这些都是并行编程实践中的关键环节。 通过这些信息，开发者可以了解到如何在共享存储并行机模型下编写和运行并行程序，以及如何利用OpenMP和MPI来优化并行性能，解决并发访问内存可能导致的问题。同时，提供的参考文献可以帮助深入学习并行计算的理论和技术。