"该资源是清华大学系统结构课程的第九章——多处理机的讲义,主要涵盖了多处理机的不同结构、性能模型、Cache一致性、大规模并行处理机、对称多处理机以及机群系统等内容。"
在计算机系统结构中,多处理机是一种由两个或更多独立处理单元组成的系统,它们通过高速互连网络协同工作,共享操作系统,并能实现任务级或作业级的并行处理。根据Flynn分类法,多处理机属于MIMD(Multiple Instruction Multiple Data)类型,即每个处理器可以同时执行不同的指令流和数据流。
9.1.1 多处理机分类
多处理机的分类主要依据以下几个方面:
1. **连接程度**:分为紧密偶合和松散偶合。紧密偶合多处理机的处理机间通信快速,通常共享主存储器;而松散偶合多处理机则通过较低带宽的互连网络通信,可能采用消息传递机制。
2. **存储器共享**:共享存储器多处理机所有处理器都可以访问同一主存储器,而分布式存储器系统中,每个处理器有自己的局部存储器。
3. **处理机类型**:同构型多处理机所有处理器具有相同的架构,异构型则允许不同类型的处理器共存。
4. **处理机数量**:大规模并行处理机(MPP)拥有大量处理器,对称多处理机(SMP)则相对较少,通常几十至几百个处理器。
9.1.2 松散偶合多处理机
在这种结构中,处理机之间的连接较为松散,它们通过输入输出接口(IOP)和互连网络相连,通信速度相对较慢,如通过并行口、串行口或以太网。这种结构适用于处理机之间不频繁交互的情况,或者需要高度容错和扩展性的系统。
9.1.3 紧密偶合多处理机
在紧密偶合系统中,处理机间的通信更快,可以直接访问共享主存储器。通过高速通道和仲裁开关(CAS)连接,使得处理器可以快速地交换数据,提高了系统的整体性能。紧密偶合系统适合需要高速通信和并发处理的任务。
9.2 多处理机性能模型
研究多处理机的性能模型是为了理解系统如何处理并行任务,包括负载平衡、通信开销、缓存一致性等问题。性能模型有助于预测和优化系统的总体性能。
9.3 Cache一致性
在多处理机共享存储器系统中,保持Cache一致性是至关重要的,以确保所有处理器看到的数据是同步的。一致性协议如MSI(Modified, Shared, Invalid)、MESI(Modified, Exclusive, Shared, Invalid)和MESIF(Modified, Exclusive, Shared, Invalid, Forward)被用来解决这个问题。
9.4 大规模并行处理机(MPP)
MPP是由大量处理器构成的系统,它们通常用于科学计算和大数据分析,其中每个处理器执行部分计算任务,通过高效通信机制进行协作。
9.5 对称多处理机(SMP)
SMP系统中,所有处理器都平等对待,共享相同的物理内存和系统资源。这种架构常见于服务器和高端个人计算机,适合处理多线程应用。
9.6 机群系统
机群系统是由多台独立的计算机通过网络连接构成,它们协同工作,以提供比单个机器更高的计算能力。机群系统具有良好的可扩展性和成本效益,常用于互联网服务和高性能计算。
通过深入理解和研究这些概念,可以为设计和优化高性能计算机系统提供理论基础,满足未来对高性能计算的需求。