2018年春季NTU CSIE并行编程课程大纲解析

资源摘要信息:"并行编程课程是2018年春季学期在台湾大学计算机科学与信息工程学院（CSIE）开设的一门专业课程，授课教授为刘庞峰。该课程旨在向学生介绍并行计算的基础知识、原理、技术和各种并行编程模型。课程内容涵盖了并行架构的基本概念、并行计算的评估方法、并行算法的设计原理，以及Pthread、OpenMP、OpenCL、CUDA和Hadoop等编程模型和工具的实际应用。 并行架构是并行计算的硬件基础，它涉及到共享内存系统、分布式内存系统以及多核处理器架构的设计和特性。理解这些架构对于设计高效的并行算法至关重要。 在并行计算评估方面，课程会教授如何衡量并行计算的性能，包括加速比、效率、可伸缩性和响应时间等指标。这些指标帮助程序员判断并行程序在不同环境下的表现和优化方向。 并行计算原理部分将讨论并行计算的核心概念，如线程、进程、同步、通信、负载平衡等，这些都是实现并行程序必须掌握的基础知识。 并行算法的设计是本课程的重点之一。学生将学习如何根据并行架构的特性来设计适合的并行算法，以及如何将顺序算法转换为并行算法，以提高计算效率。 Pthread编程是基于POSIX线程库的多线程编程技术，它是UNIX、Linux等操作系统下的标准线程实现方式。课程将介绍Pthread的线程创建、同步机制、互斥锁等基础知识和高级应用。 OpenMP是一种支持多平台共享内存并行编程的API，它提供了一系列编译器指令、运行时库和环境变量来简化多线程编程。OpenMP编程部分将重点讲解如何使用OpenMP进行并行区域、任务、数据并行的编程。 OpenCL是一种针对异构平台进行编程的框架，它允许程序员编写在CPU、GPU、DSP等各种处理器上运行的代码。通过OpenCL的学习，学生可以了解如何开发跨平台的并行程序。 CUDA是NVIDIA推出的用于在其GPU上进行并行计算的编程模型和平台。该课程会教授CUDA的核心概念，如线程块、网格、内存管理、流处理等，并通过实际案例让学生掌握CUDA编程的技巧。 Hadoop程式设计是关于如何使用Hadoop框架进行大数据处理。Hadoop是一个能够处理海量数据的分布式系统，它包括了核心的HDFS文件系统和MapReduce编程模型。本课程将通过Hadoop的实际应用案例，教会学生如何设计和实现大规模数据处理的并行程序。" 在本课程中，学生将接触到多种并行编程工具和框架，每种都有其特定的应用场景和优势。掌握这些知识和技能将为学生从事高性能计算、大数据分析、科学计算等领域的职业打下坚实的基础。