![](https://csdnimg.cn/release/download_crawler_static/88245951/bg4.jpg)
第⼗五章 异构计算, GPU和框架选型指南
15.1 什么是异构计算?
15.2 什么是GPU?
15.3 GPU架构简介
15.3.1 如何通俗理解GPU的架构?
15.3.2 CUDA 核⼼是什么?
15.3.3 为什么要使⽤GPU?
15.3.4 深度学习中的GPU应⽤
15.3.5 新图灵架构⾥的t ensor core对深度学习有什么作⽤?
15.4 CUDA 框架
15.4.1 做CUDA编程难不难?
15.4.2 cuDNN
15.5 GPU硬件环境配置推荐
15.5.1 GPU主要性能指标
15.5.2 购买建议
15.6 软件环境搭建
15.6.1 操作系统选择?
15.6.2 常⽤基础软件安装?
15.6.3 本机安装还是使⽤docker?
15.6.4 GPU驱动问题
15.7 框架选择
15.7.1 主流框架⽐较
15.7.2 框架详细信息
15.7.3 哪些框架对于部署环境友好?
15.7.4 移动平台的框架如何选择?
15.8 其他
15.8.1 多GPU环境的配置
15.8.2 是不是可以分布式训练?
15.8.3 可以在SPARK环境⾥训练或者部署模型吗?
15.8.4 怎么进⼀步优化性能?
15.8.5 TPU和GPU的区别?
15.8.6 未来量⼦计算对于深度学习等AI技术的影响?
15.1 GPU购买指南
15.1.1 如何选择GPU
15.1.2 GPU的主要性能指标
15.1.3 整机配置
15.1.4 ⼩结
15.2 框架选型
15.2.1 常⽤框架简介
15.3 模型部署
相关⽂献
第⼗五章 异构计算, GPU和框架选型指南
深度学习训练和推理的过程中,会涉及到⼤量的向量(vector),矩阵(mat rix)和张量(t ensor)操作,通常需要⼤量的浮点计
算,包括⾼精度(在训练的时候)和低精度(在推理和部署的时候)。GPU, 作为⼀种通⽤可编程的加速器,最初设计是⽤
来进⾏图形处理和渲染功能,但是从2007年开始,英伟达(NVIDIA)公司提出了第⼀个可编程通⽤计算平台(GPU),同时提
出了CUDA框架,从此开启了GPU⽤于通⽤计算的新纪元。此后,不计其数的科研⼈员和开发者,对各种不同类型的算法⽤
CUDA进⾏(部分)改写,从⽽达到⼏倍到数百倍的加速效果。尤其是在机器学习,特别是深度学习的浪潮来临后,GPU加
速已经是各类⼯具实现的基本底层构架之⼀。本章⾥,会简单介绍GPU的基本架构,性能指标,框架选择等等和深度学习相
关的内容。
15.1 什么是异构计算?
异构计算是基于⼀个更加朴素的概念,”异构现象“,也就是不同计算平台之间,由于硬件结构(包括计算核⼼和内存),指令
集和底层软件实现等⽅⾯的不同⽽有着不同的特性。异构计算就是使⽤结合了两个或者多个不同的计算平台,并进⾏协同运
第⼗五章 异构计算, GPU和框架选型指南
1/14