没有合适的资源?快使用搜索试试~ 我知道了~
首页TensorFlow深度学习入门与实践笔记
TensorFlow深度学习入门与实践笔记
需积分: 0 36 下载量 145 浏览量
更新于2024-07-14
1
收藏 39.29MB PDF 举报
《TensorFlow深度学习》是一本面向人工智能初学者的教材,作者通过逐步引导的方式,帮助读者理解并掌握深度学习的基本概念和实际应用。全书共分为四个部分:第一部分(1-3章)介绍了人工智能基础知识,引导读者建立初步认知,提出相关问题;第二部分(4-5章)则深入讲解TensorFlow的基础,为后续算法实现打下基础;第三部分(6-9章)为核心理论部分,着重讲解神经网络理论和深度学习的本质,使读者能够领悟其内在原理;最后,第四部分(10-15章)涵盖了常见算法与模型的实际应用,旨在培养读者将所学知识运用到实际问题中的能力。 书中特别强调,虽然作者尽力降低了对读者的数学基础要求,但仍需要读者具备一定的概率与统计、线性代数和微积分基础知识,以及Python编程经验。它适合大学三年级及以上的理工科学生,以及对人工智能算法感兴趣的爱好者,尤其是注重实践和应用层面的学习者。 由于深度学习领域的快速变化,书中可能会存在一些尚未统一翻译的专业术语,作者提供了英文原文,便于读者查阅原著或扩展阅读。作者鼓励读者在学习过程中积极寻找最新的研究论文和资料,以深化理解,同时提醒读者,由于作者自身的知识局限性和时间限制,书中可能存在一些理解上的不足,欢迎读者指出,以便作者不断更新和完善。 《TensorFlow深度学习》是一本结合理论与实践,既有深度又易于入门的深度学习教程,旨在帮助读者在人工智能领域建立起扎实的基础,同时保持对最新研究成果的关注。
资源详情
资源推荐
![](https://csdnimg.cn/release/download_crawler_static/16491144/bg10.jpg)
测试版1205
1.3 深度学习特点 7
类数字,每个类别多达 7000 张图片。随着神经网络的兴起,尤其是深度学习,网络层数一
般较深,模型的参数量可达百万、千万甚至十亿个,为了防止过拟合,需要的数据集的规
模通常也是巨大的。现代社交媒体的流行也让收集海量数据成为可能,如 2010 年发布的
ImageNet 数据集收录了共 14197122 张图片,整个数据集的压缩文件大小就有 154GB。图
1.10、图 1.11 列举了一些数据集的样本数和数据集大小随时间的变化趋势。
尽管深度学习对数据集需求较高,收集数据,尤其是收集带标签的数据,往往是代价
昂贵的。数据集的形成通常需要手动采集、爬取原始数据,并清洗掉无效样本,再通过人
类智能去标注数据样本,因此不可避免地引入主观偏差和随机误差。研究数据量需求较少
的算法模型是非常有用的一个方向。
图 1.10 数据集样本数趋势
图 1.11 数据集大小趋势
1.3.2 计算力
计算能力的提升是第三次人工智能复兴的一个重要因素。实际上,现代深度学习的基
础理论在 1980 年代就已经被提出,但直到 2012 年,基于两块 GTX580 GPU 训练的
AlexNet 发布后,深度学习的真正潜力才得以发挥。传统的机器学习算法并不像神经网络
这样对数据量和计算能力有严苛的要求,通常在 CPU 上串行训练即可得到满意结果。但是
![](https://csdnimg.cn/release/download_crawler_static/16491144/bg11.jpg)
测试版1205
第 1 章 人工智能绪论 8
深度学习非常依赖并行加速计算设备,目前的大部分神经网络均使用 NVIDIA GPU 和
Google TPU 等并行加速芯片训练模型参数。如围棋程序 AlphaGo Zero 在 64 块 GPU 上从
零开始训练了 40 天才得以超越所有的 AlphaGo 历史版本;自动网络结构搜索算法使用了
800 块 GPU 同时训练才能优化出较好的网络结构。
目前普通消费者能够使用的深度学习加速硬件设备主要来自 NVIDIA 的 GPU 显卡,
图 1.12 例举了从 2008 年到 2017 年 NVIDIA GPU 和 x86 CPU 的每秒 10 亿次的浮点运算数
(GFLOPS)的指标变换曲线。可以看到,x86 CPU 的曲线变化相对缓慢,而 NVIDIA GPU
的浮点计算能力指数式增长,这主要是由日益增长的游戏计算量和深度学习计算量等业务
驱动的。
图 1.12 NVIDIA GPU FLOPS 趋势(数据来自 NVIDIA)
1.3.3 网络规模
早期的感知机模型和多层神经网络层数只有 1 层或者 2~4 层,网络参数量也在数万左
右。随着深度学习的兴起和计算能力的提升,AlexNet(8 层)、VGG16(16 层)、
GoogLeNet(22 层)、ResNet50(50 层)、DenseNet121(121 层)等模型相继被提出,同时输入图
片的大小也从 逐渐增大,变成 、 等,这些变化使得网络的总参
数量可达到千万级别,如图 1.13 所示。
网络规模的增大,使得神经网络的容量也相应增大,从而能够学习到复杂的数据模
态,模型的性能也会随之提升;另一方面,网络规模的增大,意味着更容易出现过拟合现
象,训练需要的数据集和计算代价也会变大。
![](https://csdnimg.cn/release/download_crawler_static/16491144/bg12.jpg)
测试版1205
1.3 深度学习特点 9
4 4
8 8
19
22
152
28.2
25.8
16.4
11.7
7.3
6.7
3.57
ILSVRC10 ILSVRC11 ILSVRC12 ILSVRC13 ILSVRC14 ILSVRC14 ILSVRC15
ILSVRC挑战赛ImageNet数据集分类任务
网络模型层数
Top-5错误率
图 1.13 网络层数变化趋势
1.3.4 通用智能
过去,为了提升某项任务上的算法性能,往往需要利用先验知识手动设计相应的特
征,以帮助算法更好地收敛到最优解。这类特征提取方法往往是与具体任务场景强相关
的,一旦场景发生了变动,这些依靠人工设计的特征和先验设定无法自适应新场景,往往
需要重新设计算法模型,模型的通用性不强。
设计一种像人脑一样可以自动学习、自我调整的通用智能机制一直是人类的共同愿
景。从目前来看,深度学习是最接近通用智能的算法之一。在计算机视觉领域,过去需要
针对具体的任务设计特征、添加先验假设的做法,已经被深度学习算法抛弃了,目前在图
片识别、目标检测、语义分割等方向,几乎都是基于深度学习端到端地训练,获得的模型
性能好,适应性强;在 Atria 游戏平台上,DeepMind 设计的 DQN 算法模型可以在相同的
算法、模型结构和超参数的设定下,在 49 个游戏上获得人类相当的游戏水平,呈现出一定
程度的通用智能。图 1.14 是 DQN 算法的网络结构,它并不是针对于某个游戏而设计的,
而是可以控制 Atria 游戏平台上的 49 个游戏。
图 1.14 DQN 算法网络结构示意图 [1]
![](https://csdnimg.cn/release/download_crawler_static/16491144/bg13.jpg)
测试版1205
第 1 章 人工智能绪论 10
1.4 深度学习应用
深度学习算法已经广泛应用到人们生活的角角落落,例如手机中的语音助手、汽车上
的智能辅助驾驶、人脸支付等。我们将从计算机视觉、自然语言处理和强化学习 3 个领域
入手,为大家介绍深度学习的一些主流应用。
1.4.1 计算机视觉
图片识别(Image Classification) 是常见的分类问题。神经网络的输入为图片数据,输出
值为当前样本属于每个类别的概率分布。通常选取概率值最大的类别作为样本的预测类
别。图片识别是最早成功应用深度学习的任务之一,经典的网络模型有 VGG 系列、
Inception 系列、ResNet 系列等。
目标检测(Object Detection) 是指通过算法自动检测出图片中常见物体的大致位置,通
常用边界框(Bounding box)表示,并分类出边界框中物体的类别信息,如图 1.15 所示。常
见的目标检测算法有 RCNN、Fast RCNN、Faster RCNN、Mask RCNN、SSD、YOLO 系列
等。
语义分割(Semantic Segmentation) 是通过算法自动分割并识别出图片中的内容,可以
将语义分割理解为每个像素点的分类问题,分析每个像素点的物体的类别信息,如图 1.16
所示。常见的语义分割模型有 FCN、U-net、SegNet、DeepLab 系列等。
图 1.15 目标检测效果图
图 1.16 语义分割效果图
视频理解(Video Understanding) 随着深度学习在 2D 图片的相关任务上取得较好的效
果,具有时间维度信息的 3D 视频理解任务受到越来越多的关注。常见的视频理解任务有
视频分类、行为检测、视频主体抽取等。常用的模型有 C3D、TSN、DOVF、TS_LSTM
等。
图片生成(Image Generation) 通过学习真实图片的分布,并从学习到的分布中采样而获
得逼真度较高的生成图片。目前常见的生成模型有 VAE 系列、GAN 系列等。其中 GAN 系
列算法近年来取得了巨大的进展,最新 GAN 模型产生的图片效果达到了肉眼难辨真伪的
程度,如图 1.17 为 GAN 模型的生成图片。
除了上述应用,深度学习还在其它方向上取得了不俗的效果,比如艺术风格迁移(图
1.18)、超分辨率、图片去燥/去雾、灰度图片着色等一系列非常实用酷炫的任务,限于篇
幅,不再赘述。
![](https://csdnimg.cn/release/download_crawler_static/16491144/bg14.jpg)
测试版1205
1.4 深度学习应用 11
图 1.17 自动生成的图片
图 1.18 艺术风格迁移效果图
1.4.2 自然语言处理
机器翻译(Machine Translation) 过去的机器翻译算法通常是基于统计机器翻译模型,这
也是 2016 年前 Google 翻译系统采用的技术。2016 年 11 月,Google 基于 Seq2Seq 模型上
线了 Google 神经机器翻译系统(GNMT),首次实现了源语言到目标语言的直译技术,在多
项任务上获得了 50~90%的效果提升。常用的机器翻译模型有 Seq2Seq、BERT、GPT、
GPT-2 等,其中 OpenAI 提出的 GPT-2 模型参数量高达 15 亿个,甚至发布之初以技术安全
考虑为由拒绝开源 GPT-2 模型。
聊天机器人(Chatbot) 聊天机器人也是自然语言处理的一项主流任务,机器自动学习与
人类对话,对于人类的简单诉求提供满意的自动回复,提高客户的服务效率和服务质量
等。常应用在咨询系统、娱乐系统、智能家居等中。
1.4.3 强化学习
虚拟游戏 相对于真实环境,虚拟游戏平台既可以训练、测试强化学习算法,又可以避
免无关因素干扰,同时也能将实验代价降到最低。目前常用的虚拟游戏平台有 OpenAI
Gym、OpenAI Universe、OpenAI Roboschool、DeepMind OpenSpiel、MuJoCo 等,常用的
强化学习算法有 DQN、A3C、A2C、PPO 等。在围棋领域,DeepMind AlaphGo 程序已经
超越人类围棋专家;在 Dota2 和星际争霸游戏上,OpenAI 和 DeepMind 开发的智能程序也
在限制规则下战胜了职业队伍。
机器人(Robotics) 在真实环境中,机器人的控制也取得了一定的进展。如 UC Berkeley
实验室在机器人领域的 Imitation Learning、Meta Learning、Few-shot Learning 等方向上取得
了不少进展。美国波士顿动力公司在机器人应用中取得喜人的成就,其制造的机器人在复
杂地形行走、多智能体协作等任务上表现良好(图 1.19)。
自动驾驶(Autonomous Driving) 被认为是强化学习短期内能技术落地的一个应用方
向,很多公司投入大量资源在自动驾驶上,如百度、Uber、Google 无人车等,其中百度的
无人巴士“阿波龙”已经在北京、雄安、武汉等地展开试运营,图 1.20 为百度的自动驾驶
汽车。
剩余403页未读,继续阅读
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://profile-avatar.csdnimg.cn/345947af0dd14bf98009d02b9630176c_sinat_39620217.jpg!1)
汀、人工智能
- 粉丝: 8w+
- 资源: 408
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![](https://csdnimg.cn/release/wenkucmsfe/public/img/voice.245cc511.png)
最新资源
- 中国微型数字传声器:技术革新与市场前景
- 智能安防:基于Hi3515的嵌入式云台控制系统设计
- 手机电量低时辐射真增千倍?解析手机使用谣言
- 56F803型DSP驱动的高精度大功率超声波电源控制策略研究
- ARM与GPRS结合的远程监测系统设计
- GPS与RFID技术结合的智能巡检系统设计
- CPLD驱动的低功耗爆炸场温度测试系统设计
- 基于FPGA的智能驱动控制系统:可扩展设计与工业网络协议
- 基于ATmega128和CH374的嵌入式USB接口设计
- 基于AT89C52的温度补偿超声波测距仪:高精度设计与应用
- MSP430F448单片机在交流数字电压表中的应用
- 提升变频器应用效率的12项实用技巧
- STM32F103在数字电镀电源并联均流系统中的应用
- PSpice仿真下的升压开关电源设计:拓扑分析与CCM稳定性提升
- 轻巧高效:MSP430主导的低成本无线传感器网络节点设计
- FPGA在EDA/PLD中实现LVDS接口的应用解析
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035111.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![](https://csdnimg.cn/release/wenkucmsfe/public/img/green-success.6a4acb44.png)