没有合适的资源?快使用搜索试试~ 我知道了~
首页Pro Deep Learning with TensorFlow.
Pro Deep Learning with TensorFlow.
需积分: 27 37 下载量 155 浏览量
更新于2023-03-16
评论
收藏 12.72MB PDF 举报
Pro Deep Learning with TensorFlow is a practical and mathematical guide to deep learning using TensorFlow. Deep learning is a branch of machine learning where you model the world in terms of a hierarchy of concepts. This pattern of learning is similar to the way a human brain learns, and it allows computers to model complex concepts that often go unnoticed in other traditional methods of modeling. Hence, in the modern computing paradigm, deep learning plays a vital role in modeling complex real-world problems, especially by leveraging the massive amount of unstructured data available today
资源详情
资源评论
资源推荐
Santanu Pattanayak
Pro Deep Learning
with TensorFlow
A Mathematical Approach to
Advanced Artificial Intelligence
in Python
Pro Deep Learning with TensorFlow
Santanu Pattanayak
Bangalore, Karnataka, India
ISBN-13 (pbk): 978-1-4842-3095-4 ISBN-13 (electronic): 978-1-4842-3096-1
https://doi.org/10.1007/978-1-4842-3096-1
Any source code or other supplementary material referenced by the author in this book is available to
readers on GitHub via the book’s product page, located at www.apress.com/978-1-4842-3095-4.
For more detailed information, please visit http://www.apress.com/source-code.
Library of Congress Control Number: 2017962327
Copyright © 2017 by Santanu Pattanayak
Contents
■Chapter 1: Mathematical Foundations ������������������������������������������������������������������ 1
Linear Algebra ������������������������������������������������������������������������������������������������������������������ 2
Vector �����������������������������������������������������������������������������������������������������������������������������������������������������3
Scalar ����������������������������������������������������������������������������������������������������������������������������������������������������� 4
Matrix ����������������������������������������������������������������������������������������������������������������������������������������������������� 4
Tensor ����������������������������������������������������������������������������������������������������������������������������������������������������� 5
Matrix Operations and Manipulations �����������������������������������������������������������������������������������������������������5
Linear Independence of Vectors �������������������������������������������������������������������������������������������������������������9
Rank of a Matrix ����������������������������������������������������������������������������������������������������������������������������������� 10
Identity Matrix or Operator �������������������������������������������������������������������������������������������������������������������11
Determinant of a Matrix ������������������������������������������������������������������������������������������������������������������������ 12
Inverse of a Matrix �������������������������������������������������������������������������������������������������������������������������������� 14
Norm of a Vector �����������������������������������������������������������������������������������������������������������������������������������15
Pseudo Inverse of a Matrix ������������������������������������������������������������������������������������������������������������������� 16
Unit Vector in the Direction of a Specific Vector �����������������������������������������������������������������������������������17
Projection of a Vector in the Direction of Another Vector ����������������������������������������������������������������������17
Eigen Vectors ���������������������������������������������������������������������������������������������������������������������������������������� 18
Calculus �������������������������������������������������������������������������������������������������������������������������� 23
Differentiation ���������������������������������������������������������������������������������������������������������������������������������������23
Gradient of a Function ��������������������������������������������������������������������������������������������������������������������������24
Introduction ������������������������������������������������������������������������������������������������������������xix
Successive Partial Derivatives ��������������������������������������������������������������������������������������������������������������25
Hessian Matrix of a Function ���������������������������������������������������������������������������������������������������������������� 25
Maxima and Minima of Functions �������������������������������������������������������������������������������������������������������� 26
Local Minima and Global Minima ��������������������������������������������������������������������������������������������������������� 28
Positive Semi-Definite and Positive Definite ���������������������������������������������������������������������������������������� 29
Convex Set ��������������������������������������������������������������������������������������������������������������������������������������������29
Convex Function �����������������������������������������������������������������������������������������������������������������������������������30
Non-convex Function ����������������������������������������������������������������������������������������������������������������������������31
Multivariate Convex and Non-convex Functions Examples ������������������������������������������������������������������31
Taylor Series ����������������������������������������������������������������������������������������������������������������������������������������� 34
Probability ���������������������������������������������������������������������������������������������������������������������� 34
Unions, Intersection, and Conditional Probability ��������������������������������������������������������������������������������� 35
Chain Rule of Probability for Intersection of Event ������������������������������������������������������������������������������� 37
Mutually Exclusive Events �������������������������������������������������������������������������������������������������������������������� 37
Independence of Events ����������������������������������������������������������������������������������������������������������������������� 37
Conditional Independence of Events ���������������������������������������������������������������������������������������������������� 38
Bayes Rule ��������������������������������������������������������������������������������������������������������������������������������������������38
Probability Mass Function �������������������������������������������������������������������������������������������������������������������� 38
Probability Density Function ����������������������������������������������������������������������������������������������������������������� 39
Expectation of a Random Variable �������������������������������������������������������������������������������������������������������� 39
Variance of a Random Variable �������������������������������������������������������������������������������������������������������������39
Skewness and Kurtosis ������������������������������������������������������������������������������������������������������������������������40
Covariance �������������������������������������������������������������������������������������������������������������������������������������������� 44
Correlation Coefficient �������������������������������������������������������������������������������������������������������������������������� 44
Some Common Probability Distribution ������������������������������������������������������������������������������������������������ 45
Likelihood Function ������������������������������������������������������������������������������������������������������������������������������51
Maximum Likelihood Estimate �������������������������������������������������������������������������������������������������������������52
Hypothesis Testing and p Value ������������������������������������������������������������������������������������������������������������ 53
Formulation of Machine-Learning Algorithm and Optimization Techniques ������������������� 55
Supervised Learning �����������������������������������������������������������������������������������������������������������������������������56
Unsupervised Learning �������������������������������������������������������������������������������������������������������������������������65
Optimization Techniques for Machine Learning ������������������������������������������������������������������������������������66
Constrained Optimization Problem ������������������������������������������������������������������������������������������������������� 77
A Few Important Topics in Machine Learning ���������������������������������������������������������������� 79
Dimensionality Reduction Methods ������������������������������������������������������������������������������������������������������ 79
Regularization ��������������������������������������������������������������������������������������������������������������������������������������� 84
Regularization Viewed as a Constraint Optimization Problem �������������������������������������������������������������� 86
Summary ������������������������������������������������������������������������������������������������������������������������ 87
■Chapter 2: Introduction to Deep-Learning Concepts and TensorFlow ����������������� 89
Deep Learning and Its Evolution ������������������������������������������������������������������������������������� 89
Perceptrons and Perceptron Learning Algorithm ����������������������������������������������������������� 92
Geometrical Interpretation of Perceptron Learning ������������������������������������������������������������������������������ 96
Limitations of Perceptron Learning ������������������������������������������������������������������������������������������������������ 97
Need for Non-linearity �������������������������������������������������������������������������������������������������������������������������� 99
Hidden Layer Perceptrons’ Activation Function for Non-linearity ������������������������������������������������������� 100
Different Activation Functions for a Neuron/Perceptron ��������������������������������������������������������������������� 102
Learning Rule for Multi-Layer Perceptrons Network �������������������������������������������������������������������������� 108
Backpropagation for Gradient Computation ���������������������������������������������������������������������������������������109
Generalizing the Backpropagation Method for Gradient Computation �����������������������������������������������111
TensorFlow ������������������������������������������������������������������������������������������������������������������� 118
Common Deep-Learning Packages ���������������������������������������������������������������������������������������������������� 118
TensorFlow Installation ����������������������������������������������������������������������������������������������������������������������� 119
TensorFlow Basics for Development �������������������������������������������������������������������������������������������������� 119
Gradient-Descent Optimization Methods from a Deep-Learning Perspective ������������������������������������ 123
Learning Rate in Mini-batch Approach to Stochastic Gradient Descent ���������������������������������������������129
Optimizers in TensorFlow ������������������������������������������������������������������������������������������������������������������� 130
XOR Implementation Using TensorFlow ���������������������������������������������������������������������������������������������� 138
Linear Regression in TensorFlow �������������������������������������������������������������������������������������������������������� 143
Multi-class Classification with SoftMax Function Using Full-Batch Gradient Descent �����������������������146
Multi-class Classification with SoftMax Function Using Stochastic Gradient Descent ����������������������149
GPU ������������������������������������������������������������������������������������������������������������������������������� 152
Summary ���������������������������������������������������������������������������������������������������������������������� 152
剩余406页未读,继续阅读
仙守
- 粉丝: 222
- 资源: 27
上传资源 快速赚钱
- 我的内容管理 收起
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
会员权益专享
最新资源
- 27页智慧街道信息化建设综合解决方案.pptx
- 计算机二级Ms-Office选择题汇总.doc
- 单链表的插入和删除实验报告 (2).docx
- 单链表的插入和删除实验报告.pdf
- 物联网智能终端项目设备管理方案.pdf
- 如何打造品牌的模式.doc
- 样式控制与页面布局.pdf
- 武汉理工Java实验报告(二).docx
- 2021线上新品消费趋势报告.pdf
- 第3章 Matlab中的矩阵及其运算.docx
- 基于Web的人力资源管理系统的必要性和可行性.doc
- 基于一阶倒立摆的matlab仿真实验.doc
- 速运公司物流管理模式研究教材
- 大数据与管理.pptx
- 单片机课程设计之步进电机.doc
- 大数据与数据挖掘.pptx
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0