卷积神经网络卷积神经网络CNN以及几种经典模型以及几种经典模型
简介简介
CNN -> Convolutional Neural Network
卷积神经网络是由一个或多个卷积层和顶端的全连通层(也可以使用1×1的卷积层作为最终的输出)组成的一种前馈神经网络前馈神经网络
基本概念基本概念
局部感受野局部感受野(Local Receptive Fields)
一般的神经网络往往会把图像的每一个像素点连接到全连接的每一个神经元中,而卷积神经网络则是把每一个隐藏节点只连接到图像的某个局部区域,从而减少参数训练的数量。
例如,一张1024×720的图像,使用9×9的感受野,则只需要81个权值参数。对于一般的视觉也是如此,当观看一张图像时,更多的时候关注的是局部。
共享权值共享权值(Shared Weights)
在卷积神经网络的卷积层中,神经元对应的权值是相同的,由于权值相同,因此可以减少训练的参数量。共享的权值和偏置也被称作
卷积核
或
滤波器
池化池化(Pooling)
由于待处理的图像往往都较大,而实际处理时没必要直接对原图进行分析,最主要的是要能够有效获得图像的特征。因此可以采用类似图像压缩的思想,对图像进行卷积之后,通过
一个下采样过程来调整图像的大小
什么是下采样?
上采样、下采样到底是个啥
结构组成结构组成
我们通过卷积的计算操作来
提取图像局部的特征
,每一层都会计算出一些局部特征,这些局部特征再汇总到下一层,这样
一层一层的传递
下去,特征由小变大特征由小变大,最后在通过这些局部
的特征对图片进行处理,这样大大提高了计算效率,也提高了准确度。
卷积层卷积层
提取特征
卷积计算卷积计算
动图来源于:stanford.edu, Feature extraction using convolution
NOTE: 深度学习中的卷积与信号处理中的卷积略有不同,深度学习中的卷积略去了翻转翻转的步骤(因为起初卷积核是随机生成的,没有方向)
输入矩阵大小 n
卷积核大小 f
边界填充 §adding,指在原矩阵周围填充的层数
步长 (s)tride
计算公式计算公式
卷积结果大小:(n - f + 2p) / s + 1 向下取整
多个卷积核多个卷积核
在每一个卷积层我们会设置多个卷积核,代表多个不同的特征,这些特征就是需要传递到下一层的输出,训练的过程就是训练不同的核
激活函数激活函数
引入非线性关系
评论0