没有合适的资源?快使用搜索试试~ 我知道了~
首页tensorflow实现简单的卷积神经网络
tensorflow实现简单的卷积神经网络
396 浏览量
更新于2023-05-28
评论
收藏 74KB PDF 举报
主要为大家详细介绍了tensorflow实现简单的卷积神经网络,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
资源详情
资源评论
资源推荐

tensorflow实现简单的卷积神经网络实现简单的卷积神经网络
主要为大家详细介绍了tensorflow实现简单的卷积神经网络,具有一定的参考价值,感兴趣的小伙伴们可以参考
一下
本文实例为大家分享了Android九宫格图片展示的具体代码,供大家参考,具体内容如下
一.知识点总结一.知识点总结
1. 卷积神经网络出现的初衷是降低对图像的预处理,避免建立复杂的特征工程。因为卷积神经网络在训练的过程中,自己会
提取特征。
2. 灵感来自于猫的视觉皮层研究,每一个视觉神经元只会处理一小块区域的视觉图像,即感知野。放到卷积神经网络里就是
每一个隐含节点只与设定范围内的像素点相连(设定范围就是卷积核的尺寸),而全连接层是每个像素点与每个隐含节点相
连。这种感知野也称之为局部感知。
例如,一张1000*1000的图片,如果隐含层有100*100个隐含节点全连接,则需要1000*1000*100*100+100*100个参数,而如
果有10*10的范围局部感知,用同样多的隐含节点,只需要10*10*100*100+100*100个参数。
3. 把卷积的过程称作卷积滤波,除了上面的局部感知,卷积滤波还有一个化简操作——权值共享。即一个卷积滤波中的所有
隐含节点与感知图像连接的权值是一样的,这样,上述例子的参数减少为10*10+100*100个了。W的数量等于感知范围的尺
寸。
4. 为了抗变形和减小复杂度,卷积层同时还要做激活和池化。激活函数前一章已经弄明白了,池化,相当于降采样,将n*n的
像素区域采样为m*m区域,m通常小于n。通常选择最大池化,即选择区域内的最大像素点。
5. 总结来讲,卷积有三个要点:局部连接、权值共享、池化降采样。一个卷积过程包含三个步骤:卷积滤波、激活、池化。
6. 卷积滤波中的卷积范围可以用一个词来代替——卷积核,卷积核等同于卷积滤波中的一个隐含节点感知范围。由于权值共
享,相当于一个卷积核对整个图像做多次小范围滤波,每滤一次波生成一个小的特征图像,多次滤波后将所有小特征图像组合
起来,生成了对整个图像的feature map。通常,一个卷积滤波过程有多个卷积核卷积,生成多张feature map。
所有的feature map都会被池化,然后输入下一层。
7. 需要训练的权值(参数)的数量只和卷积核尺寸有关,隐含节点(即卷积核要卷积的次数)只和卷积的卷积步长、图像尺
寸有关。
个人理解,一个卷积核对整个图像卷积的过程,就像是一个棋子,在整个棋盘上按照步长跳动,每跳动一次,对感知范围内的
像素点做一次连接计算。
8. CNN在结构上和图像的结构更为接近,都是2D的,因此,早期用在图像上效果很好,但是最近,CNN用于NLP也很热门。
二.程序解析二.程序解析
# coding: utf-8
# In[1]:
from tensorflow.examples.tutorials.mnist import input_data
import tensorflow as tf
mnist = input_data.read_data_sets("MNSIT_data/", one_hot=True)
sess = tf.InteractiveSession()
# In[2]:
#由于W和b在各层中均要用到,先定义乘函数。
#tf.truncated_normal:截断正态分布,即限制范围的正态分布
def weight_variable(shape):
initial = tf.truncated_normal(shape, stddev=0.1)
return tf.Variable(initial)
# In[7]:
#bias初始化值0.1.
def bias_variable(shape):
initial = tf.constant(0.1, shape=shape)
return tf.Variable(initial)
# In[12]:
#tf.nn.conv2d:二维的卷积
#conv2d(input, filter, strides, padding, use_cudnn_on_gpu=None,data_format=None, name=None)
#filter:A 4-D tensor of shape
# `[filter_height, filter_width, in_channels, out_channels]`
















安全验证
文档复制为VIP权益,开通VIP直接复制

评论0