![](https://csdnimg.cn/release/download_crawler_static/87560682/bg9.jpg)
局部进行感知,然后在更高层将局部的信息综合起来就得到了全局的信
息。网络部分连通的思想, 也是受启发于生物学里面的视觉系统结
构。视觉皮层的神经元就是局部接受信息的 (即这些神经元只响应某
些特定区域的刺激)。如下图所示:左图为全连接,右图为局部连接。
在上右图中,假如每个神经元只和它前一层邻近的 10 ×10 个像素值
相连,那么权值数据为 1000000 ×100 个参数,减少为原来的万分之
一。而那 10 ×10 个像素值对应的 10 ×10 个参数,其实就相当于卷积操
作。
2、权值共享
但其实这样的话参数仍然过多,那么就启动第二级神器,即权值
共享。在上面的局部连接中,每个神经元都对应 100 个参数,一共
1000000 个神经元,如果这 1000000 个神经元的 100 个参数都是相等
的,那么参数数目就变为 100 了。
怎么理解权值共享呢我们可以这 100 个参数(也就是卷积操作)
看成是提取特征的方式, 该方式与位置无关。这其中隐含的原理则是: