,%学习率的系数,最终的学习率是这个数乘以 配置文件中的 ,。如果有两个
,则第一个表示权值的学习率,第二个表示偏置项的学习率。一般偏置项的学习率是权值学习率的
两倍。
在后面的 , 中,我们可以设定卷积层的特有参数。
必须设置的参数:
,%卷积核(-的个数
2,1%卷积核的大小。如果卷积核的长和宽不等,需要用 2,! 和 2,@ 分别设定
其它参数:
%卷积核的步长,默认为 /。也可以用 ,! 和 ,@ 来设置。
%扩充边缘,默认为 0,不扩充。扩充的时候是左右、上下对称的,比如卷积核的大小为 #<#,那
么 设置为 8,则四个边缘都扩充 8 个像素,即宽度和高度都扩充了 = 个像素这样卷积运算之后的特征
图就不会变小。也可以通过 ,! 和 ,@ 来分别设定。
@!,-%权值初始化。默认为“&值全为 0,很多时候我们用&&算法来进行初始化,
也可以设置为”&
,-%偏置项的初始化。一般设置为&&值全为 0。
,%是否开启偏置项,默认为 开启
%分组,默认为 / 组。如果大于 /,我们限制卷积的连接操作在一个子集内。如果我们根据图像
的通道来分组,那么第 个输出分组只能与第 个输入分组进行连接。
输入:<0<@0<!0
输出:</<@/<!/
其中,/ 就是参数中的 ,4卷积核个数,生成的特征图个数
@/G4@0H8<92,1.H/I
!/G4!0H8<92,1.H/I
如果设置 (步长)为 /,前后两次卷积部分存在重叠。如果设置 G42,19/.8则运算后,宽
度和高度不变。
示例:
$
%&/&
%&&
3%&&
%&/&
$
,%/
+
$
,%8
+
,$
,%80
2,1%#
%/
@!,-$ :初始化权重
%&&