sgd_experimental()参数
时间: 2023-05-29 20:03:21 浏览: 182
sgd_experimental()函数的参数如下:
- `params` (iterable):模型参数。
- `lr` (float):学习率。
- `momentum` (float, optional):动量因子,默认为0。
- `dampening` (float, optional):抑制动量因子的衰减系数,默认为0。
- `weight_decay` (float, optional):权重衰减系数(L2惩罚),默认为0。
- `nesterov` (bool, optional):是否使用Nesterov动量,默认为False。
- `weight_decay_type` (str, optional):权重衰减类型,可选值为"l2"、"l1"和"none"。默认为"l2"。
- `use_gc` (bool, optional):是否使用梯度中心化,默认为False。
- `gc_conv_only` (bool, optional):是否只在卷积层使用梯度中心化,默认为False。
- `gc_conv_groups` (int, optional):卷积层梯度中心化的组数,默认为32。
- `gc_bn_only` (bool, optional):是否只在BN层使用梯度中心化,默认为False。
- `gc_eps` (float, optional):梯度中心化的epsilon值,默认为1e-8。
- `gc_conv_only_bn` (bool, optional):是否在只进行卷积操作的BN层使用梯度中心化,默认为False。
- `gc_conv_skip_kernel` (bool, optional):是否跳过卷积核的梯度中心化,默认为False。
- `gc_conv_skip_bias` (bool, optional):是否跳过卷积偏置的梯度中心化,默认为False。
阅读全文