# OPTIMIZER momentum = 0.9
时间: 2023-09-03 10:16:37 浏览: 61
Momentum优化教程
4星 · 用户满意度95%
这是指优化器(optimizer)中使用的动量(momentum)值为0.9。动量优化器是一种常用的梯度下降优化算法,其基本思想是在更新参数时不仅考虑当前梯度,还考虑历史梯度的加权平均值,以使更新方向更为稳定。动量系数是一个超参数,用来控制历史梯度的权重大小,一般取值范围在0.5到0.9之间。其中,0.9是一个较为常见的默认值。
阅读全文