SGDClassifier什么情况下使用Nesterov动量加速梯度下降
时间: 2023-05-28 19:07:02 浏览: 237
Keras SGD 随机梯度下降优化器参数设置方式
Nesterov动量加速梯度下降(Nesterov accelerated gradient descent,NAG)是一种优化算法,它可以在SGDClassifier中使用。当数据集非常大且样本数量非常多时,通常使用SGDClassifier进行训练。在这种情况下,Nesterov动量加速梯度下降可以提高SGDClassifier的收敛速度和稳定性,并减少震荡和振荡现象。此外,当模型的损失函数具有大量局部极小值时,Nesterov动量加速梯度下降可以帮助SGDClassifier更快地找到全局最优解。因此,当需要在大型数据集上进行高效训练时,可以考虑使用Nesterov动量加速梯度下降。
阅读全文