机器学习中优化器有哪些
时间: 2024-05-18 13:16:53 浏览: 82
机器学习中常用的优化器有以下几种:
1. 随机梯度下降(Stochastic Gradient Descent,SGD)
2. 带动量的随机梯度下降(Momentum)
3. 自适应学习率优化算法(Adaptive Learning Rate Optimization)
- AdaGrad(Adaptive Gradient)
- RMSProp(Root Mean Square Propagation)
- Adam(Adaptive Moment Estimation)
4. L-BFGS(Limited-memory Broyden-Fletcher-Goldfarb-Shanno)
不同的优化器在不同的任务和数据集上表现效果有所不同,需要根据实际情况进行选择。
阅读全文