深度学习中优化方法——momentum、Nesterov Momentum、AdaGrad、Adadelta、RMSprop、Adam

深度学习中的优化方法是指在训练神经网络时，通过更新模型参数来最小化损失函数的过程中所采用的算法。常用的优化方法包括：momentum、Nesterov Momentum、AdaGrad、Adadelta、RMSprop、Adam等。

1. Momentum

Momentum是一种基于梯度下降的优化方法，它通过引入动量来加速收敛。在更新模型参数时，不仅考虑当前的梯度，还考虑之前的梯度对更新方向的影响，通过累积之前的梯度，使得更新方向更加稳定，加速收敛。

2. Nesterov Momentum

Nesterov Momentum是Momentum的一种变体，它在更新模型参数之前，先向前“看一步”，计算模型参数在当前动量下的移动方向，然后再计算当前位置的梯度，最后根据这两个信息来更新模型参数。相比于Momentum，Nesterov Momentum能够更快地收敛。

3. AdaGrad

AdaGrad是一种自适应学习率的优化方法，它通过动态地调整学习率来适应不同参数的更新需求。具体地说，它将学习率分别应用于每个参数的更新量上，使得每个参数的学习率随着训练的进行不断减小，从而减少参数更新的震荡。

4. Adadelta

Adadelta也是一种自适应学习率的优化方法，它和AdaGrad不同之处在于，它不仅考虑了过去的梯度信息，还考虑了过去的参数更新信息。具体地说，它通过维护一个累积梯度平方的指数衰减平均值和一个累积参数更新平方的指数衰减平均值，来动态调整学习率和更新量，使得参数更新更加平稳。

5. RMSprop

RMSprop也是一种自适应学习率的优化方法，它和Adadelta类似，但只考虑了过去的梯度信息，没有考虑过去的参数更新信息。具体地说，它通过维护一个梯度平方的指数衰减平均值来动态调整学习率，使得参数更新更加平稳。

6. Adam

Adam是一种结合了Momentum和RMSprop的优化方法，它不仅考虑了梯度的一阶矩和二阶矩信息，还引入了偏置修正，使得参数更新更加准确。相比于其他优化方法，Adam不仅收敛速度快，还具有较好的性能表现。