除了SGD优化器，还有哪些常见的优化器？

除了SGD优化器，常见的优化器还包括：
1. 动量优化器（Momentum Optimizer）：使用动量来加速收敛，在梯度下降的基础上加入了动量项，通过累积之前的梯度信息来更新参数。
2. AdaGrad优化器：自适应调整每个参数的学习率，使得每个参数的学习率与其出现次数成反比。可以有效地解决梯度稀疏问题。
3. RMSProp优化器：与AdaGrad类似，但是在分母上加了一个衰减系数，使得历史梯度对当前更新的影响逐渐减小。
4. Adam优化器：结合了动量优化器和RMSProp优化器的优点，同时维护了梯度的一阶和二阶矩估计，可以自适应地调整每个参数的学习率和动量。
5. Adadelta优化器：与RMSProp类似，但是使用更简单的方式来自适应地调整学习率。