多分类momentum、rmsprop、adam优化器

回答: 多分类问题中，可以使用Momentum、RMSProp和Adam优化器来优化损失函数。Momentum优化器通过使用梯度的指数加权平均来减小摆动幅度，并加快函数的收敛速度。[1]RMSProp优化器则对权重和偏置的梯度使用了微分平方加权平均数，进一步优化了损失函数的收敛速度。[1]Adam优化器结合了Momentum和RMSProp的优点，同时使用了梯度的一阶矩估计和二阶矩估计，可以更好地适应不同的学习率和参数。[2]这些优化器都是为了解决SGD在收敛速度和摆动幅度方面存在的问题，并提供更好的优化效果。[2]其中，RMSProp算法是Hinton在Coursera课程中提出的一种优化算法，通过均方根传递来解决优化中摆动幅度大的问题。[3]