pttorch的优化器

Pttorch是PyTorch的一个分支，它是由国内的开发者开发和维护的，目的是为了加速PyTorch在国内的发展。Pttorch中包含了PyTorch中的大部分功能，并且增加了一些特有的功能。在Pttorch中，优化器是深度学习中非常重要的一部分，以下是Pttorch中常用的几种优化器：

1. SGD (Stochastic Gradient Descent)：随机梯度下降算法，是最常见的优化器之一，通过每次迭代更新一小批样本来更新模型参数。

2. Adam：Adam 是一种自适应学习率的优化器，它可以自动调整每个参数的学习率，同时也可以控制更新的方向和幅度。

3. Adagrad：Adagrad 也是一种自适应学习率的优化器，它对每个参数的学习率进行自适应调整，但不同于Adam，Adagrad 会累计之前所有梯度的平方和来调整学习率。

4. RMSprop：RMSprop 是一种自适应学习率的优化器，它基于 Adagrad 算法，对累计梯度进行了指数加权平均，以更好地适应变化的梯度。