torch.optim.Adam

torch.optim.Adam 是 PyTorch 框架中的一个优化器，用于自适应优化神经网络的参数。它是根据 Adam （Adaptive Moment Estimation）算法设计的。Adam 算法结合了 AdaGrad 和 RMSProp 的优点，可以更快地收敛到最优解，并且在处理稀疏梯度时表现更好。在使用时，需要将优化器对象和模型参数传入，然后在训练过程中使用优化器对象的 step() 方法来更新模型参数。例如：

import torch
import torch.optim as optim

# 创建模型和优化器对象
model = MyModel()
optimizer = optim.Adam(model.parameters(), lr=0.001)

# 训练过程中使用优化器对象更新模型参数
for input, target in dataset:
    optimizer.zero_grad()
    output = model(input)
    loss = loss_function(output, target)
    loss.backward()
    optimizer.step()

在上面的示例中，MyModel 是一个继承自 nn.Module 的模型，lr 参数表示学习率。在每个训练迭代中，首先需要将梯度清零，然后计算输出和损失，执行反向传播，最后使用优化器对象的 step() 方法更新模型参数。