pytorch 对loss的输入求导

在PyTorch中，可以通过调用`backward()`方法来计算对loss的输入求导，即计算模型参数的梯度。这个方法会自动计算计算图中所有需要求导的节点的梯度，并将梯度保存在相应的张量的`.grad`属性中。

以下是一个简单的示例，假设我们有一个包含两个线性层的神经网络，输入为`x`，输出为`y`，然后我们想要计算对模型参数的梯度。

import torch
import torch.nn as nn

# 定义神经网络模型
class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.fc1 = nn.Linear(2, 3)
        self.fc2 = nn.Linear(3, 1)

    def forward(self, x):
        x = torch.relu(self.fc1(x))
        x = self.fc2(x)
        return x

# 创建神经网络模型
net = Net()

# 随机生成输入x和标签y
x = torch.randn(1, 2)
y = torch.randn(1, 1)

# 计算模型输出
y_pred = net(x)

# 计算loss
loss = nn.functional.mse_loss(y_pred, y)

# 计算对模型参数的梯度
loss.backward()

# 输出模型参数的梯度
print(net.fc1.weight.grad)
print(net.fc1.bias.grad)
print(net.fc2.weight.grad)
print(net.fc2.bias.grad)

这里我们首先定义了一个包含两个线性层的神经网络模型，并创建了一个实例`net`。然后我们随机生成一个输入`x`和对应的标签`y`。接着进行前向传播，计算模型输出`y_pred`，并计算对应的均方误差loss。最后调用`loss.backward()`方法，计算对模型参数的梯度。模型参数的梯度会保存在相应的张量的`.grad`属性中。

需要注意的是，调用`backward()`方法前需要确保计算图中所有需要求导的节点都已经被计算过，否则会报错。此外，如果需要多次计算梯度，需要在每次计算前先将梯度清零，可以通过调用`zero_grad()`方法实现。