.detach()怎么使用，有代码范例吗

.detach() 是一个PyTorch函数，用于将一个张量从计算图中分离出来，使它不再随后面的计算进行反向传播而更新梯度。下面是一个使用 .detach() 方法的示例代码：

import torch

input = torch.randn(3, 4, requires_grad=True)
hidden = torch.randn(4, 5, requires_grad=True)

output = torch.matmul(input, hidden).detach()

loss = output.mean()
loss.backward()

print(hidden.grad)  # 输出为None，因为hidden已经被detach了

在这个例子中，我们对 input 和 hidden 变量进行矩阵乘法操作，并将结果保存到 output 变量中。然后我们对 output 变量进行求平均值操作得到 loss，最后进行反向传播更新参数。由于 output 变量已经被 detach 了，因此它不会参与后面参数的梯度更新，hidden 变量也不会受到 output 的梯度更新。