在推理模式下使用with torch.no_grad():在哪里加

在 PyTorch 中，`torch.no_grad()` 是一个上下文管理器，可以在进入这个上下文时自动关闭梯度计算，离开这个上下文时自动重新打开梯度计算。这个上下文管理器通常用于推理模式下，因为在推理模式中不需要计算梯度，关闭梯度计算可以提高代码的执行效率。

你可以在需要关闭梯度计算的代码块前添加 `with torch.no_grad():`，这样在这个代码块中就可以自动关闭梯度计算了。例如：

with torch.no_grad():
    # 推理模式下的代码块，不需要计算梯度

如果你想要在这个代码块中计算梯度，可以使用 `torch.enable_grad()` 来重新打开梯度计算。例如：

with torch.no_grad():
    # 推理模式下的代码块，不需要计算梯度
    with torch.enable_grad():
        # 开启梯度计算，可以计算梯度的代码块

需要注意的是，在 `torch.no_grad()` 中的张量操作都不会被追踪，也就是说这些操作不会被记录到计算图中，因此也不能进行反向传播。