with torch.no_grad():什么作用
时间: 2024-05-07 09:20:26 浏览: 119
0695-极智开发-解读pytorch中with torch.no-grad()的作用
`with torch.no_grad():` 是一个上下文管理器,它的作用是禁用梯度计算。在这个上下文中,所有的操作都不会被记录在计算图中,也不会影响模型的梯度。这个功能通常用于推断阶段,因为在推断阶段我们不需要计算梯度,而且禁用梯度计算可以减少内存消耗并提高推断速度。
使用 `with torch.no_grad():` 的代码块中的所有张量都将不进行梯度计算,例如:
```
x = torch.randn((2, 3), requires_grad=True)
y = torch.randn((3, 4), requires_grad=True)
with torch.no_grad():
z = x.mm(y)
print(z.requires_grad)
```
在上面的代码中,`z` 的 `requires_grad` 属性为 `False`,因为 `with torch.no_grad():` 使得 `x.mm(y)` 操作不进行梯度计算。
阅读全文