nn.Parameter
时间: 2023-07-13 07:08:27 浏览: 88
`nn.Parameter`是PyTorch中的一个类,它是`Tensor`的子类,用于表示模型参数。与普通的`Tensor`不同,`nn.Parameter`会自动被注册为模型的可训练参数,并且可以在模型中进行优化更新。
一般来说,在PyTorch中,模型的参数都会被定义为`nn.Parameter`对象,以便在反向传播时自动跟踪梯度,从而进行梯度下降更新。`nn.Parameter`的使用非常简单,只需要将一个`Tensor`用`nn.Parameter`进行包装即可。
例如,下面的代码定义了一个大小为(3, 4)的权重矩阵,并将其封装成`nn.Parameter`对象:
```
import torch.nn as nn
import torch
weight = torch.randn(3, 4)
weight_param = nn.Parameter(weight)
```
在模型的`__init__`函数中,通常会使用`nn.Parameter`封装所有的模型参数,例如:
```
class MyModel(nn.Module):
def __init__(self):
super(MyModel, self).__init__()
self.weight = nn.Parameter(torch.randn(3, 4))
self.bias = nn.Parameter(torch.zeros(3))
```
这样,在模型的前向计算中,就可以直接使用`self.weight`和`self.bias`这两个`nn.Parameter`对象了。
阅读全文