nn.init.normal_
时间: 2023-09-30 13:04:10 浏览: 105
pytorch中的weight-initilzation用法
`nn.init.normal_` 是 PyTorch 中的一个函数,用于对模型参数进行初始化。其作用是从正态分布中随机采样,然后对模型参数进行赋值。
其语法格式为:
```
nn.init.normal_(tensor, mean=0.0, std=1.0)
```
其中,`tensor` 表示需要初始化的张量,`mean` 表示正态分布的均值,默认值为 0.0,`std` 表示正态分布的标准差,默认值为 1.0。
例如,对一个大小为 (3, 4) 的张量进行标准正态分布初始化:
```python
import torch.nn as nn
t = torch.zeros(3, 4)
nn.init.normal_(t)
print(t)
```
运行结果为:
```
tensor([[-0.9154, 0.2067, -0.1996, -0.1156],
[-0.6249, 0.4995, -0.6219, 0.8266],
[ 0.3179, 1.3657, -1.0154, 0.6014]])
```
在深度学习中,对模型参数进行合适的初始化是非常重要的,可以加速模型的收敛和提高模型的准确率。`nn.init.normal_` 是 PyTorch 中常用的参数初始化函数之一。
阅读全文