pytorch中的nn.linear()详解

nn.Linear是PyTorch中的一个模块，用于定义线性变换。它可以将输入数据进行线性变换，并输出一个新的特征表示。nn.Linear的基本用法和原理如下：

1. 创建nn.Linear对象：

import torch.nn as nn

# 创建一个nn.Linear对象，输入特征维度为in_features，输出特征维度为out_features
linear = nn.Linear(in_features, out_features)

其中，in_features是输入特征的维度，out_features是输出特征的维度。

2. 进行线性变换：

# 输入数据x的维度为(batch_size, in_features)
# 进行线性变换，得到输出数据y的维度为(batch_size, out_features)
y = linear(x)

nn.Linear会自动学习线性变换的权重和偏置，并将输入数据x进行线性变换得到输出数据y。

3. 查看权重和偏置：

# 获取线性变换的权重
weight = linear.weight

# 获取线性变换的偏置
bias = linear.bias

可以通过linear.weight和linear.bias属性获取线性变换的权重和偏置。

4. 自定义初始化权重和偏置：

# 使用正态分布初始化权重
nn.init.normal_(linear.weight, mean=0, std=0.01)

# 使用常数初始化偏置
nn.init.constant_(linear.bias, 0)

可以使用nn.init模块中的函数来自定义初始化线性变换的权重和偏置。