torch.nn.BatchNorm2d()的详细用法

`torch.nn.BatchNorm2d()`是用于卷积神经网络中的批量归一化操作。它可以将每个特征通道（feature map）的均值和方差归一化，以使其具有相同的尺度，从而加速网络的训练和提高精度。

该函数的参数如下：

- `num_features`：输入特征图的通道数。
- `eps`：为了避免分母为零而引入的一个小值。
- `momentum`：用于计算移动平均的动量参数。
- `affine`：是否对归一化后的数据进行缩放和平移（即是否使用可学习参数）。
- `track_running_stats`：是否对每个特征通道的均值和方差进行统计和跟踪，以便在推理时使用。

该函数的输入是一个四维张量（batch_size, num_features, height, width），输出也是一个四维张量，形状与输入相同。

示例代码：

import torch.nn as nn

# 定义卷积神经网络
class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.conv1 = nn.Conv2d(3, 32, kernel_size=3, stride=1, padding=1)
        self.bn1 = nn.BatchNorm2d(32)
        self.conv2 = nn.Conv2d(32, 64, kernel_size=3, stride=1, padding=1)
        self.bn2 = nn.BatchNorm2d(64)
        self.fc1 = nn.Linear(64 * 8 * 8, 512)
        self.fc2 = nn.Linear(512, 10)

    def forward(self, x):
        x = self.conv1(x)
        x = self.bn1(x)
        x = nn.functional.relu(x)
        x = nn.functional.max_pool2d(x, 2)
        x = self.conv2(x)
        x = self.bn2(x)
        x = nn.functional.relu(x)
        x = nn.functional.max_pool2d(x, 2)
        x = x.view(-1, 64 * 8 * 8)
        x = self.fc1(x)
        x = nn.functional.relu(x)
        x = self.fc2(x)
        return x

在上述代码中，我们定义了一个卷积神经网络，其中包含两个卷积层和两个批量归一化层。其中，第一个批量归一化层对应于第一个卷积层后的输出，第二个批量归一化层对应于第二个卷积层后的输出。在前向传播时，我们先进行卷积操作，然后对输出进行批量归一化，再通过激活函数和池化层进行下一步处理。