nn.module和nn.functional有什么区别？用代码举例子详细说明

nn.module和nn.functional都是PyTorch中的模块，但它们的使用方式和功能有所不同。

nn.module是一个类，它可以定义一个神经网络模型，并且可以包含许多其他的nn.module子模块。它可以自动跟踪模型中的参数，并且可以使用反向传播算法来更新这些参数。下面是一个简单的例子：

import torch.nn as nn

class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        self.linear = nn.Linear(10, 1)

    def forward(self, x):
        return self.linear(x)

在这个例子中，我们定义了一个MyModel类，它包含一个nn.Linear子模块。我们还定义了一个forward方法，它将输入x传递给线性层，并返回输出。

nn.functional是一个模块，它包含了许多常用的函数，例如ReLU、sigmoid、softmax等。这些函数不会自动跟踪参数，也不会使用反向传播算法来更新参数。下面是一个简单的例子：

import torch.nn.functional as F

x = torch.randn(10, 1)
y = F.relu(x)

在这个例子中，我们使用了nn.functional中的ReLU函数来计算输入x的激活值。

总的来说，nn.module主要用于定义神经网络模型，而nn.functional主要用于定义神经网络中的各种函数。