pytorch的functional函数用法

PyTorch的`functional`模块，也称为`nn.functional`，提供了一组便捷的、无状态的操作，这些操作可以直接作用于张量，而无需创建一个新的`Module`实例。这个模块包含了很多常见的深度学习操作，如线性变换、激活函数、卷积、池化等。

例如，你可以用以下方式来应用线性变换（类似于矩阵乘法）：

import torch.nn.functional as F

input_tensor = torch.randn(10, 5) # 假设这是一个输入张量
weight_matrix = torch.randn(5, 8) # 权重矩阵
bias_vector = torch.randn(8) # 偏置向量

output = F.linear(input_tensor, weight_matrix, bias=bias_vector)

对于常见的激活函数，比如ReLU、sigmoid或softmax，你可以这样做：

relu_output = F.relu(input_tensor)
sigmoid_output = F.sigmoid(input_tensor)
softmax_output = F.softmax(input_tensor, dim=1) # dim=1表示按列 softmax

`functional`模块的操作通常用于构建模型的各个层，它们不需要通过实例化来保存状态，因此比`nn.Module`更轻量级。如果你需要对整个网络进行前向传播，可能会结合`nn.Module`一起使用。