nn.softmax()用法

在深度学习中，softmax 函数通常用于将一个向量转换为概率分布，其中每个元素表示一个类别的概率。softmax 函数的数学表达式如下：

$$\text{softmax}(z_i) = \frac{e^{z_i}}{\sum_{j=1}^K e^{z_j}}, \quad \text{for } i = 1, \ldots, K$$

其中，$z$ 是一个 $K$ 维向量，$K$ 是类别数。softmax 函数将 $z$ 中的每个元素 $z_i$ 变成一个概率 $p_i$，表示输入属于第 $i$ 个类别的概率。softmax 函数的输出 $p$ 是一个 $K$ 维向量，所有元素之和为 $1$。

在 PyTorch 中，可以通过 `torch.nn.functional.softmax()` 函数来实现 softmax 操作。具体用法如下：

import torch.nn.functional as F

x = torch.randn(2, 3) # 生成一个 2x3 的张量
y = F.softmax(x, dim=1) # 在第二个维度上进行 softmax

其中，`x` 是输入张量，`dim` 参数指定在哪个维度上进行 softmax 操作。上面的代码中，`dim=1` 表示在第二个维度（即列）上进行 softmax 操作。输出 `y` 是一个与 `x` 相同大小的张量，每一行元素都是一个概率分布。