pytorch中激活函数

在PyTorch中，常见的激活函数包括：

1. Sigmoid 激活函数：torch.sigmoid(x)
这个函数将输入值映射到0和1之间。

2. Tanh 激活函数：torch.tanh(x)
这个函数将输入值映射到范围为[-1, 1]之间。

3. ReLU (Rectified Linear Unit) 激活函数：torch.relu(x)
这个函数在输入大于0时返回输入值，小于等于0时返回0。

4. LeakyReLU 激活函数：torch.nn.LeakyReLU(negative_slope=0.01)
这个函数在输入大于0时返回输入值，小于等于0时返回负数的斜率乘以输入值。

5. Softmax 激活函数：torch.softmax(x, dim)
这个函数将输入值转化为概率分布，在指定的维度(dim)上进行归一化处理。

以上是一些常见的激活函数，在PyTorch中可以使用这些函数来激活神经网络的输出或隐藏层的输出。