leaky_relu pytorch怎么写

Leaky ReLU是一种修正线性单元的变体，在输入为负数时保留一个小的斜率而不是输出零。在PyTorch中，可以使用torch.nn中的LeakyReLU模块来实现Leaky ReLU。

我们可以通过在LeakyReLU模块的构造函数中传递一个负斜率参数来设置Leaky ReLU的斜率。例如，如果我们想使用0.2的斜率，我们可以这样写：

import torch.nn as nn

leaky_relu = nn.LeakyReLU(negative_slope=0.2)

在模型的forward方法中，我们可以将输入张量传递给LeakyReLU模块提取基于Leaky ReLU的特征：

class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        self.fc1 = nn.Linear(10, 20)
        self.leaky_relu = nn.LeakyReLU(negative_slope=0.2)
        self.fc2 = nn.Linear(20, 1)

    def forward(self, x):
        x = self.fc1(x)
        x = self.leaky_relu(x)
        x = self.fc2(x)
        return x

以上是如何使用PyTorch中的LeakyReLU模块来实现Leaky ReLU，这样可以方便地集成到神经网络中，并加速应用。