leaky relu python

### 实现和使用Leaky ReLU激活函数

#### 使用PyTorch库实现Leaky ReLU
为了在Python中利用`LeakyReLU`作为激活函数，可以借助于流行的机器学习框架之一——PyTorch。下面展示了创建并应用该激活函数的具体方法：

import torch.nn as nn
import torch

# 初始化带有指定负斜率参数的LeakyReLU对象
leaky_relu = nn.LeakyReLU(negative_slope=0.05)

# 创建输入张量
input_tensor = torch.tensor([-1., 0., 1.])

# 应用LeakyReLU变换
output_tensor = leaky_relu(input_tensor)
print(output_tensor)  # 输出经过LeakyReLU处理后的结果

这段代码首先导入必要的模块，并初始化了一个具有特定负斜率(`negative_slope`)值的对象来表示LeakyReLU操作[^2]。

#### 绘制Leaky ReLU函数图形
除了直接应用于数据外，还可以通过可视化的方式更好地理解这个激活函数的行为模式。这里给出了一段用于绘制其曲线图的例子：

import numpy as np
import matplotlib.pyplot as plt

def plot_leakyrelu():
    # 设置x轴范围以及采样点数量
    x_values = np.linspace(-3, 3, 100)
    
    # 将numpy数组转换成torch tensor以便后续计算
    input_x = torch.from_numpy(x_values).float()
    
    # 计算对应的y坐标（即LeakyReLU输出）
    output_y = leaky_relu(input_x).detach().numpy()

    # 开始绘图过程
    fig, ax = plt.subplots(figsize=(8, 6))
    ax.plot(x_values, output_y, label='Leaky ReLU')
    ax.set_xlabel('Input Value (X)')
    ax.set_ylabel('Output Value (Y)')
    ax.legend(loc="upper left")
    plt.title("Graph of Leaky ReLU Activation Function", fontsize=14)
    plt.grid(True)
    plt.show()

plot_leakyrelu()  

此部分不仅重现了原始提供的绘图逻辑，还增加了更多细节设置以增强图表的表现力。