leakyrelu的tensorflow代码

LeakyReLU是神经网络中的一个激活函数，它是ReLU（Rectified Linear Unit）的一个变种。与ReLU在负值时返回0不同，LeakyReLU会为负值保留一个小的梯度，通常设定为0.01。LeakyReLU的数学表达式是：

LeakyReLU(x) = max(x, alpha * x)

其中，x是输入值，alpha是一个固定的值，用于控制负数部分的斜率。

以下是使用TensorFlow实现LeakyReLU函数的代码示例：

import tensorflow as tf

def leaky_relu(features, alpha=0.01):
    return tf.maximum(features, alpha * features)

# 示例使用
with tf.Graph().as_default(), tf.Session() as sess:
    # 创建一个占位符用于输入数据
    x = tf.placeholder(tf.float32, shape=(None, 10))

    # 应用LeakyReLU激活函数
    y = leaky_relu(x)

    # 假设有一个输入值
    input_val = 0.5

    # 运行会话，计算LeakyReLU的输出
    output = sess.run(y, feed_dict={x: [[input_val]]})
    print(output)

在这段代码中，我们首先导入了tensorflow库，并定义了一个名为`leaky_relu`的函数，它接受特征输入和一个可选的alpha参数。然后使用`tf.maximum`函数实现了LeakyReLU的核心逻辑。接下来，我们创建了一个TensorFlow图和会话，并定义了一个占位符变量`x`用于输入数据。通过调用`leaky_relu`函数并提供一个输入值，我们得到了LeakyReLU激活后的输出。