什么是RElu激活函数

RELU是一种常用的激活函数，全称为Rectified Linear Unit，中文名为修正线性单元。它是一个非常简单的函数，当输入大于0时，输出就是输入值本身；当输入小于等于0时，输出就是0。它的公式为f(x) = max(0,x)。相比于其他激活函数，RELU具有计算速度快、实现简单等优点，因此被广泛应用于深度学习中。