yolov5激活函数

Yolov5 使用的激活函数是 GELU (Gaussian Error Linear Unit) 激活函数。GELU 激活函数是一种近似于 ReLU 的非线性激活函数，它在保持较好的数值稳定性的同时提供了更好的非线性表达能力。它的定义如下：

GELU(x) = 0.5 * x * (1 + tanh(sqrt(2/pi) * (x + 0.044715 * x^3)))

相比于传统的激活函数如 ReLU 或 sigmoid，GELU 激活函数在一些深度学习任务中表现更出色，对于 Yolov5 目标检测任务来说，GELU 激活函数在模型训练和推断中都能提供较好的性能。