h_swith激活函数
时间: 2024-05-10 22:05:12 浏览: 147
我不知道 "h_swith" 激活函数是什么。也许您想说的是 "hard swish" 激活函数,这是一种用于深度神经网络的非线性激活函数。它是由华为Noah的研究员提出的,旨在提高神经网络的精度和速度。它是sigmoid函数和ReLU函数的结合体,可以通过以下公式计算:h_swish(x) = x * ReLU6(x+3) / 6,其中ReLU6(x) = min(max(0,x), 6)。
阅读全文