Hard-Sigmoid 激活函数
时间: 2023-10-08 21:07:05 浏览: 133
神经网络的激活函数之sigmoid
Hard-Sigmoid是一种激活函数,它是Sigmoid激活函数的一种变体。与Sigmoid函数相比,Hard-Sigmoid函数的计算更加简单和高效。Hard-Sigmoid函数在输入值小于-2.5时输出为0,在输入值大于2.5时输出为1,而在输入值位于-2.5和2.5之间时输出为输入值的线性变换。这种函数的目的是在保持简单性和高效性的同时,提供一种非线性的表达能力。Hard-Sigmoid函数在一些轻量级网络中常常用来替代Sigmoid函数,以减少计算量和模型复杂度。<span class="em">1</span><span class="em">2</span><span class="em">3</span><span class="em">4</span>
阅读全文