给出sigmoid函数的求导
时间: 2023-12-31 11:04:50 浏览: 61
激活函数在神经网络中应用,sigmoid导数证明sigmoid*(1-sigmoid)
sigmoid函数的公式为:
$$
\sigma(x) = \frac{1}{1 + e^{-x}}
$$
对其求导得到:
$$
\begin{aligned}
\frac{d\sigma(x)}{dx} &= \frac{d}{dx} \frac{1}{1 + e^{-x}} \\
&= \frac{d}{dx} (1 + e^{-x})^{-1} \\
&= -(1 + e^{-x})^{-2} \cdot \frac{d}{dx}(1 + e^{-x}) \\
&= -(1 + e^{-x})^{-2} \cdot (-e^{-x}) \\
&= \frac{e^{-x}}{(1 + e^{-x})^{2}} \\
&= \frac{1}{1 + e^{-x}} \cdot \frac{e^{-x}}{1 + e^{-x}} \\
&= \sigma(x) \cdot (1 - \sigma(x))
\end{aligned}
$$
因此,sigmoid函数的导数为:
$$
\frac{d\sigma(x)}{dx} = \sigma(x) \cdot (1 - \sigma(x))
$$
阅读全文