python实现sigmoid函数反向传播

sigmoid函数的数学表达式为：
$$
\sigma(z) = \frac{1}{1+e^{-z}}
$$
sigmoid函数的导数为：
$$
\sigma'(z) = \sigma(z)(1-\sigma(z))
$$
反向传播中，对于一个单独的神经元，我们需要计算其误差对于输入的导数，即$\frac{\partial E}{\partial z}$。其中$E$为损失函数。

假设当前神经元的输入为$z$，输出为$a$，误差为$\delta$，则有：
$$
\delta = \frac{\partial E}{\partial z}
$$
根据链式法则，可以将$\delta$拆分为$\frac{\partial E}{\partial a}$和$\frac{\partial a}{\partial z}$的乘积：
$$
\delta = \frac{\partial E}{\partial a} \frac{\partial a}{\partial z}
$$
其中$\frac{\partial E}{\partial a}$表示误差对于输出的导数，$\frac{\partial a}{\partial z}$表示输出对于输入的导数。

对于sigmoid函数，输出$a$为$\sigma(z)$，所以有：
$$
\frac{\partial a}{\partial z} = \sigma'(z) = \sigma(z)(1-\sigma(z))
$$
将其代入上式得：
$$
\delta = \frac{\partial E}{\partial a} \sigma(z)(1-\sigma(z))
$$
其中$\frac{\partial E}{\partial a}$可以通过损失函数的求导得到。

综上，我们可以得到sigmoid函数的反向传播公式：
$$
\delta = \frac{\partial E}{\partial a} \sigma(z)(1-\sigma(z))
$$