sigmoid_formula

sigmoid函数是一种常用的激活函数，它将输入的实数映射到一个范围在0到1之间的值。sigmoid函数的数学表达式为：

sigmoid(x) = 1 / (1 + e^(-x))

其中，e是自然对数的底数。sigmoid函数的图像呈现出"S"形曲线，因此也被称为S型函数。

sigmoid函数在机器学习和神经网络中广泛应用，主要用于将输入的线性加权和转换为概率输出。它具有以下特点：
1. 输出范围在0到1之间，可以表示概率或激活程度。
2. 在输入接近正无穷或负无穷时，输出趋近于1或0，具有饱和性。
3. 输出在接近0或1时变化较为平缓，有利于梯度下降算法的稳定性。

sigmoid函数的导数可以通过其函数表达式进行推导，得到如下形式：

sigmoid'(x) = sigmoid(x) * (1 - sigmoid(x))

这个导数在反向传播算法中非常重要，用于计算误差对于权重的梯度。