逻辑回归模型-sigmod函数

逻辑回归模型中的sigmoid函数是一种常用的激活函数，它将任意实数映射到0和1之间。在逻辑回归中，sigmoid函数被用来将线性函数的输出转换为概率值，表示样本属于某个类别的概率。sigmoid函数的公式如下：

$$g(z) = \frac{1}{1+e^{-z}}$$

其中，$z$表示线性函数的输出，$g(z)$表示将$z$映射到0和1之间的概率值。当$z$趋近于正无穷时，$g(z)$趋近于1；当$z$趋近于负无穷时，$g(z)$趋近于0；当$z=0$时，$g(z)$等于0.5。

在逻辑回归中，我们需要通过最小化成本函数来求解模型参数。成本函数的公式如下：

$$J(\theta) = -\frac{1}{m}\sum_{i=1}^{m}[y^{(i)}\log(h_{\theta}(x^{(i)}))+(1-y^{(i)})\log(1-h_{\theta}(x^{(i)}))] + \frac{\lambda}{2m}\sum_{j=1}^{n}\theta_j^2$$

其中，$m$表示样本数量，$n$表示特征数量，$x^{(i)}$表示第$i$个样本的特征向量，$y^{(i)}$表示第$i$个样本的标签，$h_{\theta}(x^{(i)})$表示模型预测第$i$个样本为正例的概率，$\theta$表示模型参数，$\lambda$表示正则化参数。

逻辑回归模型的训练过程通常使用梯度下降算法。梯度下降算法的公式如下：

$$\theta_j := \theta_j - \alpha\frac{\partial J(\theta)}{\partial \theta_j}$$

其中，$\alpha$表示学习率，$\frac{\partial J(\theta)}{\partial \theta_j}$表示成本函数对$\theta_j$的偏导数。