python实现逻辑回归正则化
时间: 2023-09-08 09:14:24 浏览: 123
逻辑回归是一种用于分类问题的机器学习算法,它可以预测一个二元变量的输出,例如是/否、成功/失败等。它的主要思想是将线性回归的输出通过一个sigmoid函数映射到[0,1]之间,表示一个概率值。正则化是一种技术,用于减少过拟合的风险,通过向损失函数中添加惩罚项,使得模型更加平滑,降低了模型的方差。
下面是用Python实现逻辑回归正则化的代码:
```
import numpy as np
from sklearn.datasets import make_classification
from sklearn.linear_model import LogisticRegression
# 生成数据
X, y = make_classification(n_samples=100, n_features=5, random_state=42)
# 定义正则化参数
C = 1.0
# 定义逻辑回归模型
lr = LogisticRegression(penalty='l2', C=C, solver='lbfgs')
# 训练模型
lr.fit(X, y)
# 打印结果
print('Coefficients: \n', lr.coef_)
print('Intercept: \n', lr.intercept_)
```
在这个代码中,我们使用了sklearn库中的LogisticRegression模型来实现逻辑回归。penalty参数表示正则化类型,'l2'表示L2正则化,C参数表示正则化强度。在训练模型后,我们可以通过coef_和intercept_属性来查看模型的系数和截距。
阅读全文