逻辑回归logistic原理（python代码实现）

逻辑回归是一种用于分类问题的机器学习算法，其原理是基于线性回归的思想，通过使用逻辑函数（也称为sigmoid函数）将预测结果映射到[0,1]之间的概率值。以下是一个使用Python实现逻辑回归的示例代码：

import numpy as np
import matplotlib.pyplot as plt

# 定义sigmoid函数
def sigmoid(z):
    return 1 / (1 + np.exp(-z))

# 定义损失函数
def loss(h, y):
    return (-y * np.log(h) - (1 - y) * np.log(1 - h)).mean()

# 定义逻辑回归模型
class LogisticRegression:
    def __init__(self, lr=0.01, num_iter=100000, fit_intercept=True, verbose=False):
        self.lr = lr
        self.num_iter = num_iter
        self.fit_intercept = fit_intercept
        self.verbose = verbose
    
    def add_intercept(self, X):
        intercept = np.ones((X.shape[0], 1))
        return np.concatenate((intercept, X), axis=1)
    
    def fit(self, X, y):
        if self.fit_intercept:
            X = self.add_intercept(X)
        
        # 初始化权重参数
        self.theta = np.zeros(X.shape[1])
        
        for i in range(self.num_iter):
            z = np.dot(X, self.theta)
            h = sigmoid(z)
            gradient = np.dot(X.T, (h - y)) / y.size
            self.theta -= self.lr * gradient
            
            if(self.verbose == True and i % 10000 == 0):
                z = np.dot(X, self.theta)
                h = sigmoid(z)
                print(f'loss: {loss(h, y)}')
    
    def predict_prob(self, X):
        if self.fit_intercept:
            X = self.add_intercept(X)
            
        return sigmoid(np.dot(X, self.theta))
    
    def predict(self, X, threshold=0.5):
        return self.predict_prob(X) >= threshold

# 示例：使用逻辑回归对二分类数据进行训练和预测
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split

# 生成二分类数据集
X, y = make_classification(n_samples=100, n_features=2, n_informative=2, n_redundant=0, random_state=42)

# 将数据集划分为训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 创建逻辑回归模型并进行训练
model = LogisticRegression(lr=0.1, num_iter=300000)
model.fit(X_train, y_train)

# 在测试集上进行预测
y_pred = model.predict(X_test)

# 计算准确率
accuracy = (y_pred == y_test).mean()
print(f'Accuracy: {accuracy}')

这段代码首先定义了sigmoid函数和损失函数，然后实现了一个LogisticRegression类，其中包含了fit方法用于训练模型，以及predict_prob和predict方法用于预测。最后，示例代码使用sklearn库生成了一个二分类数据集，将数据集划分为训练集和测试集，并使用逻辑回归模型进行训练和预测。最后计算了预测的准确率。