numpy 逻辑回归

对于使用 NumPy 进行逻辑回归，你可以按照以下步骤进行操作：

1. 导入 NumPy 库：

import numpy as np

2. 准备数据集，包括特征矩阵 X 和目标变量矩阵 y。

3. 初始化模型参数，包括权重 w 和偏置项 b。

w = np.zeros((X.shape[1], 1))
b = 0

4. 定义 sigmoid 函数，将线性函数的输出转换为概率值。

def sigmoid(z):
    return 1 / (1 + np.exp(-z))

5. 定义损失函数，使用逻辑回归的交叉熵损失函数。

def loss_function(X, y, w, b):
    m = X.shape[0]
    z = np.dot(X, w) + b
    a = sigmoid(z)
    loss = -np.sum(y * np.log(a) + (1 - y) * np.log(1 - a)) / m
    return loss

6. 定义梯度计算函数，用于更新模型参数。

def gradient(X, y, w, b):
    m = X.shape[0]
    z = np.dot(X, w) + b
    a = sigmoid(z)
    dw = np.dot(X.T, (a - y)) / m
    db = np.sum(a - y) / m
    return dw, db

7. 使用梯度下降法更新模型参数。

def train(X, y, w, b, learning_rate, num_iterations):
    for i in range(num_iterations):
        dw, db = gradient(X, y, w, b)
        w = w - learning_rate * dw
        b = b - learning_rate * db
    return w, b

8. 进行模型训练。

w, b = train(X, y, w, b, learning_rate=0.01, num_iterations=1000)

现在，你可以使用训练得到的模型参数进行预测。