岭回归python实现

岭回归是一种机器学习算法，用于处理回归问题。它可以在存在多重共线性时提高模型的稳定性和泛化能力。本文将介绍如何使用 Python 实现岭回归算法。

首先，我们需要导入必要的库：

import numpy as np
from sklearn.linear_model import Ridge
from sklearn.metrics import mean_squared_error

接下来，我们可以定义一个函数来生成数据。这里我们使用一个简单的正弦函数来生成一些带有噪声的数据。

def generate_data(n_samples, n_features):
    np.random.seed(0)
    X = np.random.randn(n_samples, n_features)
    w = np.random.randn(n_features)
    y = X.dot(w) + np.random.randn(n_samples)
    return X, y

接下来，我们可以使用生成的数据来训练岭回归模型。我们可以使用 `sklearn` 库中的 `Ridge` 类来实现。

def train_ridge(X, y, alpha):
    model = Ridge(alpha=alpha)
    model.fit(X, y)
    return model

在训练模型之后，我们可以使用 `mean_squared_error` 函数来计算模型的均方误差（MSE）。

def evaluate(model, X, y):
    y_pred = model.predict(X)
    mse = mean_squared_error(y, y_pred)
    return mse

最后，我们可以编写一个简单的脚本来生成数据、训练模型和评估模型。

if __name__ == '__main__':
    n_samples = 1000
    n_features = 10
    alpha = 0.1

    X, y = generate_data(n_samples, n_features)
    model = train_ridge(X, y, alpha)
    mse = evaluate(model, X, y)

    print(f"MSE: {mse}")

这就是如何使用 Python 实现岭回归算法的基本步骤。