正则化方法在线性模型中的应用

# 一、理解正则化方法

## 常见的正则化方法

### 三、 正则化方法在线性模型中的实际应用

在本节中，我们将讨论正则化方法在线性模型中的实际应用。我们会分别探讨如何在线性回归和逻辑回归中应用正则化方法。

#### 3.1 如何在线性回归中应用正则化方法？

在线性回归中，我们通常会使用L1正则化（Lasso）和L2正则化（Ridge）来控制模型的复杂度以及减少过拟合的风险。

下面是使用Python的Scikit-learn库来进行线性回归并应用L1和L2正则化的示例代码：

from sklearn.linear_model import Lasso, Ridge
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error
import pandas as pd

# 读取数据集
data = pd.read_csv('data.csv')
X = data.drop('target', axis=1)
y = data['target']

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 应用L1正则化
lasso_model = Lasso(alpha=0.1)
lasso_model.fit(X_train, y_train)
y_pred_lasso = lasso_model.predict(X_test)
lasso_mse = mean_squared_error(y_test, y_pred_lasso)

# 应用L2正则化
ridge_model = Ridge(alpha=0.1)
ridge_model.fit(X_train, y_train)
y_pred_ridge = ridge_model.predict(X_test)
ridge_mse = mean_squared_error(y_test, y_pred_ridge)

通过上述代码，我们首先读取数据集，然后将数据集划分为训练集和测试集。接着，我们分别使用Lasso和Ridg