LASSO回归参数寻优,python代码
时间: 2023-10-17 09:18:00 浏览: 107
岭回归 LASSO回归 (python 实现)
LASSO回归是一种线性回归的方法,通过L1正则化对模型进行参数寻优,可以用于特征选择或防止过拟合。在Python中,可以使用scikit-learn库来实现LASSO回归。下面是一个简单的LASSO回归示例代码:
```python
from sklearn.linear_model import Lasso
from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error
# 加载数据集
boston = load_boston()
X = boston.data
y = boston.target
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# 创建LASSO回归模型并训练
lasso = Lasso(alpha=0.1)
lasso.fit(X_train, y_train)
# 预测测试集结果
y_pred = lasso.predict(X_test)
# 计算均方误差
mse = mean_squared_error(y_test, y_pred)
print("均方误差:", mse)
```
在代码中,首先加载了波士顿房价数据集,然后将数据集划分为训练集和测试集。接着创建LASSO回归模型并训练,其中alpha参数控制正则化项的强度,较大的alpha值可以更强烈地惩罚模型复杂度。最后,预测测试集结果并计算均方误差。
阅读全文