多元性线性回归gbd数据集

### 多元线性回归与GBDT的数据集示例

#### 使用多元线性回归模型
多元线性回归是一种用于分析多个自变量如何影响因变量的技术。当面对简单线性和可加性的关系时，该方法非常有效[^3]。

import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.datasets import make_regression

# 创建合成数据集
X, y = make_regression(n_samples=1000, n_features=20, noise=0.1)

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 初始化并拟合线性回归模型
linear_reg = LinearRegression()
linear_reg.fit(X_train, y_train)

print(f'Linear Regression Coefficients: {linear_reg.coef_}')

然而，在许多实际应用中，尤其是存在复杂的非线性关系的情况下，仅依靠线性回归可能无法达到理想的性能水平。

#### 应用GBDT模型
相比之下，GBDT（Gradient Boosting Decision Tree）能够更好地捕捉到输入特征之间的复杂模式，并且对于高维空间中的稀疏向量也具有良好的适应能力[^1]。

from sklearn.ensemble import GradientBoostingRegressor

gbdt_reg = GradientBoostingRegressor(random_state=42)
gbdt_reg.fit(X_train, y_train)

print(f'GBDT Feature Importances: {gbdt_reg.feature_importances_}')

通过对比两种不同类型的模型——一个是基于参数化假设的传统统计学工具；另一个则是现代集成学习框架下的强大预测器——可以看出它们各自的优势所在。具体选择哪种取决于特定应用场景的需求以及所处理数据的特点。