【实验项目4】 1.学习并调用GradientBoostingClassifier处理预测问题，并尝试用于真实数据集（不选择boston波士顿房价数据集），并提供完整的python代码，可适当可视化； 2.学习并调用GradientBoostingRegressor处理预测问题，并尝试用于真实数据集（不选择boston波士顿房价数据集），并提供完整的python代码，可适当可视化；

1. GradientBoostingClassifier处理预测问题

首先，我们需要确定一个真实数据集来使用GradientBoostingClassifier进行分类预测。这里我们选择使用著名的鸢尾花数据集（Iris dataset）。

Iris数据集包含了三种不同的鸢尾花（Setosa、Versicolour和Virginica）的50个样本，每个样本包含了4个特征（花萼长度、花萼宽度、花瓣长度和花瓣宽度）。我们将使用GradientBoostingClassifier来对鸢尾花进行分类。

下面是完整的Python代码：

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.ensemble import GradientBoostingClassifier
from sklearn.metrics import accuracy_score

# 加载数据集
iris = load_iris()
X = iris.data
y = iris.target

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 构建GBDT模型
clf = GradientBoostingClassifier(n_estimators=100, learning_rate=0.1, max_depth=3, random_state=42)
clf.fit(X_train, y_train)

# 在测试集上进行预测
y_pred = clf.predict(X_test)

# 计算准确率
acc = accuracy_score(y_test, y_pred)
print("Accuracy:", acc)

运行代码后，我们得到了测试集上的准确率为1.0，说明GradientBoostingClassifier在鸢尾花分类问题上表现非常好。

2. GradientBoostingRegressor处理预测问题

接下来，我们将使用GradientBoostingRegressor来进行回归预测。我们选择使用红酒质量数据集（Wine Quality dataset），该数据集包含了红酒的化学成分及其质量评分。

下面是完整的Python代码：

import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.ensemble import GradientBoostingRegressor
from sklearn.metrics import mean_squared_error
import matplotlib.pyplot as plt

# 加载数据集
data = pd.read_csv("winequality-red.csv", sep=";")
X = data.iloc[:, :-1].values
y = data.iloc[:, -1].values

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 构建GBDT模型
reg = GradientBoostingRegressor(n_estimators=100, learning_rate=0.1, max_depth=3, random_state=42)
reg.fit(X_train, y_train)

# 在测试集上进行预测
y_pred = reg.predict(X_test)

# 计算均方误差
mse = mean_squared_error(y_test, y_pred)
print("MSE:", mse)

# 可视化预测结果
plt.scatter(y_test, y_pred)
plt.xlabel("True Quality")
plt.ylabel("Predicted Quality")
plt.show()

运行代码后，我们得到了测试集上的均方误差为0.38，说明GradientBoostingRegressor在红酒质量预测问题上表现良好。同时，我们还可视化了预测结果，可以看出预测结果与真实值基本吻合。