python GradientBoostingClassifier 可视化代码

以下是一个简单的 GradientBoostingClassifier 可视化代码示例：

from sklearn.ensemble import GradientBoostingClassifier
from sklearn.datasets import make_classification
import matplotlib.pyplot as plt

# 生成一个随机分类数据集
X, y = make_classification(n_samples=1000, n_features=10, n_informative=5, n_redundant=0, random_state=42)

# 初始化模型
clf = GradientBoostingClassifier(n_estimators=100, learning_rate=1.0, max_depth=1, random_state=42)

# 训练模型
clf.fit(X, y)

# 可视化特征的重要性
feature_importance = clf.feature_importances_
feature_names = [f'Feature {i}' for i in range(X.shape[1])]
plt.bar(feature_names, feature_importance)
plt.title('Feature Importance')
plt.xlabel('Features')
plt.ylabel('Importance Score')
plt.show()

# 可视化决策树
from sklearn.tree import export_graphviz
import pydotplus
from IPython.display import Image

dot_data = export_graphviz(clf.estimators_[0, 0], out_file=None, 
                           feature_names=feature_names,
                           class_names=['0', '1'], 
                           filled=True, rounded=True, 
                           special_characters=True)

graph = pydotplus.graph_from_dot_data(dot_data)
Image(graph.create_png())

这个代码示例中，我们首先使用 make_classification 生成一个随机分类数据集。然后初始化 GradientBoostingClassifier 模型并训练它。接下来，我们使用 matplotlib 可视化特征的重要性。最后，我们使用 export_graphviz 和 pydotplus 可视化第一个决策树。