Python贝叶斯调参代码

当使用Python进行贝叶斯调参时，可以使用一些开源库来帮助实现。其中，`scikit-learn`和`hyperopt`是常用的库之一。

首先，你需要安装这两个库。可以使用以下命令来安装它们：

pip install scikit-learn
pip install hyperopt

接下来，你可以使用以下代码作为一个简单的示例来进行贝叶斯调参：

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from hyperopt import hp, fmin, tpe, Trials

# 加载数据集
data = load_iris()
X = data.data
y = data.target

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 定义超参数空间
space = {
    'n_estimators': hp.choice('n_estimators', range(10, 100)),
    'max_depth': hp.choice('max_depth', range(1, 10)),
    'criterion': hp.choice('criterion', ['gini', 'entropy'])
}

# 定义目标函数
def objective(params):
    model = RandomForestClassifier(**params)
    model.fit(X_train, y_train)
    score = model.score(X_test, y_test)
    return -score  # 负号因为fmin函数是最小化目标函数

# 运行贝叶斯优化
trials = Trials()
best = fmin(fn=objective,
            space=space,
            algo=tpe.suggest,
            max_evals=100,
            trials=trials)

# 输出最佳超参数
print("Best hyperparameters:", best)

# 输出最佳模型得分
best_params = space_eval(space, best)
best_model = RandomForestClassifier(**best_params)
best_model.fit(X_train, y_train)
best_score = best_model.score(X_test, y_test)
print("Best score:", best_score)

这段代码使用了`RandomForestClassifier`作为分类器，以鸢尾花数据集为例进行演示。你可以根据自己的需求修改分类器和数据集。