【数据预处理黄金法则】：为Python神经网络算法打造高效数据集

# 1. 数据预处理的基础概念

数据预处理是任何数据分析或机器学习项目的关键第一步。在这一阶段，我们的目标是将原始数据转换成可以被算法有效利用的形式。数据预处理通常涉及以下几个核心环节：数据清洗、数据转换、数据规约和数据离散化等。理解这些步骤对于后续的数据建模和分析至关重要。

数据预处理不仅包括对数据的清洗，还包括对数据集的整合、转换和标准化。清洗步骤通常需要我们识别并处理缺失值、异常值以及不一致的数据。而数据转换则可能包括对数据的规范化，使其符合特定的模型需求，例如数值范围或分布。

预处理后的数据质量直接关系到最终模型的准确性和可靠性。因此，本章将详细探讨数据预处理的基础概念，为后续章节中深入的数据集分析和特征工程提供坚实的基础。接下来，我们将逐步揭开数据预处理技术的神秘面纱，引导读者系统学习和掌握这一过程。

# 2. 理解数据集的特征和需求

数据是机器学习模型的基础。数据科学家花费大量时间去理解数据集的特征和需求，以确保能够从数据中提取到最有价值的信息。本章节我们将深入探讨数据集的类型与特征、数据预处理的目标与挑战，以及评估数据质量的方法。

## 2.1 数据集的类型与特征
### 2.1.1 数据集的分类标准
数据集可以基于其特征和用途进行分类。在机器学习中，常见的数据集类型包括结构化数据集、半结构化数据集和非结构化数据集。结构化数据集通常包含表格数据，如CSV或数据库中的表格，其中每列代表一个特征，每行代表一个样本。半结构化数据，例如JSON或XML文件，提供了更为灵活的数据组织方式，但仍含有层次或标签信息。而非结构化数据集包括文本、图片、音频和视频等，需要经过解析和转换才能使用。

### 2.1.2 特征工程的重要性
特征工程是数据科学中的关键步骤，其目的是创造新的特征或转换现有特征，以便更好地训练机器学习模型。特征工程包括特征选择、特征提取和特征构造等方法。好的特征能够提升模型的性能，而低质量的特征可能使模型变得复杂且难以训练。一个有效的特征工程流程能够减少过拟合、提升模型的泛化能力，并且缩短训练时间。

## 2.2 数据预处理的目标和挑战
### 2.2.1 预处理的目标概述
数据预处理的目标是使原始数据适用于机器学习模型的训练。主要目标包括处理缺失值、异常值、数据标准化和归一化、编码和转换类别变量。这些步骤有助于提高模型的准确度和效率。预处理也包括数据集的划分，将数据集分为训练集、验证集和测试集，以便于模型评估和验证。

### 2.2.2 面临的常见挑战
预处理数据时常见的挑战包括数据噪声、不一致性、不平衡的数据分布、缺失值和异常值处理，以及类别不平衡问题。噪声数据可能会导致模型学习错误的规律，而不一致的数据可能会导致模型学到不准确的特征。不平衡的数据分布可能会导致模型偏向于多数类，而类别不平衡问题需要采取过采样或欠采样策略来解决。

## 2.3 数据质量的评估方法
### 2.3.1 数据质量指标
数据质量指标如完整性、一致性、准确性、可信度、唯一性和及时性，是衡量数据质量的重要标准。完整性指的是数据集中的数据是否齐全；一致性指数据在不同的系统或报告中是否一致；准确性指的是数据的正确程度；可信度是数据可被信赖的程度；唯一性指数据中是否存在重复；及时性指的是数据是否是最新的。

### 2.3.2 数据质量的量化评估
为了量化评估数据质量，通常采用统计分析方法。例如，通过缺失值的百分比来评估数据集的完整性，通过数据的重复率来评估唯一性，通过异常值的频率来评估一致性，通过数据的准确度来评估准确性。同时，数据质量的评估也需要结合实际业务场景，因为某些指标在特定的应用领域中可能更为重要。

### 表格：数据质量指标及其评估方法

| 数据质量指标 | 评估方法 |
| --- | --- |
| 完整性 | 缺失值的统计分析 |
| 一致性 | 不同数据源间的数据比对 |
| 准确性 | 对比真实数据进行样本校验 |
| 可信度 | 专家评审或第三方验证 |
| 唯一性 | 检测重复数据的存在 |
| 及时性 | 数据更新时间的监控 |

### mermaid流程图：数据预处理流程

graph LR
    A[原始数据集] --> B[数据清洗]
    B --> C[特征工程]
    C --> D[数据增强]
    D --> E[数据集分割]
    E --> F[模型训练]
    F --> G[模型评估与调优]

以上内容介绍了数据集特征与需求的初步理解，包括数据集的类型与特征、数据预处理的目标和挑战以及数据质量的评估方法。下一章节，我们将详细探讨数据清洗技术，这是数据预处理中非常关键的一步。

# 3. 数据清洗技术详解

数据清洗是数据预处理过程中的关键步骤，它对确保数据质量以及模型的准确性具有决定性作用。在这一章节中，我们将深入探讨处理缺失值、检测和处理异常值，以及数据标准化与归一化的方法。

## 处理缺失值

### 缺失值的识别与统计

在开始处理缺失值之前，首先要识别数据集中哪些值是缺失的。缺失值指的是在数据集中未被记录或者丢失的数据，常见的表示形式有NaN（Not a Number）、空字符串、或者特殊的标识符。在Python的pandas库中，可以使用`isnull()`方法来检测缺失值，而`notnull()`则用于检测非缺失值。

import pandas as pd
import numpy as np

# 创建一个包含缺失值的数据框
data = pd.DataFrame({
    'A': [1, 2, np.nan, 4],
    'B': [5, np.nan, np.nan, 8],
    'C': [9, 10, 11, 12]
})

# 识别缺失值
missing_values = data.isnull()
print(missing_values)

执行上述代码块，会得到一个新的数据框，其中True表示对应位置存在缺失值，False则表示数据完整。

在识别了缺失值后，需要对它们进行统计分析，以了解数据集中缺失值的数量和分布情况。统计的方式包括计算各列的缺失值比例和计算数据集整体的缺失值比例。

# 统计缺失值数量
missing_count = data.isnull().sum()

# 统计缺失值比例
missing_percentage = data.isnull().sum() / len(data) * 100

print("缺失值数量:\n", missing_count)
print("缺失值比例:\n", missing_percentage)

### 缺失值的处理策略

对于缺失值的处理，有多种策略可采用。常见的有以下几种：

1. **删除含有缺失值的记录**：如果数据集很大，并且缺失值分布广泛，这种策略简单有效。
2. **填充缺失值**：使用一个统计量（如平均值、中位数或众数）填充缺失值，适用于数值型数据。对于分类数据，可以使用众数。
3. **插值**：对于时间序列数据，可以使用插值方法如线性插值、多项式插值等来估算缺失值。
4. **使用模型预测**：建立一个模型来预测缺失值。例如，使用随机森林、梯度提升机等算法进行预测。
5. **使用特殊值标记**：对于缺失值有特殊意义的情况，可以使用特殊值（如-1或0）来标记缺失值。

# 使用平均值填充数值型数据的缺失值
data_filled = data.fillna(data.mean())

# 使用众数填充分类数据的缺失值
data_mode_filled = data.fillna(data.mode().iloc[0])

print("使用平均值填充后:\n", data_filled)
print("使用众数填充后:\n", data_mode_filled)

处理缺失值时，需要注意不同策略对模型预测的影响，以及是否符合数据的业务逻辑。

## 异常值的检测与处理

异常值是指那些与数据集中其他数据显著不同的观测值，它可能是由于测量错误、输入错误或其他异常情况产生的。处理异常值时需要谨慎，因为它们有时候也可能是非常有价值的信息。

### 异常值的识别方法

识别异常值可以采用以下方法：

1. **基于统计的方法**：例如，使用标准差、四分位数范围（IQR）等。
2. **基于模型的方法**：使用聚类分析，如K-means或DBSCAN等方法。
3. **可视化方法**：使用箱形图、散点图等可视化方法直观地识别异常值。

import matplotlib.pyplot as plt
import seaborn as sns

# 使用箱形图识别异常值
sns.boxplot(data=data['B'])
plt.show()

### 异常值的处理技巧

处理异常值的方法包括：

1. **删除异常值**：如果确定某值确实是异常值，可以直接从数据集中删除。
2. **修正异常值**：有时候，异常值可能是由于输入错误导致的，可以根据业务经验对其进行修正。
3. **保留异常值**：在某些情况下，异常值可能是数据集的重要部分，应予以保留。
4. **转换数据**：应用数据转换，如对数转换、Box-Cox转换等，以减少异常值的影响。

# 删除异常值
Q1 = data['B'].quantile(0.25)
Q3 = data['B'].quantile(0.75)
IQR = Q3 - Q1
data_filtered = data[~((data['B'] < (Q1 - 1.5 * IQR)) | (data['B'] > (Q3 + 1.5 * IQR)))]

print("删除异常值后的数据:\n", data_filtered)

在实际操作中，需要根据数据集和业务目标来决定如何处理异常值。

## 数据标准化与归一化

数据标准化和归一化是数据清洗过程中非常重要的步骤，它们旨在消除不同量纲、不同规模数据的影响，确保数据的可比性。

### 数据标准化的作用与方法

数据标准化（Standardization）是将数据按比例缩放，使之落入一个小的特定区间。常用的方法有：

1. **Z-score标准化**：减去均值，再除以标准差。
2. **最小-最大标准化**：将数据缩放到[0,1]区间。

from sklearn.preprocessing import StandardScaler

# Z-score标准化
scaler = StandardScaler()
data_standardized = scaler.fit_transform(data[['B']])
data_standardized = pd.DataFrame(data_standardized, columns=['B'])

### 数据归一化的适用场景

数据归一化（Normalization）常用于将数据缩放到一个规范区间，比如[0,1]。这在很多算法中尤其重要，比如神经网络。常用的方法是：

from sklearn.preprocessing import MinMaxScaler

# 最小-最大标准化
min_max_scaler = MinMaxScaler()
data_normalized = min_max_scaler.fit_transform(data[['B']])
data_normalized = pd.DataFrame(data_normalized, columns=['B'])

数据归一化和标准化在不同场景下的应用需要根据模型的需要和数据的特点来选择。标准化更适用于数据的分布近似正态分布的情况，而归一化适用于算法对数值大小比较敏感的情况，比如KNN算法。

通过本章节的介绍，我们已经了解了数据清洗中处理缺失值、异常值以及进行数据标准化和归一化的概念和操作方法。下一章将介绍特征工程的实战演练，包括特征选择技术、特征构造与提取以及编码与转换的方法。

# 4. 特征工程的实战演练

## 4.1 特征选择技术

在机器学习和数据挖掘项目中，特征选择技术是关键步骤之一。它帮助我们从原始数据集中选择出对于模型训练最有价值的特征子集。特征选择不仅能提升模型的泛化能力，减少过拟合的风险，还能显著减少数据预处理和模型训练的时间。本小节我们将详细介绍三种主要的特征选择技术：过滤式、包裹式和嵌入式。

### 4.1.1 过滤式特征选择方法

过滤式特征选择方法依赖于数据的统计特性来选择特征。这种方法通常使用单变量的统计测试来评估每个特征与目标变量之间的关系，比如卡方检验、方差分析（ANOVA）或相关系数等。然后根据统计测试的分数进行特征排序，并选择分数最高的前N个特征。

#### 代码示例：使用Python进行过滤式特征选择

from sklearn.feature_selection import SelectKBest, f_classif

# 假设X为特征矩阵，y为目标变量
X = ...  # 特征矩阵
y = ...  # 目标变量，分类问题

# 选择最佳的K个特征，这里以ANOVA F-value为例
k = 5
selector = SelectKBest(f_classif, k=k)
X_new = selector.fit_transform(X, y)

# 输出选中的特征
selected_features = selector.get_support(indices=True)
print("选中的特征索引：", selected_features)

#### 参数说明与逻辑分析

- `SelectKBest`：这是一个基于过滤的特征选择方法，选择最佳的K个特征。
- `f_classif`：这是一个评分函数，使用ANOVA F-value对特征的重要性进行评分。
- `fit_transform`：这个方法首先对特征进行评分，然后根据分数选择最佳的K个特征。

过滤式特征选择方法的优点是简单、速度快，易于实现。但缺点也很明显，因为它忽略了特征之间的关系以及特征和模型之间的关系，因此选择的特征可能并不是构建最优模型所必须的。

### 4.1.2 包裹式特征选择方法

包裹式特征选择方法利用模型的预测性能来评估特征子集。它使用一个外部的模型来迭代地添加和移除特征，直到找到一个最优的特征子集。常见的包裹式方法有递归特征消除（RFE）。

#### 代码示例：使用Python进行递归特征消除（RFE）

from sklearn.feature_selection import RFE
from sklearn.ensemble import RandomForestClassifier

# 假设X为特征矩阵，y为目标变量
X = ...  # 特征矩阵
y = ...  # 目标变量，分类问题

# 使用随机森林作为特征选择的评估模型
estimator = RandomForestClassifier()
selector = RFE(estimator, n_features_to_select=5, step=1)
selector = selector.fit(X, y)

# 输出选中的特征
selected_features = selector.get_support(indices=True)
print("选中的特征索引：", selected_features)

#### 参数说明与逻辑分析

- `RFE`：这是一个包裹式特征选择方法，递归地消除特征。
- `RandomForestClassifier`：这是一个基于集成学习的分类器，用于RFE的评分。
- `n_features_to_select`：这是一个参数，用于指定想要选择的特征数量。

包裹式特征选择方法的优点是能够选择出和特定模型最匹配的特征子集，但缺点是计算成本高，特别是特征数量较大时。由于其高度依赖于模型选择，还可能受到模型偏见的影响。

### 4.1.3 嵌入式特征选择方法

嵌入式特征选择方法在模型训练的过程中同时进行特征选择，特征的选择是模型训练过程的一部分。这在一定程度上减轻了模型训练的压力，同时结合了过滤式和包裹式方法的特点。

#### 代码示例：使用Python的L1正则化进行特征选择

from sklearn.linear_model import LogisticRegression
import numpy as np

# 假设X为特征矩阵，y为目标变量
X = ...  # 特征矩阵
y = ...  # 目标变量，分类问题

# 使用带有L1正则化（Lasso）的逻辑回归进行特征选择
estimator = LogisticRegression(penalty='l1')
estimator.fit(X, y)

# 输出选中的特征
selected_features = np.where(estimator.coef_[0] != 0)[0]
print("选中的特征索引：", selected_features)

#### 参数说明与逻辑分析

- `LogisticRegression`：这是一个使用了L1正则化的逻辑回归模型，可实现特征选择。
- `penalty='l1'`：这是一个参数，设置正则化类型为L1。

嵌入式特征选择方法的优点是选择的特征子集通常对模型训练和预测都有正面的影响，但缺点是可能没有包裹式方法灵活，且对正则化强度的依赖较强。

## 4.2 特征构造与提取

在数据挖掘和机器学习任务中，特征构造和提取是提升模型性能的重要环节。通过构造和提取新的特征，我们能够改善模型的预测能力，有时甚至可以实现性能的显著提升。本小节将分别介绍基于领域知识的特征构造和基于数据挖掘的特征提取。

### 4.2.1 基于领域知识的特征构造

基于领域知识的特征构造是一种使用专家知识和先验知识来创建新特征的方法。这种方法通常要求数据科学家对业务领域有深入的理解，能够从数据中构造出有意义的新特征。

#### 案例分析：使用领域知识构造特征

假设我们正在处理一个信用卡欺诈检测问题，我们有一些基础的交易信息，比如交易金额、交易时间、持卡人信息等。通过领域知识，我们知道欺诈交易可能具有以下特点：

- 某些时间（如深夜）发生的交易更有可能是欺诈。
- 连续多个小额交易可能是尝试绕过安全检测。
- 与持卡人历史交易习惯不符的交易可能是欺诈。

基于这些知识，我们可以构造以下新特征：

- `交易时间特征`：将时间转换为小时，并创建一个指示变量表示深夜（例如晚上10点到凌晨4点）。
- `交易频率特征`：计算过去一定时间窗口内的交易频率。
- `交易金额变化特征`：计算与历史平均交易金额的偏差。

通过这些基于领域知识构造的新特征，我们能够提供给模型更丰富的信息，从而提升模型的检测能力。

### 4.2.2 基于数据挖掘的特征提取

基于数据挖掘的特征提取通常指的是使用一些现成的算法从原始数据中自动提取特征。这样的方法不需要领域专家的干预，可以自动挖掘特征的重要模式。

#### 代码示例：使用PCA进行特征提取

from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler

# 假设X为原始特征矩阵
X = ...  # 特征矩阵

# 数据标准化
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# 应用PCA进行特征提取
pca = PCA(n_components=5)
X_pca = pca.fit_transform(X_scaled)

# 输出提取后的特征
print("提取的特征：\n", X_pca)

#### 参数说明与逻辑分析

- `PCA`：这是一个主成分分析的算法，用于特征提取。
- `n_components=5`：这是一个参数，指定我们想要提取的主成分数量。

PCA通过减少特征的数量来提取主要的方差部分，忽略掉噪声和次要特征。这不仅可以减少数据的维度，还能帮助提高模型的训练速度和性能。当然，PCA也有一些局限性，例如它不考虑任何目标变量，因此提取的特征可能不总是对预测任务最有用的。

## 4.3 编码与转换

在进行特征工程时，类别变量和非数值特征的编码与转换是一个常见且重要的任务。正确处理这些特征对于构建高效模型至关重要。本小节将探讨类别变量的编码技巧和非数值特征的转换方法。

### 4.3.1 类别变量的编码技巧

类别变量通常表示分类信息，如性别、国家、颜色等。在机器学习模型中，这些变量需要被适当地转换成数值形式，才能被模型接受和处理。

#### 代码示例：使用One-Hot编码转换类别变量

from sklearn.preprocessing import OneHotEncoder

# 假设df为包含类别特征的DataFrame
df = ...  # 带类别特征的DataFrame

# 创建OneHot编码器实例
encoder = OneHotEncoder()
encoded = encoder.fit_transform(df[['category_column']])

# 查看编码后的数据
encoded_df = pd.DataFrame(encoded.toarray(), columns=encoder.get_feature_names(['category_column']))
print("编码后的数据：\n", encoded_df)

#### 参数说明与逻辑分析

- `OneHotEncoder`：这是一个将类别变量转换为独热编码（One-Hot Encoding）的工具。
- `fit_transform`：这个方法首先拟合类别变量，然后进行转换。
- `get_feature_names`：此方法用于获取生成的独热编码特征的名称。

One-Hot编码适用于类别变量中没有自然排序关系的情况，它为每个类别创建一个新的二进制特征列。这种方法简单直观，但会产生高维稀疏矩阵，特别是在类别变量有大量唯一值时。

### 4.3.2 非数值特征的转换方法

非数值特征，如文本和日期时间，需要特定的转换方法以适配数值模型。文本数据常常需要进行词袋模型转换或TF-IDF转换，日期时间数据则需要转换为有意义的时间段或者时间戳。

#### 代码示例：将日期时间转换为时间周期特征

import pandas as pd
from sklearn.preprocessing import LabelEncoder

# 假设df为包含日期时间的DataFrame
df = ...  # 带日期时间特征的DataFrame

# 创建Label编码器实例
label_encoder = LabelEncoder()
df['date'] = pd.to_datetime(df['date'])
df['date_encoded'] = label_encoder.fit_transform(df['date'])

# 查看转换后的数据
print("日期时间转换后的数据：\n", df['date_encoded'])

#### 参数说明与逻辑分析

- `LabelEncoder`：这是一个将类别标签编码为可排序的数值标签的工具。
- `pd.to_datetime`：这是将文本格式的日期时间转换为Python的datetime对象。

通过将日期时间转换为数值表示，我们能够保留时间的顺序信息，同时使得机器学习模型能够处理这些数据。这对于时间序列预测和其他相关任务非常有用。

在处理非数值特征时，选择合适的转换方法取决于具体的应用场景和模型要求。每种转换都有其优缺点，因此在实践中常常需要根据模型性能和数据特点进行多次尝试和调整。

通过上述讨论和代码示例，本章节详细介绍了特征工程中的特征选择技术、特征构造与提取以及编码与转换的方法和技巧。这些是特征工程中不可或缺的步骤，它们对于最终构建高性能机器学习模型起着至关重要的作用。

# 5. 数据增强与验证策略

## 5.1 数据增强技术

在数据预处理过程中，数据增强是提高模型鲁棒性和泛化能力的重要手段。它通过创造数据的变体来扩展数据集，从而减少过拟合的风险，并且可以在有限的数据情况下提升模型性能。

### 5.1.1 数据增强的常用方法

数据增强可以应用于不同类型的数据，比如图像、文本和音频。针对图像数据，常用的数据增强方法包括旋转、缩放、翻转、裁剪和颜色调整等。这些方法可以在不改变图像原有标签的前提下增加图像数据的多样性。

from imgaug import augmenters as iaa

# 定义一个图像增强序列
seq = iaa.Sequential([
    iaa.Fliplr(0.5),  # 随机水平翻转图片
    iaa.Affine(
        scale={"x": (0.8, 1.2), "y": (0.8, 1.2)},
        rotate=(-25, 25)
    ),  # 随机缩放和旋转图片
])

# 假设 image 是需要增强的图像数据
augmented_images = seq.augment_images([image])

对于文本数据，可以通过同义词替换、句子重排、插入噪声等方式来增强数据集。在音频数据上，可以通过改变音调、增加噪音、调整播放速度等手段进行增强。

### 5.1.2 数据增强对模型性能的影响

正确实施的数据增强可以显著改善模型的性能，尤其是当原始训练数据集较小或不平衡时。然而，过度的数据增强可能导致模型难以捕捉到原始数据的分布，从而影响其泛化能力。因此，在实际应用中，需要仔细选择合适的数据增强方法，并通过交叉验证来验证模型性能。

## 5.2 数据集分割与交叉验证

在机器学习任务中，正确的划分训练集、验证集和测试集是关键步骤，它有助于评估模型在未知数据上的表现。

### 5.2.1 训练集、验证集与测试集的划分

通常，数据集被分为三个部分：训练集、验证集和测试集。训练集用于模型学习，验证集用于模型选择和超参数调整，测试集用于模型性能的最终评估。一个常见的划分比例是 70% 训练集、15% 验证集和 15% 测试集，但这也需要根据具体问题来调整。

from sklearn.model_selection import train_test_split

# 假设 X 是特征数据，y 是标签数据
X_train, X_temp, y_train, y_temp = train_test_split(X, y, test_size=0.3, random_state=42)
X_val, X_test, y_val, y_test = train_test_split(X_temp, y_temp, test_size=0.5, random_state=42)

### 5.2.2 交叉验证的策略与实现

交叉验证是一种统计分析方法，通过将数据集分成若干个小组，每次取出一个组作为验证集，其余作为训练集。这样可以充分利用有限的数据来评估模型的性能，尤其是在数据集较小的情况下。常见的交叉验证策略包括 k 折交叉验证和留一法交叉验证。

from sklearn.model_selection import cross_val_score

# 假设 model 是拟合的模型，X 是特征数据，y 是标签数据
scores = cross_val_score(model, X, y, cv=5)  # 5 折交叉验证
print("Cross-validation scores:", scores)

## 5.3 模型评估与超参数调优

在模型开发阶段，选择合适的评估指标和优化超参数是确保模型有效性和效率的关键。

### 5.3.1 评估指标的选择与分析

根据不同的问题类型，选择合适的评估指标至关重要。例如，在二分类问题中，常用的评估指标有准确率、精确率、召回率和 F1 分数。在多分类问题中，除了这些指标外，混淆矩阵也是一个重要的分析工具。

from sklearn.metrics import classification_report, confusion_matrix

# 假设 y_true 是真实标签，y_pred 是预测标签
print(classification_report(y_true, y_pred))
print(confusion_matrix(y_true, y_pred))

### 5.3.2 超参数调优的方法与实践

超参数调优是优化模型性能的重要步骤。常用的超参数调优方法包括网格搜索、随机搜索和贝叶斯优化。网格搜索通过遍历预定义的超参数组合来找到最佳组合，随机搜索则从预定义的超参数分布中随机选择组合，而贝叶斯优化使用概率模型来指导搜索过程，以期在较少的尝试次数中找到最佳参数。

from sklearn.model_selection import GridSearchCV

# 假设 parameters 是超参数的网格，model 是需要优化的模型
grid_search = GridSearchCV(estimator=model, param_grid=parameters, cv=5)
grid_search.fit(X, y)

print("Best parameters found:", grid_search.best_params_)
print("Best score:", grid_search.best_score_)

在实际应用中，选择合适的方法应考虑模型的复杂度、搜索空间的大小和计算资源。通常，贝叶斯优化在资源受限时更受青睐，因为它能以较少的计算代价找到相对较好的超参数。