机器学习周志华第七章习题答案7.4

### 习题解析

对于《机器学习》周志华一书中的第七章习题7.4，该题目主要考察对贝叶斯分类器的理解以及如何处理实际数据集应用贝叶斯定理。

具体来说，习题7.4通常涉及给定的数据集，在此背景下要求计算不同类别下的条件概率，并利用这些概率来预测新样本所属的类别。根据贝叶斯决策理论，为了最小化风险函数R(c|x)，应该选择使得后验概率P(c|x)最大的那个类c作为最终判定的结果[^1]。

考虑到朴素贝叶斯分类器假设特征之间相互独立，则可以简化联合分布的概率估计过程。即对于任意实例\( \textbf{x}=(x_1,x_2,...,x_d)\)，其属于某个特定类别C_k的可能性可以通过下面这个公式来进行估算：

\[ P(C_k|\textbf{x})=\frac{P(\textbf{x}|C_k)P(C_k)}{\sum_{j=1}^{K}{P(\textbf{x}|C_j)P(C_j)}}\]

其中\( P(C_k) \)表示先验概率；而\( P(x_i|C_k) \)则代表在已知类别为\( C_k \)的情况下各个属性值发生的可能性。当所有可能的类别都进行了这样的计算之后，具有最高后验概率的那个类别就被选作预测结果[^2]。

针对具体的数值型或离散型变量，还需要采用适当的方法（比如高斯模型用于连续变量，多项式分布适用于计数数据等）去近似求解上述表达式的各项成分。最后通过比较各候选类别对应的后验概率大小得出结论。

import numpy as np
from sklearn.datasets import load_iris
from sklearn.naive_bayes import GaussianNB

# 加载鸢尾花数据集为例说明
data = load_iris()
X = data['data']
y = data['target']

# 创建并训练一个高斯朴素贝叶斯分类器
gnb = GaussianNB()
gnb.fit(X[:100], y[:100]) # 使用部分数据进行训练以便留出测试集

# 预测剩余未见过的数据点标签
predicted_labels = gnb.predict(X[100:])
print(predicted_labels)