朴素贝叶斯分类的概率图模型

### 朴素贝叶斯分类作为概率图模型

#### 原理概述
朴素贝叶斯是一种基于贝叶斯定理的概率分类方法，其核心在于通过计算不同类别的后验概率来决定最终的分类结果。该算法假设所有特征之间相互独立，即条件独立性假设[^3]。

对于给定的数据集 \(D\) 和待分类的新数据点 \((x_1,x_2,...,x_n)\)，朴素贝叶斯试图找到使得\(P(C_k|x_1,x_2,...,x_n)\)最大的类别标签\(C_k\)。根据贝叶斯定理：

\[ P(C_k | x_1, ..., x_n) = \frac{P(x_1, ..., x_n| C_k) * P(C_k)}{\sum_{i}^{ }P(x_1, ..., x_n| C_i)*P(C_i)}\]

其中，\(P(C_k)\) 表示先验概率；而由于分母对于所有的类别都是相同的，因此实际操作中只需要比较分子部分即可得出最大可能性对应的类别[^2]。

#### 条件独立性的简化处理
为了使上述公式的求解变得可行，朴素贝叶斯引入了一个重要的假设——各属性间彼此独立。这意味着当已知某个特定类别时，任意两个属性之间的关系不会影响对方发生的几率。这样就可以把复杂的联合概率分解成多个简单事件相乘的形式:

\[ P(x_1, ..., x_n| C_k)=\prod _{{j=1}}^{n}{P}(x_j|C_k )\]

这种做法大大降低了参数估计所需的数据量以及运算复杂度，同时也让模型更容易理解和解释。

#### 应用场景举例
在文本分类领域内，朴素贝叶斯被广泛应用。比如垃圾邮件过滤就是一个典型例子。这里可以把每封电子邮件看作是由一系列单词组成的向量形式，然后利用训练好的朴素贝叶斯模型去判断一封新到来的邮件更可能属于正常邮件还是垃圾邮件这一二元分类问题[^1]。

另外，在自然语言处理方面也有着广泛的应用，如情感分析、主题建模等任务都可以借助于朴素贝叶斯来进行有效的解决。

from sklearn.datasets import fetch_20newsgroups
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.naive_bayes import MultinomialNB
from sklearn.pipeline import make_pipeline
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score

# 加载新闻组数据集并创建管道流程
data = fetch_20newsgroups()
model = make_pipeline(CountVectorizer(), MultinomialNB())

# 将数据分为测试集和训练集
X_train, X_test, y_train, y_test = train_test_split(data.data, data.target)

# 训练模型并对测试集进行预测
model.fit(X_train, y_train)
predicted_labels = model.predict(X_test)

print(f'Accuracy: {accuracy_score(y_test,predicted_labels):.2f}')