Python拉普拉斯平滑代码实现

拉普拉斯平滑（Laplacian Smoothing），也称为平滑因子加权，是一种在概率图模型（如朴素贝叶斯分类器）中常用的技术，用于处理数据稀疏的情况，即某些特征在训练集中很少出现。它的目的是通过赋予所有项一个小的非零概率，避免因观测次数太少而导致的概率估计过低。

以下是Python中使用`scikit-learn`库实现朴素贝叶斯分类器（`MultinomialNB`）并应用拉普拉斯平滑的一个简单示例：

from sklearn.datasets import fetch_20newsgroups
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.naive_bayes import MultinomialNB
from sklearn.pipeline import Pipeline

# 加载数据集
data = fetch_20newsgroups(shuffle=True, random_state=42)

# 定义拉普拉斯平滑参数 (一般设置为1)
alpha = 1.0

# 构建Pipeline，包含向量化和朴素贝叶斯分类
model = Pipeline([
    ('vectorizer', CountVectorizer()),
    ('classifier', MultinomialNB(alpha=alpha, fit_prior=False))  # `fit_prior=False`是为了使用平滑
])

# 训练模型
model.fit(data.data, data.target)

# 使用模型预测
predictions = model.predict(data.data)

# 打印结果
print(predictions[:5])

在这个例子中，`alpha` 参数就是拉普拉斯平滑的因素。如果`fit_prior=True`，默认会使用先验频率作为每个类别下特征的初始概率；而`fit_prior=False`则意味着使用拉普拉斯平滑后的概率（每个类别的概率加上平滑值`alpha`除以总类别数）。