多关系朴素贝叶斯的M估计与Laplace平滑优化

本篇论文深入探讨了"用平滑方法改进多关系朴素贝叶斯分类"这一主题，针对朴素贝叶斯分类中的常见问题，如零概率和过度拟合，提出了两个关键改进方法：MRNBC-M（基于M估计的多关系朴素贝叶斯分类）和MRNBC-L（基于Laplace估计的多关系朴素贝叶斯分类）。朴素贝叶斯分类因其简单高效而被广泛应用，但其假设属性之间独立性限制了其在实际场景中的准确性。 在朴素贝叶斯独立性假定下，准确率对条件概率估计的依赖性显著。为解决这个问题，作者参考了文献[3-10]中提出的多种概率估计方法，这些方法旨在通过平滑技术来处理零概率和过拟合问题。其中，拉普拉斯平滑（Laplace smoothing）是最常用的解决方案，但在多关系分类的背景下，该方法并未充分讨论不同平滑方法的影响。 本文的主要贡献在于对这两种平滑方法——M估计和平滑法在多关系朴素贝叶斯分类中的影响进行了详尽的分析和探讨。M估计通常用于处理稀疏数据，通过调整模型参数以更好地估计条件概率，而Laplace平滑则通过添加一个常数到每个特征的先验概率，避免出现零概率。作者通过实验证明，MRNBC-M能够在多关系标准数据集上显著提升分类性能。 为了进一步优化分类，论文还引入了扩展互信息标准对数据进行属性过滤，这有助于减少冗余信息和噪声，从而提高模型的精度和泛化能力。该研究不仅提升了多关系朴素贝叶斯分类的性能，也为其他领域的数据挖掘任务提供了一种有价值的方法改进策略，特别是在处理多关系数据时。通过这种方法，朴素贝叶斯分类在面对复杂关系数据时，其分类效果得到了显著增强。