朴素贝叶斯算法的极大似然估计

朴素贝叶斯算法中的极大似然估计（Maximum Likelihood Estimation,MLE）是指在给定一定观测数据集时，为了确定模型参数的一种方法。在朴素贝叶斯分类器中，参数主要是每个特征在不同类别的条件概率。

对于二分类问题，假设我们有一个训练集D，其中包含了两类样本：正类（标记为1）和负类（标记为0）。我们的目标是找到使得每个特征在正类和负类下出现的概率最大的参数设置。

对于每个特征i，我们可以这样做：

- 计算在所有正样本中，特征i出现的次数（记作n1(i)）和总样本数n1；
- 同样，计算在所有负样本中，特征i出现的次数（n0(i)）和总样本数n0；
- 则正类条件下，特征i出现的概率P(xi=1|y=1)可以用n1(i)/n1来估计；负类条件下，P(xi=1|y=0)则为n0(i)/(n0-n0(i))。

极大似然估计就是选择这些概率使得整个数据集在当前参数下的联合概率最大，即P(D|θ)，这里θ代表所有的参数。最终，我们用这些估计的条件概率来进行新样本的分类。