Matlab程序实现朴素贝叶斯算法

朴素贝叶斯算法是一种基于贝叶斯定理和特征条件独立假设的分类算法，可以用于文本分类、垃圾邮件过滤、情感分析等领域。下面是Matlab程序实现朴素贝叶斯算法的示例：

1. 数据准备

假设有一个包含n个样本的训练数据集，每个样本包含m个特征。其中，每个样本有一个类别标签，共有k个类别。我们需要将数据集按照一定的比例划分为训练集和测试集。

2. 训练模型

首先，需要计算每个类别的先验概率P(Ci)，即在所有样本中，属于类别Ci的样本占总样本数的比例。假设训练集中属于类别Ci的样本数为ni，总样本数为n，则P(Ci)=ni/n。

然后，需要计算每个特征在每个类别下的条件概率P(Xj|Ci)，即在属于类别Ci的样本中，特征Xj取某个值的样本数占所有属于类别Ci的样本数的比例。假设训练集中属于类别Ci且特征Xj取值为vj的样本数为nij，属于类别Ci的样本数为ni，则P(Xj=vi|Ci)=nij/ni。

3. 测试模型

对于测试集中的每个样本，需要计算它属于每个类别的后验概率P(Ci|X)，并将其归为概率最大的类别。根据贝叶斯定理，P(Ci|X)=P(X|Ci)P(Ci)/P(X)，其中P(X|Ci)表示在类别Ci下，特征X的联合概率密度函数，通常假设各个特征之间相互独立，即P(X|Ci)=P(X1|Ci)P(X2|Ci)...P(Xm|Ci)。

4. 代码实现

下面是一个简单的Matlab实现示例：

% 数据准备
data = load('data.txt');
train_ratio = 0.7;
idx = randperm(size(data, 1));
train_idx = idx(1:round(size(data, 1)*train_ratio));
test_idx = idx(round(size(data, 1)*train_ratio)+1:end);
train_data = data(train_idx, :);
test_data = data(test_idx, :);
k = length(unique(data(:, end)));

% 训练模型
prior = zeros(k, 1);
cond_prob = zeros(size(data, 2)-1, k);
for i = 1:k
    prior(i) = sum(train_data(:, end)==i) / size(train_data, 1);
    for j = 1:size(data, 2)-1
        for v = unique(data(:, j))'
            cond_prob(j, i, v) = sum(train_data(train_data(:, j)==v, end)==i) / sum(train_data(:, end)==i);
        end
    end
end

% 测试模型
pred = zeros(size(test_data, 1), 1);
for i = 1:size(test_data, 1)
    posterior = zeros(k, 1);
    for j = 1:k
        likelihood = 1;
        for v = unique(data(:, end))'
            likelihood = likelihood * cond_prob(:, j, test_data(i, :)');
        end
        posterior(j) = prior(j) * likelihood;
    end
    [~, pred(i)] = max(posterior);
end

% 计算准确率
accuracy = sum(pred==test_data(:, end)) / size(test_data, 1);
disp(['Accuracy: ', num2str(accuracy)]);

其中，data.txt是数据集文件，每行表示一个样本，最后一个数为类别标签。prior和cond_prob分别表示先验概率和条件概率，各自的维度为k和(m,k,2)，分别对应类别数和特征数及其取值范围。pred为预测结果，accuracy为准确率。