计算离散信源熵的MATLAB代码

在MATLAB中计算离散信源熵通常涉及到信息论中的概念，其中熵被理解为随机变量不确定性的度量。这里是一个简单的例子，展示了如何计算给定概率向量的离散信源熵：

function entropy = compute_entropy(probability_vector)
    % 检查输入是否为概率分布（所有元素大于0且和为1）
    if any(probability_vector <= 0) || sum(probability_vector) ~= 1
        error('输入的概率向量不是有效的概率分布');
    end
    
    % 计算熵
    entropy = -sum(probability_vector .* log2(probability_vector));
end

% 示例：计算均匀分布的熵
uniform_prob = ones(5) / 5; % 假设有5种等可能状态
entropy_uniform = compute_entropy(uniform_prob);
disp(['均匀分布的熵是: ', num2str(entropy_uniform)])

% 或者计算自定义概率分布的熵
custom_prob = [0.1, 0.2, 0.3, 0.2, 0.2]; % 自定义概率向量
entropy_custom = compute_entropy(custom_prob);
disp(['自定义分布的熵是: ', num2str(entropy_custom)])

这个函数`compute_entropy`接收一个概率向量作为输入，然后利用公式 `-p * log2(p)` 来计算每个概率值对应的熵，并将它们加总得到整个信源的熵。