在python中实现信息熵的计算

可以使用以下代码来计算信息熵：

from math import log2

def entropy(data):
    # 计算数据集中的总样本数
    total_samples = len(data)

    # 统计每个类别的样本数
    class_count = {}
    for sample in data:
        label = sample[-1]
        if label not in class_count:
            class_count[label] = 0
        class_count[label] += 1

    # 计算信息熵
    entropy = 0.0
    for class_name, count in class_count.items():
        probability = float(count) / total_samples
        entropy -= probability * log2(probability)

    return entropy

其中，`data` 是一个列表，包含多个样本，每个样本是一个列表，最后一个元素是该样本的分类标签。函数会根据该数据集计算信息熵并返回结果。