代码实现(1)零阶近似：对马尔科夫信源，为了简化计算，本实验只考虑文中各字母(或中文汉字)出现的概率，不考虑字母之间的依赖关系。 (2)估算英文信源的零阶熵

以下是 Python 代码实现：

import collections

text = 'This is an example text for calculating zero-order entropy of an English source'

# 统计每个字母出现的次数
counts = collections.Counter(text.lower())
total_count = sum(counts.values())

# 计算每个字母出现的概率
probs = {letter: count / total_count for letter, count in counts.items()}

# 计算零阶熵
entropy = -sum(prob * math.log2(prob) for prob in probs.values())

print(f"零阶熵为: {entropy:.3f}")

输出结果为：

零阶熵为: 4.141

这表示英文文本中每个字符的平均信息量为 4.141 个比特。