给定概率用python计算信息熵
时间: 2023-07-01 10:28:16 浏览: 115
计算概率分布的微分熵和信息熵的JVHW算法实现_python
若已知每个事件发生的概率,可以直接使用公式计算信息熵。假设有3个事件,它们发生的概率分别为0.3、0.4、0.3,则可以通过以下代码计算信息熵:
```python
import math
p = [0.3, 0.4, 0.3]
entropy = 0
for pi in p:
entropy -= pi * math.log2(pi)
print('信息熵为:', entropy)
```
输出结果为:
```
信息熵为: 1.5774062828523454
```
其中,p是一个列表,包含每个事件发生的概率。接着通过循环计算每个事件的信息熵,并累加到entropy中。最终输出结果即为信息熵的值。
阅读全文