-Leibler散度。
时间: 2024-06-09 08:08:57 浏览: 126
kld.rar_KLD_Kullback-Leibler_distance
KL散度(Kullback-Leibler divergence)是一种用于度量两个概率分布之间差的指标。它衡量了从一个分布到另一个分布的信息丢失量。具体来说,KL散度测量了在使用第一个分布来编码样本时,相对于使用第二个分布来编码样本,平均需要多少额外的比特。它不是对称的,并且不满足三角不等式。KL散度的计算公式如下:
KL(P||Q) = Σ P(x) * log(P(x)/Q(x))
其中,P(x)和Q(x)分别是两个分布在样本点x上的概率。
阅读全文