kullback-leibler散度

Kullback-Leibler散度是一种用于衡量两个概率分布之间差异的度量方法。它可以用来比较两个概率分布的相似性或差异性，通常用于机器学习、信息论等领域。其计算方法是将两个概率分布的每个元素相除，然后将结果乘以对数，最后将所有结果相加并取相反数。