integral probability metric

积分概率度量（Integral Probability Metric，简称IPM）是一种用于度量概率分布之间差异的方法。在统计学和机器学习领域中，IPM常被用于衡量真实分布和模型分布之间的差异程度，从而评估模型的拟合程度。

IPM通过将两个概率分布嵌入到相同的测度空间中进行比较。具体而言，IPM使用一个非负函数来度量两个概率分布之间的距离，该函数满足非负性、对称性和三角不等式。常见的函数包括总变差距离、Kullback-Leibler散度和核函数。

总变差距离是IPM的一种常用形式，它度量两个概率分布之间在样本空间上的最大差异。具体而言，总变差距离是两个分布函数差的绝对值的积分值。总变差距离为0意味着两个分布相等。

Kullback-Leibler散度度量了一个分布相对于另一个分布的相对差异。它是两个概率分布之间的对数比的期望。Kullback-Leibler散度也可以用于评估模型的生成能力和预测能力。

另一种常见的IPM形式是使用核函数。核函数可以将概率分布映射到一个特征空间中，并在该特征空间中计算两个分布之间的距离。核函数IPM通常用于高维数据和非线性关系的建模。

总的来说，积分概率度量提供了一种有效的工具，可用于比较不同概率分布之间的差异。它在统计学、机器学习和概率建模中具有广泛的应用，包括模型选择、模型评估和异常检测等领域。