Wasserstein距离 pytorch实现

Wasserstein距离（也称为Earth Mover's Distance）是一种衡量两个概率分布之间差异的方法。它可以理解为将一堆沙子从一个分布移动到另一个分布所需的最小成本，其中成本可以理解为两个样本之间的距离。Wasserstein距离在GAN训练中被广泛使用，因为它可以解决原始GAN中梯度消失问题。

在PyTorch中，可以使用Wasserstein距离的公式和PyTorch张量操作来实现。以下是一个简单的例子：

import torch
import torch.nn.functional as F

# 定义两个概率分布
p = torch.Tensor([0.2, 0.3, 0.1, 0.4])
q = torch.Tensor([0.1, 0.4, 0.3, 0.2])

# 计算Wasserstein距离
wasserstein_distance = torch.sum(torch.abs(p - q))

# 或者使用PyTorch的L1距离函数
wasserstein_distance = F.l1_loss(p, q)

print(wasserstein_distance)

在这个例子中，我们定义了两个概率分布p和q，然后使用公式计算它们之间的Wasserstein距离。我们还可以使用PyTorch的L1距离函数来计算Wasserstein距离，这也是一种常见的做法。