torch相关包中有哪些损失函数

在PyTorch库中，`torch.nn`模块包含了各种用于深度学习模型训练的损失函数。这里列举一些常见的损失函数：

1. **均方误差 (Mean Squared Error, MSELoss)**：适用于回归任务，计算预测值与真实值之间的平均平方差。

   loss = nn.MSELoss()

2. **交叉熵损失 (CrossEntropyLoss)**：主要用于分类任务，衡量两个概率分布之间的差异。

   loss = nn.CrossEntropyLoss()

3. **二元交叉熵 (Binary CrossEntropyLoss)**：针对二分类问题，对每个样本有一个正负标签。

   loss = nn.BCEWithLogitsLoss()

4. **Kullback-Leibler散度 (KLDivLoss or KLLoss)**：计算概率分布间的KL散度，常用于判断两个概率分布的相似性。

   loss = nn.KLDivLoss(reduction='batchmean')

5. **Hinge Loss**：支持向量机(SVM)中的损失函数，用于处理非线性分类问题。

   loss = nn.HingeEmbeddingLoss()

6. **L1/L2 正则化**：不是直接作为损失函数，而是通过`nn.L1Loss()`和`nn.MSELoss(size_average=False)`分别实现L1和L2的权重衰减。

7. **Smooth L1 Loss (Huber Loss)**：一种更平滑的MSE，对于大偏差有更好的鲁棒性。

   loss = nn.SmoothL1Loss()

8. **Dice Loss**：用于二分类问题的结构相似度指标，尤其是在图像分割中。

还有很多其他损失函数，如TripletMarginLoss、CosineEmbeddingLoss等，可以根据实际任务选择合适的损失。在使用时，通常会配合`nn.Module`中的`forward`方法一起使用。