focal lose代码

Focal Loss 是一种针对类别不平衡问题的损失函数，主要用于解决在分类问题中，某些类别的样本数量过少，导致模型过度关注数量较多的类别而忽略数量较少的类别的问题。Focal Loss 能够有效地缓解类别不平衡问题，提高模型的分类准确率。

以下是一个简单的 Focal Loss 的实现代码：

import torch.nn as nn
import torch.nn.functional as F

class FocalLoss(nn.Module):
    def __init__(self, gamma=2, alpha=None):
        super(FocalLoss, self).__init__()
        self.gamma = gamma
        self.alpha = alpha

    def forward(self, input, target):
        ce_loss = F.cross_entropy(input, target, reduction='none')
        pt = torch.exp(-ce_loss)
        focal_loss = ((1 - pt) ** self.gamma) * ce_loss

        if self.alpha is not None:
            alpha = self.alpha.to(device)
            focal_loss = alpha[target] * focal_loss

        return torch.mean(focal_loss)

该代码中，`gamma` 表示 Focal Loss 的一个超参数，`alpha` 表示每个类别的权重。在 `forward` 函数中，首先计算交叉熵（Cross Entropy）损失，然后计算每个样本的权重 `pt`，最后根据 Focal Loss 的公式计算 Focal Loss。如果指定了 `alpha`，则在计算 Focal Loss 时，将每个样本的 Focal Loss 乘以对应类别的权重。最后返回所有样本的 Focal Loss 的平均值作为最终的损失值。