YOLO focal loss损失函数

### YOLO 中 Focal Loss 损失函数详解

#### 背景介绍

在目标检测领域，one-stage 检测器如 YOLO 面临的一个主要挑战是正负样本比例严重失衡的问题。为了应对这一问题，在 RetinaNet 网络中引入了 Focal Loss 损失函数[^1]。

#### Focal Loss 的设计目的

Focal Loss 主要是为了让 one-stage 目标检测器能够更好地处理类别不均衡的数据集，并且使模型更专注于那些较难分类的样本。这不仅有助于提高检测精度，还保持了一阶段检测器的速度优势[^3]。

#### 数学表达式

原始的交叉熵损失函数对于容易分错类别的例子给予过多的关注，而忽略了真正具有挑战性的实例。因此，Focal Loss 对其进行了修改：

\[ FL(p_t) = -(1-p_t)^{\gamma}\log(p_t) \]

其中 \( p_t \) 表示预测的概率值；\(\gamma\) 是可调参数，默认设置为 2 或者更高一些以增强效果。

这种形式有效地减少了易分类样本带来的梯度贡献，从而使得训练过程更多地聚焦于困难样例上。

#### 应用于 YOLO

随着版本迭代更新至 YOLOv10, 改进后的 Focal Loss 已经被集成进来作为默认选项之一来优化分类子任务的表现力，尤其是在面对高度偏斜分布的数据时能显著改善整体性能[^2]。

def focal_loss(prediction_tensor, target_tensor, alpha=0.25, gamma=2):
    r"""
    Compute the focal loss between `prediction_tensor` and the ground truth `target_tensor`.
    
    :param prediction_tensor: A float tensor of shape [batch_size, num_anchors,
        num_classes] representing the predicted logits for each class.
    :param target_tensor: A float tensor of shape [batch_size, num_anchors,
        num_classes] representing one-hot encoded classification targets.
    """
    zeros = torch.zeros_like(prediction_tensor)
    pos_p_sub = torch.where(target_tensor > zeros, target_tensor - prediction_tensor, zeros)

    ce = (-(pos_p_sub * torch.log(torch.clamp(prediction_tensor, min=1e-8))) -
          ((1 - target_tensor) * torch.log(torch.clamp(1 - prediction_tensor, min=1e-8))))
          
    weight = torch.pow((torch.ones_like(prediction_tensor)-prediction_tensor), gamma)
    fl = ce * weight
    
    weighted_fl = alpha * fl.sum(dim=-1).mean()
    
    return weighted_fl