多分类focal loss代码

以下是多分类focal loss的代码示例：

import torch
import torch.nn as nn

class FocalLoss(nn.Module):
    def __init__(self, alpha=1, gamma=2, reduction='mean'):
        super(FocalLoss, self).__init__()
        self.alpha = alpha
        self.gamma = gamma
        self.reduction = reduction

    def forward(self, inputs, targets):
        ce_loss = nn.CrossEntropyLoss(reduction='none')(inputs, targets)
        pt = torch.exp(-ce_loss)
        focal_loss = self.alpha * (1-pt)**self.gamma * ce_loss
        if self.reduction == 'mean':
            return torch.mean(focal_loss)
        elif self.reduction == 'sum':
            return torch.sum(focal_loss)
        else:
            return focal_loss

在这个代码中，我们定义了一个名为FocalLoss的类，它继承了nn.Module。在这个类的初始化函数中，我们定义了alpha和gamma参数，它们分别控制了类别权重和难易样本权重的影响。我们还定义了reduction参数，它决定了Focal Loss的计算方式，可以是'mean'、'sum'或者'none'。

在类的forward函数中，我们首先计算了交叉熵损失（CrossEntropyLoss）并使用reduction='none'来得到每个样本的损失值。然后，我们计算了每个样本的pt值，用于计算Focal Loss。最后，我们根据reduction参数返回平均值、总和或者每个样本的Focal Loss。

使用该类时，我们只需要在模型中调用它即可，例如：

loss_fn = FocalLoss(alpha=1, gamma=2, reduction='mean')
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

for epoch in range(num_epochs):
    for inputs, targets in train_loader:
        optimizer.zero_grad()
        outputs = model(inputs)
        loss = loss_fn(outputs, targets)
        loss.backward()
        optimizer.step()

在这个例子中，我们使用Adam优化器训练模型，并在每个epoch中遍历train_loader中的数据。在每个batch中，我们计算模型输出outputs和目标targets的Focal Loss，并通过反向传播和优化器更新模型参数。