以下代码无法反向传播:class CustomLoss(nn.Module): def __init__(self): super(CustomLoss, self).__init__() def forward(self, predicted_tokens, target_tokens): # 设置允许梯度计算 predicted_tokens.requires_grad = True # target_tokens.requires_grad = True scores = torch.zeros_like(target_tokens, dtype=torch.float32) for i in range(target_tokens.size(1)): target_token = target_tokens[:, i] max_score = torch.max(torch.eq(predicted_tokens, target_token.unsqueeze(dim=1)).float(), dim=1)[0] scores[:, i] = max_score loss = 1 - torch.mean(scores) return loss

这个问题出现在你尝试将`requires_grad`标志设置为非叶子节点张量`predicted_tokens`上。和之前一样，PyTorch只允许更改叶子节点张量的`requires_grad`标志。

为了解决这个问题，你可以使用`.detach()`方法创建一个不需要梯度的新张量来进行计算，并确保将该张量作为模型的输出。这样，该张量将成为计算图的叶子节点，并允许梯度的传播。

下面是修改后的代码示例：

class CustomLoss(nn.Module):
    def __init__(self):
        super(CustomLoss, self).__init__()

    def forward(self, predicted_tokens, target_tokens):
        # 使用.detach()方法创建不需要梯度的新张量
        predicted_tokens = predicted_tokens.detach()

        scores = torch.zeros_like(target_tokens, dtype=torch.float32)
        for i in range(target_tokens.size(1)):
            target_token = target_tokens[:, i]
            max_score = torch.max(torch.eq(predicted_tokens, target_token.unsqueeze(dim=1)).float(), dim=1)[0]
            scores[:, i] = max_score

        loss = 1 - torch.mean(scores)
        return loss

通过使用`.detach()`方法，您可以确保模型输出的张量成为计算图的叶子节点，从而允许梯度的传播。

请注意，如果您希望`target_tokens`也具有梯度，您需要在创建时将其设置为可训练的，并在需要时进行操作。