BERT+CRF实现命名体识别的pytorch代码

以下是BERT+CRF实现命名实体识别的Pytorch代码示例：

import torch
import torch.nn as nn

from transformers import BertModel

class BertCrf(nn.Module):
    def __init__(self, num_tags):
        super(BertCrf, self).__init__()
        self.num_tags = num_tags
        self.bert = BertModel.from_pretrained('bert-base-chinese')
        self.dropout = nn.Dropout(0.5)
        self.fc = nn.Linear(768, num_tags)
        self.crf = nn.CRF(num_tags, batch_first=True)

    def forward(self, input_ids, attention_mask, labels=None):
        outputs = self.bert(input_ids, attention_mask)
        sequence_output = outputs[0]
        sequence_output = self.dropout(sequence_output)
        emission = self.fc(sequence_output)

        if labels is not None:
            loss = -self.crf(emission, labels, mask=attention_mask.byte(), reduction='mean')
            return loss
        else:
            predict = self.crf.decode(emission, mask=attention_mask.byte())
            return predict

在上面的代码中，`BertCrf`类继承自`nn.Module`，使用`BertModel`加载预训练的BERT模型，然后在BERT输出上添加一个线性层和一个CRF层来进行命名实体识别。在训练时，模型返回负对数似然损失，并在推理时返回预测标签序列。

希望这个代码示例对你有所帮助。