Transformer模型库

Transformer模型库是一个由Hugging Face开发的自然语言处理模型库，其中包含了各种预训练的Transformer模型，例如BERT、GPT-2、RoBERTa等等。这些模型可以用于各种NLP任务，例如文本分类、命名实体识别、问答系统等等。同时，该库还提供了方便的API和工具，使得用户可以轻松地使用这些模型进行文本处理和分析。

用户可以使用该库中的预训练模型，也可以使用该库提供的API和工具来训练自己的模型。该库支持多种框架，包括PyTorch、TensorFlow和Flax。此外，该库还提供了保存和加载模型的功能，用户可以方便地将模型保存到本地并在需要时加载。

以下是使用该库加载BERT模型的示例代码：

from transformers import BertTokenizer, BertModel

# 加载BERT模型和tokenizer
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertModel.from_pretrained('bert-base-uncased')

# 输入文本
text = "Hello, my dog is cute"

# 对文本进行编码
input_ids = tokenizer.encode(text, return_tensors='pt')

# 使用BERT模型进行编码
outputs = model(input_ids)

# 输出模型的输出
print(outputs)