transformer预测例子

当给定一个Transformer模型后，我们可以使用它来进行预测。下面是一个使用Transformer模型进行文本生成的例子：

import torch
from transformers import GPT2LMHeadModel, GPT2Tokenizer

# 加载预训练的GPT-2模型和分词器
model_name = 'gpt2'
model = GPT2LMHeadModel.from_pretrained(model_name)
tokenizer = GPT2Tokenizer.from_pretrained(model_name)

# 设置模型为评估模式
model.eval()

# 输入要生成的文本
input_text = "I want to"

# 将输入文本编码为输入张量
input_ids = tokenizer.encode(input_text, return_tensors='pt')

# 使用模型生成文本
output = model.generate(input_ids, max_length=100, num_return_sequences=1)

# 解码生成的文本并打印出来
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(generated_text)

在这个例子中，我们使用了GPT-2模型和分词器。首先，我们加载了预训练的模型和分词器。然后，我们将输入文本编码为输入张量。接下来，我们使用模型的`generate`方法来生成文本。最后，我们解码生成的文本并打印出来。

请注意，这只是一个简单的示例，实际上，你可以根据具体的应用场景进行更多的配置和调整。