怎样在python里调用T5模型
时间: 2023-12-14 17:02:57 浏览: 238
用python生成与调用cntk模型代码演示方法
要在Python中调用T5模型,您可以使用Hugging Face提供的transformers库。
以下是一个使用T5模型生成摘要的示例代码:
```python
from transformers import T5ForConditionalGeneration, T5Tokenizer
# 加载T5模型和分词器
model = T5ForConditionalGeneration.from_pretrained('t5-small')
tokenizer = T5Tokenizer.from_pretrained('t5-small')
# 输入文本
text = "The quick brown fox jumps over the lazy dog"
# 对文本进行分词
inputs = tokenizer.encode("summarize: " + text, return_tensors="pt")
# 生成摘要
outputs = model.generate(inputs, max_length=50, min_length=10, length_penalty=2.0, num_beams=4)
summary = tokenizer.decode(outputs[0], skip_special_tokens=True)
# 打印生成的摘要
print(summary)
```
在上面的示例中,我们使用了T5ForConditionalGeneration类来加载T5模型,并使用T5Tokenizer类来对输入文本进行分词。然后,我们使用generate方法生成摘要,并使用decode方法将生成的文本转换为人类可读的格式。最后,我们打印生成的摘要。
您可以根据需要调整生成摘要的参数。有关更多信息,请参见transformers文档。
阅读全文