帮我写一段加载预训练模型的代码
时间: 2023-04-04 17:00:43 浏览: 99
Pytorch加载部分预训练模型的参数实例
好的,以下是加载预训练模型的代码示例:
```python
import torch
from transformers import AutoTokenizer, AutoModel
# 指定预训练模型名称
model_name = "bert-base-chinese"
# 加载分词器
tokenizer = AutoTokenizer.from_pretrained(model_name)
# 加载预训练模型
model = AutoModel.from_pretrained(model_name)
# 输入文本
text = "这是一段测试文本"
# 对文本进行分词
inputs = tokenizer(text, return_tensors="pt")
# 使用预训练模型进行推理
outputs = model(**inputs)
# 输出模型的最后一层隐藏状态
last_hidden_state = outputs.last_hidden_state
print(last_hidden_state)
```
希望这段代码能够帮到你!
阅读全文