读取本地的huggingface预训练模型 代码示例
时间: 2024-02-28 08:50:56 浏览: 237
要读取本地的Hugging Face预训练模型,你可以使用`transformers`库中的`AutoModel`和`AutoTokenizer`类。下面是一个代码示例:
```python
from transformers import AutoModel, AutoTokenizer
# 指定模型名称或模型路径
model_name = "bert-base-uncased"
model_path = "/path/to/your/model"
# 加载模型和分词器
model = AutoModel.from_pretrained(model_name) # 从Hugging Face模型库加载模型
tokenizer = AutoTokenizer.from_pretrained(model_name) # 从Hugging Face模型库加载分词器
# 或者使用本地路径加载模型和分词器
model = AutoModel.from_pretrained(model_path)
tokenizer = AutoTokenizer.from_pretrained(model_path)
# 使用模型和分词器进行文本处理和推理
inputs = tokenizer("Hello, how are you?", return_tensors="pt")
outputs = model(**inputs)
```
在上面的示例中,你可以通过指定模型名称(如`bert-base-uncased`)或模型路径(如`/path/to/your/model`)来加载预训练模型。然后,你可以使用加载的模型和分词器进行文本处理和推理。
阅读全文