本地调用huggingface embeddings

Hugging Face Embeddings是基于Transformers库的预训练模型，提供了丰富的文本嵌入服务。如果你想在本地调用这些模型，你需要做以下几步：

1. **安装Hugging Face库**：首先确保你已经安装了`transformers`库，可以通过pip安装：

   pip install transformers

2. **下载模型**：从Hugging Face Hub上选择一个适合的模型（如BERT、GPT-2等），通常使用`AutoModel`或`AutoTokenizer`类加载预训练模型和分词器：

   from transformers import AutoModel, AutoTokenizer

   model_name = "bert-base-uncased"
   model = AutoModel.from_pretrained(model_name)
   tokenizer = AutoTokenizer.from_pretrained(model_name)

3. **加载模型到内存**：这将把模型的权重加载到你的Python会话中，以便本地使用：

   model.load_to_cpu()  # 如果你的系统内存不足，可以考虑将模型加载到CPU而非GPU

4. **输入处理**：对于新的文本数据，使用`tokenizer`进行编码：

   input_text = "Hello, world!"
   inputs = tokenizer(input_text, padding=True, truncation=True, return_tensors="pt")

5. **计算嵌入**：将编码后的输入传递给模型，获取文本的嵌入向量：

   with torch.no_grad():
       outputs = model(**inputs)
       embeddings = outputs.last_hidden_state  # 获取第一个样本的嵌入

6. **使用嵌入**：最后你可以对这些嵌入执行进一步的分析或任务，比如相似度计算、聚类等。