一个txt文件用bert变词向量后用svm分类的代码

以下是一个使用BERT将文本转换为词向量，然后使用SVM进行分类的Python代码示例：

import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.svm import SVC
from transformers import BertTokenizer, BertModel

# 加载预训练的BERT模型和tokenizer
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertModel.from_pretrained('bert-base-uncased')

# 读取数据集
data = pd.read_csv('data.txt', sep='\t')

# 将文本转换为BERT词向量
def get_bert_embedding(text):
    encoded = tokenizer.encode_plus(
        text,                      # 输入文本
        add_special_tokens=True,   # 添加特殊标记
        max_length=128,           # 最大长度
        pad_to_max_length=True,   # 填充到最大长度
        return_attention_mask=True,# 返回attention mask
        return_tensors='pt'       # 返回PyTorch张量格式
    )
    with torch.no_grad():
        model_output = model(
            input_ids=encoded['input_ids'],
            attention_mask=encoded['attention_mask']
        )
    return model_output[0].numpy()[0]

# 将所有文本转化成BERT词向量
embeddings = np.array([get_bert_embedding(text) for text in data['text']])

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(embeddings, data['label'], test_size=0.2, random_state=42)

# 训练SVM模型
svm = SVC(kernel='linear')
svm.fit(X_train, y_train)

# 在测试集上进行预测
y_pred = svm.predict(X_test)

# 计算准确率
accuracy = np.mean(y_pred == y_test)
print('Accuracy:', accuracy)

注意，以上代码中需要替换的部分是：

- `data.txt`：包含文本和标签的数据集文件路径。
- `data['text']`：文本数据所在的列名。
- `data['label']`：标签数据所在的列名。

在运行代码之前，需要先安装以下库：

- numpy
- pandas
- sklearn
- transformers

可以使用以下命令安装：

pip install numpy pandas scikit-learn transformers