Rocchio实现文档分类的代码

Rocchio算法是一种基于向量空间模型的文本分类算法，其主要思想是将已知类别的文本向量作为训练集，通过计算已知类别文本向量的中心点，将待分类文本向量与中心点进行比较，从而实现文本分类。下面是一个简单的基于Rocchio算法的文本分类实现代码。

import numpy as np

class RocchioClassifier:
    def __init__(self):
        self.centroids = None
        self.classes = None

    def train(self, X_train, y_train):
        # 计算每个类别的中心点
        classes = np.unique(y_train)
        centroids = np.zeros((len(classes), X_train.shape[1]))
        for i, cls in enumerate(classes):
            X_cls = X_train[y_train == cls]
            centroids[i] = np.mean(X_cls, axis=0)
        self.classes = classes
        self.centroids = centroids

    def predict(self, X_test):
        # 计算测试集与每个中心点的距离
        distances = np.zeros((X_test.shape[0], len(self.classes)))
        for i, centroid in enumerate(self.centroids):
            distances[:, i] = np.linalg.norm(X_test - centroid, axis=1)
        # 返回距离最小的类别
        return self.classes[np.argmin(distances, axis=1)]

上述代码中，`train`方法用于训练模型，其中`X_train`为训练集文本向量，`y_train`为训练集类别标签。在训练过程中，我们先计算每个类别的中心点，然后将中心点和类别保存在实例变量`centroids`和`classes`中。

`predict`方法用于对测试集进行分类，其中`X_test`为测试集文本向量。在预测过程中，我们计算测试集文本向量与每个类别中心点的距离，然后返回距离最小的类别作为预测结果。

下面是一个使用Rocchio算法对新闻文本进行分类的例子。

import pandas as pd
from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
from rocchio import RocchioClassifier

# 加载数据集
df = pd.read_csv('news.csv')
X = df['text']
y = df['category']

# 将文本转换为TF-IDF向量
vectorizer = TfidfVectorizer(stop_words='english')
X = vectorizer.fit_transform(X)

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)

# 训练模型
clf = RocchioClassifier()
clf.train(X_train, y_train)

# 测试模型
y_pred = clf.predict(X_test)
acc = accuracy_score(y_test, y_pred)
print('Accuracy:', acc)

上述代码中，我们首先使用Pandas加载新闻文本数据集，并使用`TfidfVectorizer`将文本转换为TF-IDF向量。然后，我们使用`train_test_split`将数据集划分为训练集和测试集，并使用`RocchioClassifier`训练模型。最后，我们使用`predict`方法对测试集进行分类，并计算分类准确率。