python余弦相似度文本分类_基于TF-IDF和余弦相似度的文本分类方法
时间: 2023-09-21 13:02:47 浏览: 107
基于 TF-IDF 的文本分类(txtClassify.py)
TF-IDF和余弦相似度是常用的文本分类方法,其基本思想是通过计算文本的词频和词语权重,来评估文本之间的相似度,从而实现文本分类。
下面是一个基于TF-IDF和余弦相似度的文本分类方法的示例代码:
```python
import jieba
from sklearn.feature_extraction.text import TfidfVectorizer
import numpy as np
# 定义样本数据
corpus = ['我喜欢看电影,也喜欢听音乐。',
'我不喜欢看电视剧,但喜欢唱歌。',
'他喜欢旅游,不喜欢看电影。']
# 对样本数据进行分词
corpus = [' '.join(jieba.cut(doc)) for doc in corpus]
# 定义TF-IDF向量化器
vectorizer = TfidfVectorizer()
# 对样本数据进行向量化
X = vectorizer.fit_transform(corpus)
# 计算文本之间的余弦相似度
similarity_matrix = np.dot(X, X.T)
# 输出文本之间的相似度矩阵
print(similarity_matrix)
```
在上述代码中,我们首先使用jieba对样本数据进行了分词,然后使用sklearn中的TfidfVectorizer类来构建TF-IDF向量化器,将样本数据转换成向量形式。最后,我们通过计算向量之间的余弦相似度,得到了文本之间的相似度矩阵。
在实际应用中,我们可以使用这个相似度矩阵来进行文本分类。例如,对于一个新的文本,我们可以将其向量化后,与样本数据中的每个文本计算余弦相似度,最终将其归入与其余弦相似度最高的那一类中。
阅读全文