聚类分析的结果怎么看?import pandas as pd import jieba from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.cluster import KMeans from wordcloud import WordCloud import matplotlib.pyplot as plt # 读取中文文本数据 df = pd.read_csv('/Users/dashan/postgraduate/研一下/4_LIU_positive_compute/期末/期末作业-文本分析/期末作业-操作.csv', encoding='gbk') # 设置停用词 stopwords = set() content = [line.strip() for line in open('/Users/dashan/postgraduate/研一下/4_LIU_positive_compute/期末/期末作业-文本分析/hit_stopwords.txt','r',encoding='utf-8').readlines()] # print(content) stopwords.update(content) jieba.load_userdict(stopwords) # 对文本数据进行分词 df['content_cut'] = df['微博正文'].apply(lambda x: ' '.join(jieba.cut(x))) # print(df['content_cut']) # 构建TF-IDF矩阵 tfidf = TfidfVectorizer() tfidf_matrix = tfidf.fit_transform(df['content_cut']) print(tfidf_matrix) # 聚类分析 n_cluster = 3 kmeans = KMeans(n_clusters=n_cluster, random_state=0) kmeans.fit(tfidf_matrix) # 将聚类结果添加到原始数据中 df['cluster'] = kmeans.labels_
时间: 2024-03-14 15:46:57 浏览: 78
在这段代码中,通过对中文文本数据进行分词和构建 TF-IDF 矩阵,然后使用 KMeans 聚类算法将文本数据分为 n_cluster 个簇。每个簇代表一个主题或者一个类别,可以通过观察每个簇中的文本数据的内容来理解这个簇所代表的主题或类别。
在这里,我们可以通过查看每个簇中的文本数据来了解聚类结果。可以使用 Pandas 的 groupby 函数将原始数据按照 cluster 列进行分组,然后查看每个簇中的微博正文内容:
```
groups = df.groupby('cluster')
for i in range(n_cluster):
print('Cluster %d:' % i)
print(groups.get_group(i)['微博正文'].tolist())
print()
```
此外,我们还可以使用词云图来可视化聚类结果。可以将每个簇中的微博正文内容合并为一个字符串,然后使用 WordCloud 库生成词云图。以下是示例代码:
```
for i in range(n_cluster):
text = ' '.join(groups.get_group(i)['微博正文'].tolist())
wordcloud = WordCloud(background_color='white', width=800, height=600).generate(text)
plt.imshow(wordcloud)
plt.axis('off')
plt.show()
```
这样可以生成 n_cluster 张词云图,每张词云图代表一个簇。通过观察词云图中出现频率较高的词语,可以初步了解该簇所代表的主题或类别。
阅读全文