python编程,导入文件夹,从文件夹中随机选取10条新闻。将选取的十条新闻去除空格和回车,并利用基于lsi、lda模型的关键词提取技术提取10个关键字

时间: 2023-12-03 07:44:01 浏览: 26
好的,首先我们需要导入Python中的一些库,包括os、random、re、gensim等。代码如下: ```python import os import random import re from gensim import corpora, models ``` 接下来,我们需要定义一个函数来从文件夹中随机选取10条新闻,并去除空格和回车。代码如下: ```python def get_news(folder_path): news_list = [] for file_name in os.listdir(folder_path): file_path = os.path.join(folder_path, file_name) with open(file_path, 'r', encoding='utf-8') as f: news_content = f.read().replace('\n', '').replace(' ', '') news_list.append(news_content) selected_news = random.sample(news_list, 10) return selected_news ``` 这个函数接受一个文件夹路径作为参数,然后遍历文件夹中的所有文件,将文件内容去除空格和回车后存储到一个列表中。接着,从列表中随机选取10条新闻,并返回选取的新闻列表。 最后,我们需要定义一个函数来利用基于lsi、lda模型的关键词提取技术提取关键词。代码如下: ```python def extract_keywords(news_list): stop_words = [] # 停用词 with open('stopwords.txt', 'r', encoding='utf-8') as f: for line in f.readlines(): stop_words.append(line.strip()) texts = [[word for word in re.split('[^a-zA-Z]', news.lower()) if word not in stop_words] for news in news_list] dictionary = corpora.Dictionary(texts) corpus = [dictionary.doc2bow(text) for text in texts] tfidf = models.TfidfModel(corpus) corpus_tfidf = tfidf[corpus] lda = models.LdaModel(corpus_tfidf, id2word=dictionary, num_topics=5) lda_corpus = lda[corpus_tfidf] lda_keywords = [] for i in range(len(lda_corpus)): lda_keywords.append([word for word, _ in lda.show_topic(max(lda_corpus[i], key=lambda x: x[1])[0])]) lsi = models.LsiModel(corpus_tfidf, id2word=dictionary, num_topics=5) lsi_corpus = lsi[corpus_tfidf] lsi_keywords = [] for i in range(len(lsi_corpus)): lsi_keywords.append([word for word, _ in lsi.show_topic(max(lsi_corpus[i], key=lambda x: abs(x[1]))[0])]) keywords = set() for kw in lda_keywords + lsi_keywords: for word in kw: if word.isalpha(): keywords.add(word) return list(keywords)[:10] ``` 这个函数接受一个新闻列表作为参数,其中每个新闻都是一个字符串。首先,我们需要读取停用词表,并将其存储到一个列表中。然后,我们需要对每篇新闻进行分词,并去除停用词和非字母字符。接着,我们使用gensim库构建一个词典,并将每篇新闻转换成词袋表示法。接下来,我们使用tf-idf模型和LDA模型对新闻进行主题建模,并提取每篇新闻的关键词。然后,我们使用LSI模型对新闻进行主题建模,并提取每篇新闻的关键词。最后,我们将所有新闻的关键词合并到一个集合中,并返回其中的前10个关键词。 完整代码如下: ```python import os import random import re from gensim import corpora, models def get_news(folder_path): news_list = [] for file_name in os.listdir(folder_path): file_path = os.path.join(folder_path, file_name) with open(file_path, 'r', encoding='utf-8') as f: news_content = f.read().replace('\n', '').replace(' ', '') news_list.append(news_content) selected_news = random.sample(news_list, 10) return selected_news def extract_keywords(news_list): stop_words = [] # 停用词 with open('stopwords.txt', 'r', encoding='utf-8') as f: for line in f.readlines(): stop_words.append(line.strip()) texts = [[word for word in re.split('[^a-zA-Z]', news.lower()) if word not in stop_words] for news in news_list] dictionary = corpora.Dictionary(texts) corpus = [dictionary.doc2bow(text) for text in texts] tfidf = models.TfidfModel(corpus) corpus_tfidf = tfidf[corpus] lda = models.LdaModel(corpus_tfidf, id2word=dictionary, num_topics=5) lda_corpus = lda[corpus_tfidf] lda_keywords = [] for i in range(len(lda_corpus)): lda_keywords.append([word for word, _ in lda.show_topic(max(lda_corpus[i], key=lambda x: x[1])[0])]) lsi = models.LsiModel(corpus_tfidf, id2word=dictionary, num_topics=5) lsi_corpus = lsi[corpus_tfidf] lsi_keywords = [] for i in range(len(lsi_corpus)): lsi_keywords.append([word for word, _ in lsi.show_topic(max(lsi_corpus[i], key=lambda x: abs(x[1]))[0])]) keywords = set() for kw in lda_keywords + lsi_keywords: for word in kw: if word.isalpha(): keywords.add(word) return list(keywords)[:10] if __name__ == '__main__': folder_path = 'news' news_list = get_news(folder_path) for i, news in enumerate(news_list): print(f'News {i + 1}: {news}') keywords = extract_keywords(news_list) print('Keywords:', keywords) ``` 注意,上述代码中使用了一个停用词表文件stopwords.txt,需要将其放在代码所在目录下。停用词表文件中每行包含一个停用词。

相关推荐

最新推荐

recommend-type

LSI MSM 设置及应用

LSI MSM是个很好用的东东,但有的客户想用第三方工具接受trap要怎么设置呢?这片文档一步一步告诉你。
recommend-type

LSI,IBM,DELL MSM MegaRAID Storage Manager 安装使用教程

LSI,IBM,DELL MSM MegaRAID Storage Manager 安装使用教程,依据系统IP远程管理LSI 阵列卡,不用跑机房一台一台查看,除系统所在硬盘外,可以随意创建RAID
recommend-type

IBM LSI RAID配置文档

IBM LSI RAID配置文档主要包括 1064,1078,BR10I
recommend-type

联想ThinkServer rd640服务器raid卡设置教程-LSI9260-8i raid卡设置教程

联想ThinkServer rd640服务器raid卡设置教程 LSI9260-8i raid卡设置教程
recommend-type

LSI_SAS阵列卡组建RAID介绍

LSI_SAS阵列卡组建RAID介绍,LSI_SAS阵列卡组建RAID介绍
recommend-type

RTL8188FU-Linux-v5.7.4.2-36687.20200602.tar(20765).gz

REALTEK 8188FTV 8188eus 8188etv linux驱动程序稳定版本, 支持AP,STA 以及AP+STA 共存模式。 稳定支持linux4.0以上内核。
recommend-type

管理建模和仿真的文件

管理Boualem Benatallah引用此版本:布阿利姆·贝纳塔拉。管理建模和仿真。约瑟夫-傅立叶大学-格勒诺布尔第一大学,1996年。法语。NNT:电话:00345357HAL ID:电话:00345357https://theses.hal.science/tel-003453572008年12月9日提交HAL是一个多学科的开放存取档案馆,用于存放和传播科学研究论文,无论它们是否被公开。论文可以来自法国或国外的教学和研究机构,也可以来自公共或私人研究中心。L’archive ouverte pluridisciplinaire
recommend-type

:YOLOv1目标检测算法:实时目标检测的先驱,开启计算机视觉新篇章

![:YOLOv1目标检测算法:实时目标检测的先驱,开启计算机视觉新篇章](https://img-blog.csdnimg.cn/img_convert/69b98e1a619b1bb3c59cf98f4e397cd2.png) # 1. 目标检测算法概述 目标检测算法是一种计算机视觉技术,用于识别和定位图像或视频中的对象。它在各种应用中至关重要,例如自动驾驶、视频监控和医疗诊断。 目标检测算法通常分为两类:两阶段算法和单阶段算法。两阶段算法,如 R-CNN 和 Fast R-CNN,首先生成候选区域,然后对每个区域进行分类和边界框回归。单阶段算法,如 YOLO 和 SSD,一次性执行检
recommend-type

info-center source defatult

这是一个 Cisco IOS 命令,用于配置 Info Center 默认源。Info Center 是 Cisco 设备的日志记录和报告工具,可以用于收集和查看设备的事件、警报和错误信息。该命令用于配置 Info Center 默认源,即设备的默认日志记录和报告服务器。在命令行界面中输入该命令后,可以使用其他命令来配置默认源的 IP 地址、端口号和协议等参数。
recommend-type

c++校园超市商品信息管理系统课程设计说明书(含源代码) (2).pdf

校园超市商品信息管理系统课程设计旨在帮助学生深入理解程序设计的基础知识,同时锻炼他们的实际操作能力。通过设计和实现一个校园超市商品信息管理系统,学生掌握了如何利用计算机科学与技术知识解决实际问题的能力。在课程设计过程中,学生需要对超市商品和销售员的关系进行有效管理,使系统功能更全面、实用,从而提高用户体验和便利性。 学生在课程设计过程中展现了积极的学习态度和纪律,没有缺勤情况,演示过程流畅且作品具有很强的使用价值。设计报告完整详细,展现了对问题的深入思考和解决能力。在答辩环节中,学生能够自信地回答问题,展示出扎实的专业知识和逻辑思维能力。教师对学生的表现予以肯定,认为学生在课程设计中表现出色,值得称赞。 整个课程设计过程包括平时成绩、报告成绩和演示与答辩成绩三个部分,其中平时表现占比20%,报告成绩占比40%,演示与答辩成绩占比40%。通过这三个部分的综合评定,最终为学生总成绩提供参考。总评分以百分制计算,全面评估学生在课程设计中的各项表现,最终为学生提供综合评价和反馈意见。 通过校园超市商品信息管理系统课程设计,学生不仅提升了对程序设计基础知识的理解与应用能力,同时也增强了团队协作和沟通能力。这一过程旨在培养学生综合运用技术解决问题的能力,为其未来的专业发展打下坚实基础。学生在进行校园超市商品信息管理系统课程设计过程中,不仅获得了理论知识的提升,同时也锻炼了实践能力和创新思维,为其未来的职业发展奠定了坚实基础。 校园超市商品信息管理系统课程设计的目的在于促进学生对程序设计基础知识的深入理解与掌握,同时培养学生解决实际问题的能力。通过对系统功能和用户需求的全面考量,学生设计了一个实用、高效的校园超市商品信息管理系统,为用户提供了更便捷、更高效的管理和使用体验。 综上所述,校园超市商品信息管理系统课程设计是一项旨在提升学生综合能力和实践技能的重要教学活动。通过此次设计,学生不仅深化了对程序设计基础知识的理解,还培养了解决实际问题的能力和团队合作精神。这一过程将为学生未来的专业发展提供坚实基础,使其在实际工作中能够胜任更多挑战。