多粒度子话题划分方法:LDA与HowNet结合的应用
需积分: 9 166 浏览量
更新于2024-08-12
收藏 926KB PDF 举报
"基于LDA模型和HowNet的多粒度子话题划分方法 (2015年) 是一篇工程技术领域的论文,旨在解决LDA建模中的泛化问题和子话题间文本相似度过高的问题。文章由李湘东、巴志超和黄莉合作完成,发表于2015年,主要探讨如何利用LDA和知网(HowNet)的语义词典进行多粒度子话题划分,以提高热点新闻话题子话题划分的准确率。"
本文针对LDA(Latent Dirichlet Allocation)模型在处理大量文本数据时可能出现的泛化现象,即主题过于宽泛,以及不同子话题间的文本相似度较高,导致话题细分不清晰的问题。作者提出了一种名为MGH-LDA(Multi-Granularity Hierarchical LDA)的方法。首先,利用LDA模型对来自不同新闻源的新闻集合进行初步的主题划分,通过文档贡献度确定同一话题的文档集合。接着,基于TF-IDF(Term Frequency-Inverse Document Frequency)模型,提取出多粒度的粗细特征作为文档的核心词,这些特征能够更细致地描述新闻文档。然后,引入知网(HowNet)这一中文语义词典,计算新闻文档之间的语义相似度,这有助于更深入地理解文档之间的关系。最后,采用single-pass增量聚类算法对新闻文档进行聚类,实现子话题的精细化划分。
在实际应用中,该方法在真实新闻数据集上进行了实验,结果显示,MGH-LDA方法能够有效提升热点新闻话题子话题划分的准确率,从而在信息检索、自动分类等领域具有较高的实用价值。论文关键词包括新闻报道、子话题划分、多粒度、狄利克雷分配模型和语义相似度计算,反映了研究的主要内容和关注点。
这篇论文提供了一个结合统计建模(LDA)与语义分析(HowNet)的创新方法,以改善文本话题划分的粒度和精度,对于理解和挖掘大规模文本数据中的深层次信息具有重要意义。该研究对后续的文本挖掘、信息检索和自然语言处理工作提供了有价值的参考。
点击了解资源详情
2015-01-29 上传
2021-03-23 上传
2022-08-04 上传
2022-08-04 上传
点击了解资源详情
点击了解资源详情
weixin_38677044
- 粉丝: 15
- 资源: 920
最新资源
- Angular实现MarcHayek简历展示应用教程
- Crossbow Spot最新更新 - 获取Chrome扩展新闻
- 量子管道网络优化与Python实现
- Debian系统中APT缓存维护工具的使用方法与实践
- Python模块AccessControl的Windows64位安装文件介绍
- 掌握最新*** Fisher资讯,使用Google Chrome扩展
- Ember应用程序开发流程与环境配置指南
- EZPCOpenSDK_v5.1.2_build***版本更新详情
- Postcode-Finder:利用JavaScript和Google Geocode API实现
- AWS商业交易监控器:航线行为分析与营销策略制定
- AccessControl-4.0b6压缩包详细使用教程
- Python编程实践与技巧汇总
- 使用Sikuli和Python打造颜色求解器项目
- .Net基础视频教程:掌握GDI绘图技术
- 深入理解数据结构与JavaScript实践项目
- 双子座在线裁判系统:提高编程竞赛效率