LSI_LDA：提升文本分类精度的混合特征降维方法

本文探讨了LSI (Latent Semantic Indexing, 隐含语义索引) 和 LDA (Latent Dirichlet Allocation, 隐含狄利克雷分配) 在文本特征降维中的混合应用，以解决LDA在原始输入空间处理时存在的问题。LDA由于不考虑数据输入，对所有词汇分配主题，包括非关键或无关词汇，导致主题分布不精确。为改进这一缺点，研究者提出了一种LSI_LDA方法。 首先，LSI被用于预处理阶段，它通过构建词汇表中的词语之间的语义相似性矩阵，将原始词空间映射到一个语义空间，这样可以更好地捕捉词语间的潜在关联。这一步有助于减少噪声并突出主题相关的词汇。 接着，通过对语义空间中的特征进行筛选，选取与主题最为相关的特征，进一步聚焦于文档的关键信息。这种特征选择策略有助于提升模型的精确度，因为只在与主题紧密相关的特征子集上运行LDA。 在LDA部分，研究者利用筛选后的特征子集，构建更小且更具针对性的文档集合，然后在这些子集上进行模型训练。这样做可以提高模型的效率，并使得主题模型更加准确，因为每个主题现在仅关注于具有代表性的文档部分。 通过在复旦大学中文语料库上的文本分类实验，LSI_LDA方法显示出显著的优势，相比于单独使用LDA，分类精度提高了1.50%。实验结果证实了LSI_LDA模型在文本分类任务中的高效性和准确性。 LSI_LDA是一种有效的混合特征降维方法，它结合了LSI的语义理解能力和LDA的主题模型，通过预处理和特征选择，提高了文本分析中的分类性能。这对于文本挖掘、信息检索等领域有着实际的应用价值。