TF-IDF算法解析与Python实现方法详解_tf-idf算法python实现 - CSDN文库

118 浏览量更新于2023-03-03 评论 2 收藏 118KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源评论

资源推荐

TF-IDF算法解析与算法解析与Python实现方法详解实现方法详解

主要介绍了TF-IDF算法解析与Python实现方法详解，文章介绍了tf-idf算法的主要思想，分享了Python实现tr-idf

算法所必要的预处理过程，以及具体实现代码等相关内容，具有一定参考价值，需要的朋友可以了解下。

TF-IDF（term frequency–inverse document frequency）是一种用于信息检索（information retrieval）与文本挖掘（text

mining）的常用加权技术。比较容易理解的一个应用场景是当我们手头有一些文章时，我们希望计算机能够自动地进行关键词

提取。而TF-IDF就是可以帮我们完成这项任务的一种统计方法。它能够用于评估一个词语对于一个文集或一个语料库中的其

中一份文档的重要程度。

在一份给定的文件里，词频 (term frequency, TF) 指的是某一个给定的词语在该文件中出现的次数。这个数字通常会被归一化

（分子一般小于分母区别于IDF），以防止它偏向长的文件。（同一个词语在长文件里可能会比短文件有更高的词频，而不管

该词语重要与否。）

　　逆向文件频率 (inverse document frequency, IDF) 是一个词语普遍重要性的度量。某一特定词语的IDF，可以由总文件数

目除以包含该词语之文件的数目，再将得到的商取对数得到。

　　某一特定文件内的高词语频率，以及该词语在整个文件集合中的低文件频率，可以产生出高权重的TF-IDF。因此，TF-

IDF倾向于过滤掉常见的词语，保留重要的词语。

TFIDF的主要思想是：如果某个词或短语在一篇文章中出现的频率TF高，并且在其他文章中很少出现，则认为此词或者短语

具有很好的类别区分能力，适合用来分类。TFIDF实际上是：TF * IDF，TF词频(Term Frequency)，IDF反文档频率(Inverse

Document Frequency)。TF表示词条在文档d中出现的频率（另一说：TF词频(Term Frequency)指的是某一个给定的词语在该

文件中出现的次数）。IDF的主要思想是：如果包含词条t的文档越少，也就是n越小，IDF越大，则说明词条t具有很好的类别

区分能力。如果某一类文档C中包含词条t的文档数为m，而其它类包含t的文档总数为k，显然所有包含t的文档数n=m+k，当m

大的时候，n也大，按照IDF公式得到的IDF的值会小，就说明该词条t类别区分能力不强。（另一说：IDF反文档频率(Inverse

Document Frequency)是指果包含词条的文档越少，IDF越大，则说明词条具有很好的类别区分能力。）但是实际上，如果一

个词条在一个类的文档中频繁出现，则说明该词条能够很好代表这个类的文本的特征，这样的词条应该给它们赋予较高的权

重，并选来作为该类文本的特征词以区别与其它类文档。这就是IDF的不足之处.

为了演示在Python中实现TF-IDF的方法，一些基于自然语言处理的预处理过程也会在本文中出现。如果你对NLTK和Scikit-

Learn两个库还很陌生可以参考如下文章：

Python编程使用编程使用NLTK进行自然语言处理详解进行自然语言处理详解

Python自然语言处理之词干自然语言处理之词干,词形与最大匹配算法代码详解词形与最大匹配算法代码详解

必要的预处理过程必要的预处理过程

首先，我们给出需要引用的各种包，以及用作处理对象的三段文本。

import nltk

import math

import string

from nltk.corpus import stopwords

from collections import Counter

from nltk.stem.porter import *

from sklearn.feature_extraction.text import TfidfVectorizer

text1 = "Python is a 2000 made-for-TV horror movie directed by Richard \

Clabaugh. The film features several cult favorite actors, including William \

Zabka of The Karate Kid fame, Wil Wheaton, Casper Van Dien, Jenny McCarthy, \

Keith Coogan, Robert Englund (best known for his role as Freddy Krueger in the \

A Nightmare on Elm Street series of films), Dana Barron, David Bowe, and Sean \

Whalen. The film concerns a genetically engineered snake, a python, that \

escapes and unleashes itself on a small town. It includes the classic final\

girl scenario evident in films like Friday the 13th. It was filmed in Los Angeles, \

California and Malibu, California. Python was followed by two sequels: Python \

II (2002) and Boa vs. Python (2004), both also made-for-TV films."

text2 = "Python, from the Greek word (πύθων/πύθωνας), is a genus of \

nonvenomous pythons[2] found in Africa and Asia. Currently, 7 species are \

recognised.[2] A member of this genus, P. reticulatus, is among the longest \

snakes known."

text3 = "The Colt Python is a .357 Magnum caliber revolver formerly \

manufactured by Colt's Manufacturing Company of Hartford, Connecticut. \

It is sometimes referred to as a \"Combat Magnum\".[1] It was first introduced \

in 1955, the same year as Smith & Wesson's M29 .44 Magnum. The now discontinued \

Colt Python targeted the premium revolver market segment. Some firearm \

collectors and writers such as Jeff Cooper, Ian V. Hogg, Chuck Hawks, Leroy \

Thompson, Renee Smeets and Martin Dougherty have described the Python as the \

finest production revolver ever made."

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余3页未读，立即下载

评论0

weixin_38701340

粉丝: 2
资源: 905

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈