python文本数据相似度的度量文本数据相似度的度量
编辑距离编辑距离
编辑距离，又称为Levenshtein距离，是用于计算一个字符串转换为另一个字符串时，插入、删除和替换的次数。例如，
将’dad’转换为’bad’需要一次替换操作，编辑距离为1。
nltk.metrics.distance.edit_distance函数实现了编辑距离。
from nltk.metrics.distance import edit_distance
str1 = 'bad'
str2 = 'dad'
print(edit_distance(str1, str2))
N元语法相似度元语法相似度
n元语法只是简单地表示文本中n个标记的所有可能的连续序列。n元语法具体是这样的
import nltk
#这里展示2元语法
text1 = 'Chief Executive Officer'
#bigram考虑匹配开头和结束，所有使用pad_right和pad_left
ceo_bigrams = nltk.bigrams(text1.split(),pad_right=True,pad_left=True)
print(list(ceo_bigrams))
[(None, 'Chief'), ('Chief', 'Executive'),
('Executive', 'Officer'), ('Officer', None)]
2元语法相似度计算
import nltk
#这里展示2元语法
def bigram_distance(text1, text2):
#bigram考虑匹配开头和结束，所以使用pad_right和pad_left
text1_bigrams = nltk.bigrams(text1.split(),pad_right=True,pad_left=True)
text2_bigrams = nltk.bigrams(text2.split(), pad_right=True, pad_left=True)
#交集的长度
distance = len(set(text1_bigrams).intersection(set(text2_bigrams)))
return distance
text1 = 'Chief Executive Officer is manager'
text2 = 'Chief Technology Officer is technology manager'
print(bigram_distance(text1, text2)) #相似度为3
jaccard相似性相似性
jaccard距离度量的两个集合的相似度，它是由 （集合1交集合2）/（结合1交结合2）计算而来的。
实现方式
from nltk.metrics.distance import jaccard_distance
#这里我们以单个的字符代表文本
set1 = set(['a','b','c','d','a'])
set2 = set(['a','b','e','g','a'])
print(jaccard_distance(set1, set2))
0.6666666666666666
评论0