word2vec文本相似度

Word2Vec是一种用于将单词转换为向量表示的技术，它可以用于计算文本中单词之间的相似度，也可以用于计算文本之间的相似度。以下是使用Word2Vec计算文本相似度的步骤：

1. 准备数据：将文本数据转换为单词列表，每个单词都是一个字符串。

2. 训练模型：使用Word2Vec模型训练单词向量。在训练过程中，模型将单词映射到一个高维向量空间中，使得语义相似的单词在向量空间中距离较近。

3. 计算文本向量：将文本中所有单词的向量取平均值，得到文本的向量表示。

4. 计算文本相似度：使用余弦相似度计算两个文本向量之间的相似度。余弦相似度的取值范围为[-1,1]，值越接近1表示两个文本越相似，值越接近-1表示两个文本越不相似，值为0表示两个文本没有相关性。

以下是使用Python实现Word2Vec文本相似度计算的代码示例：

from gensim.models import Word2Vec
import numpy as np

# 准备数据
text1 = "I like to eat pizza"
text2 = "I hate vegetables"
text3 = "Pizza is my favorite food"
texts = [text1.split(), text2.split(), text3.split()]

# 训练模型
model = Word2Vec(texts, min_count=1)

# 计算文本向量
def get_text_vector(text):
    words = text.split()
    vectors = []
    for word in words:
        if word in model.wv.vocab:
            vectors.append(model.wv[word])
    if len(vectors) == 0:
        return None
    else:
        return np.mean(vectors, axis=0)

vector1 = get_text_vector(text1)
vector2 = get_text_vector(text2)

# 计算文本相似度
def cosine_similarity(vector1, vector2):
    if vector1 is None or vector2 is None:
        return None
    else:
        return np.dot(vector1, vector2) / (np.linalg.norm(vector1) * np.linalg.norm(vector2))

similarity = cosine_similarity(vector1, vector2)
print("文本1和文本2的相似度为：", similarity)