互信息数据集python代码

互信息（Mutual Information）是度量两个离散随机变量相互依赖程度的指标，在自然语言处理中常用于衡量两个词语之间的相关性。下面是一个简单的Python代码示例，使用互信息对文本数据进行特征选择。

from sklearn.feature_selection import mutual_info_classif
from sklearn.feature_extraction.text import CountVectorizer
import numpy as np

# 定义一个文本数据集
text_data = np.array(['I love coding', 'Python is my favorite language', 'Machine learning is fun'])

# 将文本转换成词频矩阵
count = CountVectorizer()
bag_of_words = count.fit_transform(text_data)

# 计算互信息
mutual_info = mutual_info_classif(bag_of_words, np.array([0, 1, 0]))

# 输出每个词的互信息分数
for word, score in zip(count.get_feature_names(), mutual_info):
    print(word, ':', score)

在上面的代码中，我们首先定义了一个文本数据集 `text_data`，然后使用 `CountVectorizer` 将文本转换成词频矩阵 `bag_of_words`。接下来，我们使用 `mutual_info_classif` 函数计算每个词语与第一个文档（即 `I love coding`）之间的互信息分数。最后，我们输出每个词语的互信息分数。

需要注意的是，上述代码示例中的 `mutual_info_classif` 函数可以用于分类问题，如果是回归问题，需要使用 `mutual_info_regression` 函数。另外，在计算互信息时，需要将文本数据转换为数值型数据，例如使用 `CountVectorizer` 将文本转换成词频矩阵。