mutual information与相关系数？

Mutual information和相关系数都是用来度量两个变量之间的关系的指标，但它们的计算方法和应用场景有所不同。

相关系数是用来度量两个变量之间线性关系的强度和方向，取值范围为-1到1。当相关系数为1时，表示两个变量完全正相关；当相关系数为-1时，表示两个变量完全负相关；当相关系数为0时，表示两个变量之间不存在线性关系。

互信息是用来度量两个变量之间任意关系的强度，取值范围为0到正无穷。互信息的计算方法并不限定变量之间的关系类型，因此可以用来描述线性关系、非线性关系或者无关系的情况。

在特征选择和聚类等任务中，互信息比相关系数更为常用，因为它可以发现任何类型的关系，而相关系数只能发现线性关系。