多元线性回归代码 多重共线性检验

多元线性回归的多重共线性检验可以通过以下几种方法进行：

1. 简单相关系数检验法：计算每两个解释变量之间的简单相关系数，如果存在较高的相关系数（如大于0.8），则可能存在严重的多重共线性。需要注意的是，较高的相关系数只是多重共线性存在的充分条件，而不是必要条件。

2. 方差膨胀因子法：通过辅助回归计算每个解释变量的方差扩大因子（VIF）。当某个解释变量的VIF值大于等于10时，说明该解释变量与其他解释变量之间可能存在严重的多重共线性。

3. 经验法：观察在增加或剔除解释变量、改变观测值时，回归参数的估计值是否发生较大变化。如果回归方程中某些重要解释变量的回归系数的标准误差较大，或者回归方程中某些解释变量没有通过显著性检验，或者解释变量的回归系数与定性分析结果相矛盾，或者自变量之间的相关系数较大，都可能表明存在多重共线性问题。

4. 逐步回归检测：通过逐步添加或剔除解释变量的方式，观察回归参数的变化情况，进而判断是否存在多重共线性。

下面是一个示例代码，用于进行多重共线性检验：

import pandas as pd
import numpy as np
import statsmodels.api as sm

# 假设我们有一个多元线性回归模型，自变量存储在X中，因变量存储在y中
X = pd.DataFrame({'X1': [1, 2, 3, 4, 5],
                  'X2': [2, 4, 6, 8, 10],
                  'X3': [3, 6, 9, 12, 15]})
y = pd.Series([5, 10, 15, 20, 25])

# 添加常数列
X = sm.add_constant(X)

# 使用最小二乘法进行多元线性回归
model = sm.OLS(y, X)
results = model.fit()

# 打印回归参数估计值
print(results.summary())

# 进行多重共线性检验
vif = pd.DataFrame()
vif["Features"] = X.columns
vif["VIF"] = [sm.OLS(X[col], X.drop(col, axis=1)).fit().rsquared for col in X.columns]
print(vif)