r语言多元加权最小二乘估计，不使用任何包

多元加权最小二乘估计（weighted least squares, WLS）是一种回归分析方法，它可以解决普通最小二乘法（ordinary least squares, OLS）无法处理的异方差（heteroscedasticity）问题。在WLS中，我们为每个样本点分配一个权重，使得大权重的点在回归中具有更大的影响力。这些权重通常与样本点的方差成反比。

下面是一个使用R语言进行多元加权最小二乘估计的示例，不使用任何包：

首先，我们需要准备一些数据来进行回归分析。这里我们使用mtcars数据集：

data(mtcars)
x <- mtcars[,c("wt","disp","hp")]
y <- mtcars$mpg

接下来，我们需要为每个样本点计算一个权重。这里我们使用样本残差的平方作为权重，即$w_i = 1/\hat{\epsilon_i}^2$，其中$\hat{\epsilon_i}$是第$i$个样本点的残差。

fit <- lm(y ~ x)
resid <- fit$residuals
w <- 1/resid^2

然后，我们可以使用加权最小二乘法来拟合回归模型。我们需要构造加权矩阵$W$，它是一个$n \times n$的矩阵，其中$W_{ii} = w_i$，其他元素为0。然后，我们可以使用下面的公式计算多元加权最小二乘估计：

$$\hat{\beta}_{WLS} = (X^TWX)^{-1}X^TWy$$

其中，$X$是$n \times p$的设计矩阵，$y$是$n \times 1$的响应变量向量，$\hat{\beta}_{WLS}$是$p \times 1$的回归系数向量。

n <- length(y)
p <- ncol(x)
W <- diag(w)
beta_wls <- solve(t(x) %*% W %*% x) %*% t(x) %*% W %*% y

最后，我们可以查看回归系数的估计值：

beta_wls

如果需要，我们也可以计算加权最小二乘法的残差和均方误差：

y_hat <- x %*% beta_wls
resid_wls <- y - y_hat
mse_wls <- sum(resid_wls^2)/(n-p)