python中多元线性回归和最小二乘线性回归模型二者用哪个比较形式
时间: 2024-03-04 09:51:37 浏览: 113
多元线性回归和最小二乘线性回归模型都可以用矩阵形式进行表述。
对于多元线性回归模型,假设有 $p$ 个自变量和 $n$ 个样本,可以将自变量和因变量表示为矩阵形式:
$$
\mathbf{X} = \begin{bmatrix}
x_{11} & x_{12} & \cdots & x_{1p} \\
x_{21} & x_{22} & \cdots & x_{2p} \\
\vdots & \vdots & \ddots & \vdots \\
x_{n1} & x_{n2} & \cdots & x_{np}
\end{bmatrix}, \quad
\mathbf{y} = \begin{bmatrix}
y_1 \\
y_2 \\
\vdots \\
y_n
\end{bmatrix}
$$
其中,$\mathbf{X}$ 是自变量矩阵,每行代表一个样本,每列代表一个自变量;$\mathbf{y}$ 是因变量矩阵,每行代表一个样本的因变量。多元线性回归模型可以表示为:
$$
\mathbf{y} = \mathbf{X}\boldsymbol{\beta} + \boldsymbol{\epsilon}
$$
其中,$\boldsymbol{\beta}$ 是模型参数,$\boldsymbol{\epsilon}$ 是误差项。
对于最小二乘线性回归模型,假设只有一个自变量和 $n$ 个样本,可以将自变量和因变量表示为矩阵形式:
$$
\mathbf{X} = \begin{bmatrix}
1 & x_1 \\
1 & x_2 \\
\vdots & \vdots \\
1 & x_n
\end{bmatrix}, \quad
\mathbf{y} = \begin{bmatrix}
y_1 \\
y_2 \\
\vdots \\
y_n
\end{bmatrix}
$$
其中,$\mathbf{X}$ 是自变量矩阵,第一列都是 $1$,第二列是自变量;$\mathbf{y}$ 是因变量矩阵,每行代表一个样本的因变量。最小二乘线性回归模型可以表示为:
$$
\mathbf{y} = \mathbf{X}\boldsymbol{\beta} + \boldsymbol{\epsilon}
$$
其中,$\boldsymbol{\beta}$ 是模型参数,$\boldsymbol{\epsilon}$ 是误差项。
综上所述,多元线性回归和最小二乘线性回归模型都可以用矩阵形式进行表述,但是多元线性回归模型中自变量的个数比最小二乘线性回归模型多,因此自变量矩阵的列数也会相应增加。
阅读全文