MATLAB矩阵方程求解的最小二乘法：数据拟合与回归，掌握数据分析利器

# 1. MATLAB矩阵方程求解概述

MATLAB作为一种强大的数值计算软件，在矩阵方程求解方面具有显著优势。矩阵方程求解在科学计算、工程设计、数据分析等领域有着广泛的应用。本章将概述MATLAB矩阵方程求解的基本概念、方法和应用。

# 2. 最小二乘法理论基础

### 2.1 最小二乘法的概念和原理

最小二乘法是一种数学优化技术，用于找到一组未知参数，使得给定数据与模型之间的误差平方和最小。在最小二乘法中，误差定义为观测值与模型预测值之间的差值。

### 2.2 最小二乘法的数学推导

设我们有一组数据点 $(x_1, y_1), (x_2, y_2), \ldots, (x_n, y_n)$，其中 $y_i$ 是自变量 $x_i$ 的观测值。我们希望找到一组参数 $\beta = (\beta_0, \beta_1, \ldots, \beta_p)$，使得模型 $y = \beta_0 + \beta_1 x + \ldots + \beta_p x^p$ 与数据点之间的误差平方和最小。

误差平方和定义为：

$$S(\beta) = \sum_{i=1}^n (y_i - \hat{y}_i)^2$$

其中 $\hat{y}_i$ 是模型在 $x_i$ 处的预测值。

为了找到最小化 $S(\beta)$ 的参数 $\beta$，我们对 $\beta$ 求导并令导数为零：

$$\frac{\partial S}{\partial \beta_j} = -2 \sum_{i=1}^n (y_i - \hat{y}_i) \frac{\partial \hat{y}_i}{\partial \beta_j} = 0$$

对于每个参数 $\beta_j$，我们得到一个方程组：

$$\sum_{i=1}^n (y_i - \hat{y}_i) \frac{\partial \hat{y}_i}{\partial \beta_j} = 0$$

求解这个方程组，我们得到最小化 $S(\beta)$ 的参数估计值 $\hat{\beta}$。

### 2.3 最小二乘法的几何解释

最小二乘法也可以用几何方式来解释。设我们有一组数据点 $(x_1, y_1), (x_2, y_2), \ldots, (x_n, y_n)$ 和一个模型 $y = \beta_0 + \beta_1 x + \ldots + \beta_p x^p$。我们可以将数据点和模型表示为向量：

$$y = \begin{bmatrix} y_1 \\ y_2 \\ \vdots \\ y_n \end{bmatrix}, \quad \hat{y} = \begin{bmatrix} \hat{y}_1 \\ \hat{y}_2 \\ \vdots \\ \hat{y}_n \end{bmatrix}, \quad X = \begin{bmatrix} 1 & x_1 & \cdots & x_1^p \\ 1 & x_2 & \cdots & x_2^p \\ \vdots & \vdots & \ddots & \vdots \\ 1 & x_n & \cdots & x_n^p \end{bmatrix}$$

误差向量定义为：

$$e = y - \hat{y}$$

最小二乘法就是要找到一个参数向量 $\beta$，使得误差向量 $e$ 的长度最小。几何上，这意味着找到一条直线（对于线性模型）或曲线（对于非线性模型），使得数据点到这条直线或曲线的距离之和最小。

% 给定数据点
data = [
    1, 2
    2, 4
    3, 6
    4, 8
    5, 10
];

% 构建设计矩阵
X = [ones(size(data, 1), 1), data(:, 1)];

% 构建观测向量
y = data(:, 2);

% 求解最小二乘法参数
beta = (X' * X) \ (X' * y);

% 计算预测值
y_pred = X * beta;

% 计算误差平方和
SSE = sum((y - y_pred).^2);

% 输