给出最小平方误差算法的流程和伪代码

最小平方误差算法，也称为最小二乘法，主要用于通过线性模型拟合数据点，找到一条直线（如果是一维）或超平面（如果是二维以上），使得所有数据点到这条线的距离之和（残差平方和）最小。以下是简单步骤和伪代码：

**步骤**：
1. **初始化**：假设有一个输入变量向量 `x` 和对应的输出变量向量 `y`，以及待求解的权重系数向量 `w`（对于线性回归是一维，对于更高维度的多元线性回归，`w` 是一个矩阵）。

2. **设置目标函数**：目标是最小化误差函数 \( E(w) = \sum_{i=1}^{n}(y_i - w^T x_i)^2 \)，其中 \( n \) 是样本数，\( y_i \) 是第 i 个观测值，\( w^T \) 表示向量 w 的转置。

3. **梯度下降或正规方程求解**：
a. **梯度下降法**：计算误差关于 w 的偏导数，即梯度 \( \frac{\partial E}{\partial w} \)，然后更新 w 的值，直到梯度接近于零。

      dw = -\frac{1}{n}\sum_{i=1}^{n}(y_i - w^T x_i) * x_i
      w_new = w + \eta * dw

b. **正规方程**：当数据集较小或特征数较少时，可以使用矩阵运算直接求解，即找到使得误差平方和最小化的 w，等于输入 X 的转置乘以其自身的逆再乘以输出 y 的均值。

      XTXw = XT y
      w = (XTX)^{-1}XT y

4. **评估模型**：使用测试数据集检查模型的预测效果，并可能进行调整优化。

**伪代码**（使用 Python 风格）：

def least_square_regression(x, y):
    n = len(x)
    X = np.column_stack((np.ones(n), x)) # 添加截距项
    XTX = np.dot(X.T, X)
    if np.linalg.matrix_rank(XTX) < X.shape[1]:
        print("警告：矩阵奇异，无法求解")
    else:
        inv_XTX = np.linalg.inv(XTX)
        w = np.dot(inv_XTX, np.dot(X.T, y))
    return w

# 使用拟合得到的 w 进行预测
predictions = np.dot(X, w)