python 最小二乘法公式

最小二乘法是一种统计学方法，常用于回归分析中，特别是在线性回归的情况下。在Python中，它通常通过计算数据点到拟合直线的最佳距离来确定最佳拟合模型。假设我们有一个一元线性回归模型 \( y = ax + b \)，其中\( y \) 是目标变量，\( x \) 是自变量，\( a \) 是斜率（权重），\( b \) 是截距。

最小二乘法的目标是最小化残差平方和（Residual Sum of Squares (RSS)），即所有数据点 \( (x_i, y_i) \) 到直线上的垂直距离的平方之和：

\[ RSS = \sum_{i=1}^{n}(y_i - (ax_i + b))^2 \]

在Python的`sklearn`库中，可以使用`LinearRegression`类及其`fit()`函数轻松实现最小二乘法求解：

from sklearn.linear_model import LinearRegression

# 假设我们有x_data和y_data作为输入特征和目标值
model = LinearRegression()  # 创建模型实例
model.fit(x_data, y_data)  # 使用数据训练模型，自动求解a和b
slope = model.coef_[0]  # 斜率 a
intercept = model.intercept_  # 截距 b