一元线性回归模型python最小二乘法

一元线性回归模型是一种简单的预测分析方法，用于研究两个变量之间是否存在线性关系。在Python中，我们可以使用`sklearn`库中的`LinearRegression`模块来实现最小二乘法求解一元线性回归。

以下是基本步骤：

1. 导入库：

from sklearn.linear_model import LinearRegression
import numpy as np

2. 准备数据集：通常需要一个自变量（X）和因变量（y）作为输入。例如，假设我们有一个关于房价的数据集，其中X代表面积，y代表价格。

# 假设数据已经加载到X_train, y_train
X = X_train.reshape(-1, 1)  # 确保它是二维数组

3. 创建并训练模型：

model = LinearRegression()
model.fit(X, y_train)

这里，`fit()`函数会计算出最佳拟合直线的斜率和截距，使得所有样本点到直线的距离之和（残差平方和）最小。

4. 预测新的数值：

new_data = [[新房屋面积]]  # 新的房屋面积值
prediction = model.predict(new_data)

相关问题

一元线性回归模型python最小二乘法方法及含义

一元线性回归是一种基本的预测分析技术，它假设自变量（X）与因变量（Y）之间存在线性关系。在Python中，我们可以使用最小二乘法（Least Squares Method）来估计这种关系的参数，即斜率（截距）。

最小二乘法的核心思想是找到一条直线，使得所有实际观测值到这条直线的距离的平方和（误差平方和）最小化。在Scikit-Learn库中的`LinearRegression`模块中，可以很容易地实现这一点。下面是一个简单的例子：

from sklearn.linear_model import LinearRegression
import numpy as np

# 假设我们有数据点 (x, y)
x = np.array([1, 2, 3, 4, 5])
y = np.array([2, 3, 5, 7, 9])

# 创建并训练模型
model = LinearRegression()
model.fit(x.reshape(-1, 1), y)

# 获取斜率和截距
slope = model.coef_[0]
intercept = model.intercept_

# 最小二乘法的意义在于提供了一种通过优化算法找到最佳拟合直线的方式

一元线性回归推导最小二乘法

### 一元线性回归中的最小二乘法推导

在一元线性回归中，目标是找到一条直线来最好地描述两个变量 \( x \) 和 \( y \) 之间的关系。这条直线可以用下面的方程表示：

\[ y = wx + b \]

其中：
- \( w \) 是斜率，
- \( b \) 是截距。

为了使模型尽可能好地拟合数据集，需要定义一种衡量标准来评估不同参数组合下的误差大小。常用的方法是最小化残差平方和 (RSS)，也称为最小二乘法。具体来说，对于给定的数据点集合 \( {(x_i, y_i)}_{i=1}^{n} \)，希望找到最优的 \( w \) 和 \( b \)，使得所有样本点到该直线的距离之和最小[^1]。

#### 定义损失函数

设实际观测值为 \( y_i \)，而根据当前假设得到的预测值为 \( \hat{y}_i = wx_i + b \)，则第 i 个样本对应的残差 e 可以写作:

\[ e_i = y_i - (\widehat{wx_i+b}) \]

因此，整个训练集中所有样本的总误差 E(w,b) 表达如下：

\[ E(w,b)=\sum_{i=1}^ne_i^2=\sum_{i=1}^n(y_i-(wx_i+b))^2 \]

这个表达式就是所谓的 **均方误差** 或者说 **残差平方和** ，它用来度量我们的模型与真实情况之间差距的程度[^2]。

#### 寻找最佳参数

为了让上述公式达到极小值，可以通过对 \( w \) 和 \( b \) 分别求偏导数，并令其等于零来进行优化操作。这样做的目的是让这些参数能够最大程度上减小整体误差。下面是具体的计算过程：

针对 \( w \):

\[ \frac{\partial}{\partial w}\left[\sum_{i=1}^{n}(y_i-wx_i-b)^2\right]=0 \]

展开后简化可得：

\[ 2\cdot(-)\sum_{i=1}^{n}x_ie_i=-2\sum_{i=1}^{n}x_i(y_i-wx_i-b)=0 \]

进一步整理得出关于 \( w \) 的正规方程形式：

\[ nwb+\sum_{i=1}^{n}bx_i-\sum_{i=1}^{n}xy_i+w\sum_{i=1}^{n}x_i^2=0 \]

同理，针对 \( b \):

\[ \frac{\partial}{\partial b}\left[\sum_{i=1}^{n}(y_i-wx_i-b)^2\right]=0 \]

最终获得另一个正规方程：

\[ nb+\sum_{i=1}^{n}wx_i-\sum_{i=1}^{n}y_i=0 \]

联立这两个方程式即可解出 \( w \) 和 \( b \)[^3]。

通过以上步骤完成了一元线性回归里最小二乘法公式的理论证明。当有了具体的数值之后就可以带入相应的公式去估算未知系数了。

import numpy as np

def compute_coefficients(X, Y):
    """ 计算简单线性回归的最佳拟合线 """
    
    mean_x = np.mean(X)
    mean_y = np.mean(Y)

    num = sum((X-mean_x)*(Y-mean_y))
    den = sum(pow((X-mean_x), 2))

    slope = num / den  
    intercept = mean_y - slope*mean_x
    
    return slope, intercept