极大似然估计 线性回归

极大似然估计（Maximum Likelihood Estimation，MLE）是一种常用的参数估计方法，也可用于线性回归。在线性回归中，我们希望找到使观测到的数据样本出现的概率最大的参数值。

具体来说，对于线性回归，我们假设数据服从正态分布，即给定自变量x，因变量y服从均值为线性函数的正态分布。我们的目标是找到使得给定观测值y的条件下，参数θ的选择使得该观测值出现的概率最大。

MLE的思路是，我们通过最大化所有观测值出现的概率来估计参数θ。在线性回归中，我们可以假设噪声项服从均值为0、方差为常数σ^2的正态分布。然后，我们可以将线性回归模型转化为对数几率回归模型，通过最大化观测到的数据样本的对数几率来估计参数θ。

具体的计算过程涉及到最大化对数似然函数，可以使用梯度下降法等优化方法来求解参数的极大似然估计值。