linear_model

linear_model是scikit-learn库中的一个模块，提供了用于线性回归和广义线性模型的函数。下面是一些linear_model模块的常用函数和示例：

1.普通最小二乘回归（OLS）
普通最小二乘回归是线性回归的一种形式，其中模型假设响应是由一些预测变量的线性组合和一个误差项组成的。OLS估计器通过最小化响应和预测变量之间的残差平方和来估计模型参数。

下面是一个使用OLS回归的例子：[^1]

from sklearn import linear_model
reg = linear_model.LinearRegression()
reg.fit ([[0, 0], [1, 1], [2, 2]], [0, 1, 2])
LinearRegression(copy_X=True, fit_intercept=True, n_jobs=None, normalize=False)
reg.coef_

输出：

array([0.5, 0.5])

2.岭回归（Ridge Regression）
岭回归是一种正则化技术，用于在存在共线性的情况下提高线性回归的稳定性。它通过在损失函数中添加一个正则化项来实现，该项对模型参数的平方进行惩罚。

下面是一个使用岭回归的例子：[^2]

from sklearn import linear_model
reg = linear_model.Ridge(alpha=.5)
reg.fit([[0, 0], [0, 0], [1, 1]], [0, .1, 1])
Ridge(alpha=0.5, copy_X=True, fit_intercept=True, max_iter=None,
      normalize=False, random_state=None, solver='auto', tol=0.001)
reg.coef_

输出：

array([0.34545455, 0.34545455])

3.逻辑回归（Logistic Regression）
逻辑回归是一种用于二元分类的线性模型。在逻辑回归中，模型估计出一个概率，该概率表示给定一些输入变量后，响应变量为某个类别的概率。

下面是一个使用逻辑回归的例子：[^3]

from sklearn.linear_model import LogisticRegression
X = [[0.5], [1.0], [1.5], [2.0], [3.0], [3.5], [4.0], [4.5]]
y = [0,0,0,0,1,1,1,1]
clf = LogisticRegression(random_state=0)
clf.fit(X, y)
LogisticRegression(random_state=0)
clf.predict([[1.5]])

输出：

array()