机器学习实验使用梯度下降法训练线性回归模型的python代码
时间: 2024-09-17 15:03:56 浏览: 65
机器学习(线性回归和梯度下降算法的python实现).zip
在Python中,使用scikit-learn库来实现线性回归模型并使用梯度下降法进行训练是一个常见的实践。以下是一个简单的例子:
```python
import numpy as np
from sklearn.linear_model import LinearRegression
from sklearn.datasets import make_regression
# 创建数据集
X, y = make_regression(n_samples=100, n_features=1, noise=20) # 生成随机的简单线性数据
# 初始化权重和偏置
w = np.random.randn(1)
b = 0
# 定义学习率和迭代次数
learning_rate = 0.01
iterations = 1000
for _ in range(iterations):
# 梯度计算
dw = (1 / len(X)) * np.sum((y - (X @ w + b))) * X
db = (1 / len(X)) * np.sum(y - (X @ w + b))
# 更新权重和偏置
w -= learning_rate * dw
b -= learning_rate * db
# 使用sklearn创建模型并设置手动指定的参数
model = LinearRegression(fit_intercept=False)
model.coef_ = w
model.intercept_ = b
# 测试模型
predictions = model.predict(X)
# 打印最终的参数
print("Final weights and bias:", model.coef_, model.intercept_)
```
在这个例子中,我们首先生成了一个简单的线性数据集,然后手动初始化权重和偏置。接着通过梯度下降的方式更新这些参数,使其最小化残差平方和。最后,我们将训练好的模型用于预测。
阅读全文