编程实现logistic回归,并给出在上面数据集中运行logistic回归的过程和计算结果
时间: 2024-06-03 07:08:15 浏览: 135
由于缺乏具体的数据集,以下是一个示例数据集的logistic回归实现过程和计算结果。
示例数据集:
| X1 | X2 | Y |
| --- | --- | --- |
| 1 | 1 | 0 |
| 1 | 2 | 0 |
| 2 | 2 | 0 |
| 2 | 3 | 1 |
| 3 | 3 | 1 |
| 3 | 4 | 1 |
logistic回归实现过程:
1. 初始化参数w和b,设w=[0, 0], b=0。
2. 计算z=w1*X1+w2*X2+b。
3. 计算sigmoid函数的值:a=1/(1+exp(-z))。
4. 定义损失函数:J=-(1/m)*[Σ(Y*log(a)+(1-Y)*log(1-a))],其中m为样本数。
5. 计算梯度:dw1=(1/m)*[Σ(X1*(a-Y))],dw2=(1/m)*[Σ(X2*(a-Y))],db=(1/m)*[Σ(a-Y)]。
6. 更新参数:w1=w1-lr*dw1,w2=w2-lr*dw2,b=b-lr*db,其中lr为学习率。
7. 重复步骤2-6,直到损失函数收敛或达到最大迭代次数。
计算结果:
1. 初始化参数:w=[0, 0],b=0。
2. 对每个样本计算z:
| X1 | X2 | Y | z |
| --- | --- | --- | ----- |
| 1 | 1 | 0 | 0 |
| 1 | 2 | 0 | 0 |
| 2 | 2 | 0 | 0 |
| 2 | 3 | 1 | 0.693 |
| 3 | 3 | 1 | 1.099 |
| 3 | 4 | 1 | 1.609 |
3. 对每个样本计算sigmoid函数的值:
| X1 | X2 | Y | z | a |
| --- | --- | --- | ----- | ------- |
| 1 | 1 | 0 | 0 | 0.5 |
| 1 | 2 | 0 | 0 | 0.5 |
| 2 | 2 | 0 | 0 | 0.5 |
| 2 | 3 | 1 | 0.693 | 0.6667 |
| 3 | 3 | 1 | 1.099 | 0.7509 |
| 3 | 4 | 1 | 1.609 | 0.8333 |
4. 计算损失函数:
J=-(1/6)*[(0*log(0.5)+(1-0)*log(1-0.5))+(0*log(0.5)+(1-0)*log(1-0.5))+(0*log(0.5)+(1-0)*log(1-0.5))+(1*log(0.6667)+(1-1)*log(1-0.6667))+(1*log(0.7509)+(1-1)*log(1-0.7509))+(1*log(0.8333)+(1-1)*log(1-0.8333))]=0.648
5. 计算梯度:
dw1=(1/6)*[(1*0.5-0*1)+(2*0.5-0*1)+(2*0.5-0*1)+(3*0.6667-0*1)+(3*0.7509-0*1)+(4*0.8333-0*1)]=3.3861
dw2=(1/6)*[(1*0.5-0*1)+(2*0.5-0*1)+(2*0.5-0*1)+(3*0.6667-0*1)+(3*0.7509-0*1)+(4*0.8333-0*1)]=4.2222
db=(1/6)*[(0.5-0)+(0.5-0)+(0.5-0)+(0.6667-1)+(0.7509-1)+(0.8333-1)]=-0.4444
6. 更新参数:
w1=0-0.1*3.3861=-0.3386
w2=0-0.1*4.2222=-0.4222
b=0-0.1*(-0.4444)=0.0444
7. 重复步骤2-6,直到损失函数收敛或达到最大迭代次数。
阅读全文
相关推荐
![zip](https://img-home.csdnimg.cn/images/20241231045053.png)
![rar](https://img-home.csdnimg.cn/images/20241231044955.png)
![zip](https://img-home.csdnimg.cn/images/20241231045053.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)