逻辑回归在分类中的应用与Sigmoid函数解析
"17.4.17(逻辑回归)1" 逻辑回归是一种广泛应用的统计学和机器学习算法,主要用于二分类问题。虽然其名称中含有“回归”,但实际上它被广泛用于分类任务,尤其是在处理二分类问题时。在这个场景下,我们通常设定两个类别:“PositiveClass”(正类)标记为1,和“NegativeClass”(负类)标记为0。 在逻辑回归中,阈值分类器的输出设定在0.5。这意味着如果模型的预测概率Hypothesis Representation(假设模型)大于或等于0.5,则预测结果为“y=1”,即正类;反之,如果预测概率小于0.5,则预测结果为“y=0”,即负类。因此,二元逻辑回归算法的假设模型的输出范围限定在0到1之间。 这个模型的预测概率通常通过Sigmoid函数或逻辑函数来表示。Sigmoid函数是一个S型曲线,它将任意实数值映射到(0,1)区间,从而给出一个介于0和1之间的概率估计。对于给定的输入X,Sigmoid函数会计算出Y=1的概率。 在二元逻辑回归中,决定边界(Decision Boundary)是划分两类数据的关键。如果假设函数是线性的,即Hypothesis Representation为简单的线性组合,那么决定边界就是一条直线。然而,当假设函数采用多项式形式时,决定边界可以变得更加复杂,例如形成一个圆或者其他非线性形状,这取决于theta参数的值。 逻辑回归的代价函数(Cost Function)设计用来最小化预测与真实结果之间的差异。它的特点是,当实际的y=1且模型预测hθ也为1时,代价为0,表示完美匹配;当y=1但hθ不为1时,随着hθ远离1,代价增加;同样,当y=0且hθ也为0时,代价为0,而y=0但hθ不为0时,随着hθ远离0,代价也会增加。简化的代价函数避免了对y值的额外判断。 优化逻辑回归的代价函数以找到最优解,通常采用梯度下降法。尽管梯度下降的公式在形式上可能与线性回归相似,但逻辑回归的假设函数是Sigmoid而非线性,这使得两者的优化过程有所区别。在高级算法中,如使用fminunc这样的优化函数,可以通过内置的算法结构体(如MATLAB中的optimset)来寻找代价函数的最小值。 逻辑回归是一种强大的工具,它利用Sigmoid函数将连续的预测值转化为概率输出,适用于二分类问题,并通过优化代价函数来调整模型参数,以提高预测准确性。
![](https://csdnimg.cn/release/download_crawler_static/86333035/bg1.jpg)
下载后可阅读完整内容,剩余3页未读,立即下载
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://profile-avatar.csdnimg.cn/8ba54d8ba41b4a38b72ec37f40e1864f_weixin_35770958.jpg!1)
- 粉丝: 24
- 资源: 315
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![](https://csdnimg.cn/release/wenkucmsfe/public/img/voice.245cc511.png)
最新资源
- 解决本地连接丢失无法上网的问题
- BIOS报警声音解析:故障原因与解决方法
- 广义均值移动跟踪算法在视频目标跟踪中的应用研究
- C++Builder快捷键大全:高效编程的秘密武器
- 网页制作入门:常用代码详解
- TX2440A开发板网络远程监控系统移植教程:易搭建与通用解决方案
- WebLogic10虚拟内存配置详解与优化技巧
- C#网络编程深度解析:Socket基础与应用
- 掌握Struts1:Java MVC轻量级框架详解
- 20个必备CSS代码段提升Web开发效率
- CSS样式大全:字体、文本、列表样式详解
- Proteus元件库大全:从基础到高级组件
- 74HC08芯片:高速CMOS四输入与门详细资料
- C#获取当前路径的多种方法详解
- 修复MySQL乱码问题:设置字符集为GB2312
- C语言的诞生与演进:从汇编到系统编程的革命
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035111.png)
![](https://csdnimg.cn/release/wenkucmsfe/public/img/green-success.6a4acb44.png)