请给我一道使用gini指数划分cart决策树的例题
时间: 2024-03-14 08:48:58 浏览: 30
好的,这里给您一个使用gini指数划分cart决策树的例题:
假设有一个数据集,包含以下5条记录,每条记录有两个属性x和y,以及一个标签label(标签为1表示好瓜,标签为0表示坏瓜):
| x | y | label |
|----|----|-------|
| 1 | 1 | 0 |
| 1 | 2 | 0 |
| 2 | 1 | 0 |
| 2 | 2 | 1 |
| 3 | 3 | 1 |
现在我们希望使用cart决策树对这个数据集进行分类。
首先,我们需要计算出每个属性的gini指数,以找到最佳的属性来进行划分。假设我们先计算属性x的gini指数。
按照x属性的取值,将数据集分成两个子集:
子集1:x<=1
| x | y | label |
|----|----|-------|
| 1 | 1 | 0 |
| 1 | 2 | 0 |
子集2:x>1
| x | y | label |
|----|----|-------|
| 2 | 1 | 0 |
| 2 | 2 | 1 |
| 3 | 3 | 1 |
对于子集1,label为0的记录有2条,label为1的记录没有,因此gini指数为:
gini(子集1) = 1 - (2/2)^2 - (0/2)^2 = 0
对于子集2,label为0的记录有2条,label为1的记录有2条,因此gini指数为:
gini(子集2) = 1 - (2/3)^2 - (1/3)^2 ≈ 0.444
将x属性的gini指数计算出来后,我们再计算属性y的gini指数。
按照y属性的取值,将数据集分成两个子集:
子集1:y<=1
| x | y | label |
|----|----|-------|
| 1 | 1 | 0 |
| 2 | 1 | 0 |
子集2:y>1
| x | y | label |
|----|----|-------|
| 1 | 2 | 0 |
| 2 | 2 | 1 |
| 3 | 3 | 1 |
对于子集1,label为0的记录有2条,label为1的记录没有,因此gini指数为:
gini(子集1) = 1 - (2/2)^2 - (0/2)^2 = 0
对于子集2,label为0的记录有1条,label为1的记录有2条,因此gini指数为:
gini(子集2) = 1 - (1/3)^2 - (2/3)^2 ≈ 0.444
最终,我们可以发现使用属性y进行划分可以得到更好的结果,因为y属性的gini指数更小。因此,我们选择属性y作为划分属性,将数据集划分为以下两个子集:
子集1:y<=1
| x | y | label |
|----|----|-------|
| 1 | 1 | 0 |
| 2 | 1 | 0 |
子集2:y>1
| x | y | label |
|----|----|-------|
| 1 | 2 | 0 |
| 2 | 2 | 1 |
| 3 | 3 | 1 |
现在我们可以继续对每个子集进行划分,直到得到一个满足要求的决策树。
相关推荐
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pptx](https://img-home.csdnimg.cn/images/20210720083543.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)