没有合适的资源？快使用搜索试试~ 我知道了~

首页sklearn中kmeans聚类算法解析及应用

sklearn中kmeans聚类算法解析及应用

机器学习

需积分: 33 45 下载量 142 浏览量更新于2023-03-16 评论 3 收藏 2.45MB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

试读

19页

sklearn学习中所需要的聚类算法解析，文档中主要解析了kmeans算法用法

资源详情

资源评论

资源推荐

K-Means聚类

前面几章我们介绍了监督学习，包括从带标签的数据中学习的回归和分类算法。本章，我们讨论无监

督学习算法，聚类（clustering）。聚类是用于找出不带标签数据的相似性的算法。我们将介绍K-

Means聚类思想，解决一个图像压缩问题，然后对算法的效果进行评估。最后，我们把聚类和分类算

法组合起来，解决一个半监督学习问题。

在

第一章，机器学习基础

中，我们介绍过非监督学习的目的是从不带标签的训练数据中挖掘隐含的关

系。聚类，或称为聚类分析（cluster analysis）是一种分组观察的方法，将更具相似性的样本归为一

组，或一类（cluster），同组中的样本比其他组的样本更相似。与监督学习方法一样，我们用n维向

量表示一个观测值。例如，假设你的训练数据如下图所示：

聚类算法可能会分成两组，用圆点和方块表示，如下图所示：

也可能分成四组，如下图所示：

聚类通常用于探索数据集。社交网络可以用聚类算法识别社区，然后向没有加入社区的用户进行推

荐。在生物学领域，聚类用于找出有相似模式的基因组。推荐系统有时也利用聚类算法向用户推荐产

品和媒体资源。在市场调查中，聚类算法用来做用户分组。下面，我们就用K-Means聚类算法来为一

个数据集聚类。

K-Means聚类算法简介

由于具有出色的速度和良好的可扩展性，K-Means聚类算法算得上是最著名的聚类方法。K-Means算

法是一个重复移动类中心点的过程，把类的中心点，也称重心（centroids），移动到其包含成员的平

均位置，然后重新划分其内部成员。是算法计算出的超参数，表示类的数量；K-Means可以自动分

配样本到不同的类，但是不能决定究竟要分几个类。必须是一个比训练集样本数小的正整数。有

时，类的数量是由问题内容指定的。例如，一个鞋厂有三种新款式，它想知道每种新款式都有哪些潜

在客户，于是它调研客户，然后从数据里找出三类。也有一些问题没有指定聚类的数量，最优的聚类

数量是不确定的。后面我们会介绍一种启发式方法来估计最优聚类数量，称为肘部法则（Elbow

Method）。

K-Means的参数是类的重心位置和其内部观测值的位置。与广义线性模型和决策树类似，K-Means参

数的最优解也是以成本函数最小化为目标。K-Means成本函数公式如下：

是第个类的重心位置。成本函数是各个类畸变程度（distortions）之和。每个类的畸变程度等于

该类重心与其内部成员位置距离的平方和。若类内部的成员彼此间越紧凑则类的畸变程度越小，反

之，若类内部的成员彼此间越分散则类的畸变程度越大。求解成本函数最小化的参数就是一个重复配

置每个类包含的观测值，并不断移动类重心的过程。首先，类的重心是随机确定的位置。实际上，重

心位置等于随机选择的观测值的位置。每次迭代的时候，K-Means会把观测值分配到离它们最近的

类，然后把重心移动到该类全部成员位置的平均值那里。让我们用如下表所示的训练数据来试验一

下：

样本 X0 X1

1 7 5

2 5 7

3 7 7

4 3 3

5 4 6

6 1 4

7 0 0

8 2 2

9 8 7

10 6 8

11 5 5

12 3 7

上表有两个解释变量，每个样本有两个特征。画图如下所示：

In[1]:

%matplotlib inline

import matplotlib.pyplot as plt

from matplotlib.font_manager import FontProperties

font = FontProperties(fname=r"c:\windows\fonts\msyh.ttc", size=10)

∑

∈

−

In[66]:

import numpy as np

X0 = np.array([7, 5, 7, 3, 4, 1, 0, 2, 8, 6, 5, 3])

X1 = np.array([5, 7, 7, 3, 6, 4, 0, 2, 7, 8, 5, 7])

plt.figure()

plt.axis([-1, 9, -1, 9])

plt.grid(True)

plt.plot(X0, X1, 'k.');

假设K-Means初始化时，将第一个类的重心设置在第5个样本，第二个类的重心设置在第11个样本.那

么我们可以把每个实例与两个重心的距离都计算出来，将其分配到最近的类里面。计算结果如下表所

示：

样本 X0 X1 与C1距离与C2距离上次聚类结果新聚类结果是否改变

1 7 5 3.16 2.00 None C2 YES

2 5 7 1.41 2.00 None C1 YES

3 7 7 3.16 2.83 None C2 YES

4 3 3 3.16 2.83 None C2 YES

5 4 6 0.00 1.41 None C1 YES

6 1 4 3.61 4.12 None C1 YES

7 0 0 7.21 7.07 None C2 YES

8 2 2 4.47 4.24 None C2 YES

9 8 7 4.12 3.61 None C2 YES

10 6 8 2.83 3.16 None C1 YES

11 5 5 1.41 0.00 None C2 YES

12 3 7 1.41 2.83 None C1 YES

C1重心 4 6

C2重心

5 5

剩余18页未读，继续阅读

阿芸写代码

粉丝: 2
资源: 2

上传资源快速赚钱

我的内容管理收起

我的资源快来上传第一个资源

我的收益

登录查看自己的收益

我的积分登录查看自己的积分

我的C币登录后查看C币余额

我的收藏

我的下载

下载帮助

会员权益专享

sklearn中kmeans聚类算法解析及应用

评论0

会员权益专享

最新资源

sklearn中kmeans聚类算法解析及应用

评论0

机器学习 kmeans应用案例

k - means聚类分析算法

K-means方法聚类分析matlab代码实现

sklearn实现kmeans聚类算法

sklearn的kmeans聚类算法

sklearn kmeans聚类算法

对高维词向量用sklearn实现kmeans聚类

利用python的sklearn库实现kmeans聚类算法

kmeans聚类算法输出聚类标签

kmeans聚类算法判定

kmeans聚类算法python多维

基因的KMeans聚类算法代码

kmeans聚类算法robocup

kmeans聚类算法r语言

Sklearn中kmeans聚类中心对应的类别是

基因的KMeans聚类算法

kmeans聚类算法python案例

kmeans聚类算法python实例

K-means实际应用

Kmeans聚类算法详解与实现

会员权益专享

最新资源