模糊均值图像分类算法中的距离测度比较

© 2013.由Elsevier B.V.出版。由美国应用科学研究所负责选择和/或同行评审可在www.sciencedirect.com在线获取ScienceDirectAASRI Procedia 4（2013）50 - 562013年AASRI智能系统与控制模糊均值图像分类算法中距离测度的比较Jiho Hana，Dong-Chul Parka *，Dong-Min Wooa，Soo-Young Minba部。电子工程，明志大学Gyeongi-do，449-728，Rep. of KoreabKorea Electronics Tech. Inst.，SongNam，463-816，大韩摘要针对一个图像分类问题，研究了两种不同的距离测度--欧氏距离和散度距离在FCM中的应用，传统的基于欧氏距离的FCM算法只利用图像块的均值信息作为特征，而带散度的FCM算法同时利用图像块的方差和均值信息作为特征。在一组Caltech数据库上的评价表明，与传统的欧氏距离算法相比，基于散度的FCM算法具有更高的精度。© 2013作者。由Elsevier B. V.在CC BY-NC-ND许可下开放获取。由美国应用科学研究所负责选择和/或同行评审关键词：模糊c均值，分类，分歧度，SOM1. 介绍近年来，压缩图像数据的使用越来越多，需要一种能够有效检索图像数据的自动工具。常用的聚类算法有模糊c均值（FCM）算法和自组织映射（SOM）算法[1][2]，其中FCM算法是应用最广泛的一种聚类算法，可以看作是早期聚类算法的改进。FCM算法表现出更强的鲁棒性，* 通讯作者。联系电话：+82-31-330-6975;传真：+82-31-330-6977电子邮件地址：parkd@dreamwiz.com2212-6716 © 2013作者由Elsevier B. V.在CC BY-NC-ND许可下开放获取。美国应用科学研究所负责的选择和/或同行评审doi：10.1016/j.aasri.2013.10.009Jiho Han等人/ AASRI Procedia 4（2013）5051与SOM和k-Means算法进行了比较。通过结合模糊C均值和发散度的思想来解决图像分类问题，我们期望有一个更好的特征提取过程，以获得更准确的分类方案。该方法采用带散度测度的FCM算法[3]-[5]从图像数据中获取纹理信息。第二节总结了两种不同距离度量的FCM算法：欧氏距离和发散距离。第三节通过实验对不同方案进行了评价和比较。第4节提出结论。2. 采用的聚类算法2.1. 模糊c-均值算法下面的等式被用作FCM的目标函数[2]：其中di（xk）、ki、m、n和c遵循[2]中的定义。从等式(1)，Bezdek发现以下等式[2]：2.2. 具有发散度的（一）（二）（三）不同距离度量的选择会影响聚类结果的性能[1]。这导致了图像分类问题的分歧措施的想法。给定两个高斯概率密度函数，i= 1，，d，发散距离可以定义如下[6，8]：（四）52Jiho Han等人/ AASRI Procedia 4（2013）50、、、其中，，和遵循[6，8]中的定义注意，发散度量也称为Kullback-Leibler分歧FCM通过批量方式一次应用所有数据来计算中心参数和隶属度值。然而，在所提出的分类器中使用的D-FCM在每个数据向量的每次应用时计算和更新其参数，作为基于一致性的FCM [3]。这种迭代应用和更新中心参数的优点在[3]中报告。当每个数据向量呈现给网络时，还可以发现以下内容：（五）随后，推导出以下均值和方差的更新方程[6]：（六）（七）其中， 并遵循[6]中的定义。3. 实验和结果为了评估和比较不同分类方案的目的，我们在一组加州理工学院图像数据库上进行了一些实验[7]。加州理工学院的图像数据库已被广泛用作各种图像分类问题的基准数据。实验中使用的四类数据的例子如图1所示。每类使用200个数据。实验准备遵循[4]中使用的程序：150个随机选择的训练数据和每个类别的50个剩余数据用于评估不同的分类器方案。注意，所有图像数据都被转换为具有相同分辨率的灰色图像。设计数据分类器的第一步是特征提取过程。实验中采用的局部特征提取方法可以从整个图像空间中找到局部特征信息，通过收集局部点的特征信息，将每一幅图像数据用特征表示出来。在我们的实验中，8 8块用于提取图像数据的局部信息。每个图像窗口中的局部信息可以通过使用常规特征提取方法[9]-[11]来提取。其中，Gabor滤波器和小波滤波器表现出合理的性能，但需要大量的计算负担。这种计算负担使这些方法无法用于多种应用的特征提取工具。另一方面，离散余弦变换（DCT）更适合于获取图像中的频率信息，并且DCT用于我们的实验，因为DCT不需要太多的计算量。即使每个块图像的DCT系数产生64维的DCT系数，也使用64个系数的32个较低频率部分[4]，并且这为每个局部块图像产生总共32维的矢量值。通过对数据类别的特征向量使用聚类算法来确定代码向量，从而形成数据类别的模型。建模或训练过程包括找到用于Jiho Han等人/ AASRI Procedia 4（2013）5053每个类别及其特征向量，贝叶斯分类器用于各种分类方案的性能评估。根据下面的概率计算[4]，Itallocates一个给定testdata的类：（八）（九）（十）其中M，ci，d（=32），并且我遵循[4]中的定义。(a)汽车（b）摩托车(c)自行车（d）飞机图1数据54Jiho Han等人/ AASRI Procedia 4（2013）50相同的训练和测试程序相同的数据集上进行两个传统的聚类算法，SOM和FCM，并与所提出的算法的准确性进行了比较。在实验过程中，几个号码的代码矢量多达19个用于每个算法。图2总结了它们的分类精度。SOM、FCM和D-FCM在不同码向量数（3 ~ 19）下的平均准确率分别为42.22%、44.61%和73.33%分类精度随着代码向量数。请注意，当代码向量人数达到15人。还请注意，SOM和FCM不使用方差，而D-FCM使用。表1总结了当使用15个码向量时，对于每种类别的图像数据的分类性能。从图2和表1中，我们可以注意到D-FCM中使用的协方差值以及平均信息在提高图像数据的分类精度方面起着重要作用。发散距离度量允许图像分类器具有优于欧几里德距离的优势，并且在[4]中报告了类似的结果。表2示出了针对15个码向量的情况的基于D-FCM的图像分类器的混淆矩阵。汽车图像分类得足够好，而摩托车数据与飞机数据混淆。一些其他的特征提取方法，可以区分汽车数据从飞机数据需要做的，未来的研究。 未来的研究还包括比较FCM和基于模糊聚类的FCM，发散测量环境。图二.不同分类器方案在码向量表1.SOM、FCM和D-FCM对15个码向量的分类性能车自行车摩托车飞机Avg.准确度（%）SOM986371345.25FCM976651746.25D-FCM10078517676.25Jiho Han等人/ AASRI Procedia 4（2013）5055表2. D-FCM的详细分类结果分类4. 结论输入本文对基于欧氏距离和发散距离的FCM算法进行了比较研究，传统的基于欧氏距离的FCM算法在图像分类问题中只利用图像块的均值信息作为特征。另一方面，具有发散性的FCM算法利用图像块的方差和均值信息作为其特征。在我们的实验中，自组织映射也被用作性能比较的基线方法。在Caltech数据库上对一个四类问题进行了实验。从不同的分类方案的分类精度意味着，基于分歧的FCM是一个更好的适合图像分类问题比传统的FCM或SOM，只使用的平均信息作为其特征的图像数据。我们可以得出这样的结论，图像数据的分歧信息在图像分类问题中起着重要的作用，并由此产生的分类方案，使用的分歧信息，以及从图像数据的平均信息是一个更好的选择图像分类问题。然而，应该进一步努力找到一种特征提取方法，以克服摩托车数据和飞机数据之间的混淆。确认这项工作得到了MKE/KEIT（10040191）IT研发计划和韩国政府资助的韩国国家研究基金会（2010-0009655）的支持。引用[1]Bezdek，J.C.模式识别的模糊目标函数算法。全体会议;1981年。[2]Kohonen，T.自组织映射。IEEE会议录，1990;78：1464-1480。[3]D.C.公园使用具有发散度量的基于一致性的模糊c均值算法对音频信号进行分类。《环太平洋多媒体会议论文集》，2005年;第698-708页。[4]华盛顿公园，Woo D.M.图像分类使用基于一致性的模糊c-均值与发散度量。Proc. Int.神经网络联合会议。2008; 2520-2524。[5]应用基于发散的模糊c-均值算法进行卫星图像分类.图像和信号处理国际会议. 2012;555-561。[6]华盛顿公园et. 李志华.基于离散度测度的类心神经网络的数据聚类.北京：计算机科学出版社，2003车自行车摩托车飞机车010000自行车278128摩托车065143飞机72157656Jiho Han等人/ AASRI Procedia 4（2013）50Transactions on Neural Networks. 2008;19（6）：948-957. [7] www.vision.caltech.edu/html-files/archive.html[8]第八章统计模式识别导论，学术出版社; 1990. [9]第九届中国科学院院士用神经网络实现离散二维Gabor变换用于图像分析和压缩。IEEE声学、语音和信号处理汇刊，1988;36：1169-11179。[10]Pun C.M.，LeeMC用于不同尺度图像分类的平移不变小波特征提取。IEEE模式分析与机器智能汇刊。2004;26（9）：1228-1233. [11]Huang Y.L.，张荣锋DCT编码图像检索与分类的纹理特征.声学、语音和信号处理国际会议论文集。1999;6：3013-3016。