没有合适的资源?快使用搜索试试~ 我知道了~
8720独立分段同分布噪声模型澳门大学计算机与信息科学系,中国澳门{yuanmanli,jtzhou,yb47430,yb77405,yytang}@ um.edu.mo摘要大多数现有的子空间聚类(SC)框架假设污染数据的噪声由独立同分布(i.i.d.)源,在那里的高斯往往是强加的。虽然这些假设大大简化了潜在的问题,但它们在许多现实世界的应用中并不成立。例如,在人脸聚类中,噪声通常由随机遮挡、局部变化和无约束照明引起,其本质上是结构性的,因此既不满足i.i.d.也不是高斯性。在这项工作中,我们提出了一个独立和分段同分布(i.p.i.d.)噪声模型,其中I.I.D.房地产只在本地持有。我们证明了i.p.i.d.模型更好地表征了实际sce- narios中遇到的噪声 模型作为特例。在此广义噪声模型的辅助下,通过一种新的最小加权误差熵准则,设计了鲁棒SC大量的实验结果表明,我们提出的SC计划显着优于国家的最先进的竞争算法。1. 介绍许多实际的高维数据通常位于低维结构中,而不是均匀分布在周围空间[30,36,3,5,44]。一些代表性示例包括视频中刚性移动对象的特征轨迹[30]、一个主体的面部图像[36]以及高光谱图像中一个实例的光谱[3]。因此,来自多个类别的数据集合可以被视为位于低维子空间的并集中的数据[5]。子空间聚类(SC)是指根据其底层子空间分离数据点的问题,并且在运动分割[22,43],图像聚类[20,21],数据表示[14]等中有许多应用。有许多不同类型的供应链方法被提出,例如,在一个实施例中,代数[17],统计[10],迭代[41]和基于谱聚类的算法[5,20在这项工作中,我们专注于基于频谱聚类的SC方法[5,20],因为它们提供了最先进的性能。在基于谱聚类的方法框架内,首先建立表示数据点对之间相似性的亲和矩阵,然后应用谱聚类分离数据点[25]在这个亲和矩阵上。各种谱聚类算法的主要区别在于如何学习每个数据点的鲁棒子空间表示(SR),这严重影响了聚类性能。典型地,学习鲁棒SR的任务被转换成特定的优化问题,通常由两项组成:保真度项以及正则化项。沿着这条线的大多数先前的努力集中在设计具有期望属性的正则化函数,例如稀疏性[5,19],低秩[20,33],流形结构[28]或它们的组合[37,42]。另一方面,从本质上考虑噪声对鲁棒超分辨率影响的保真度项的研究相对有限。为了便于分析和降低计算 复 杂 度 , 大 多 数 SC 方 法 简 单 地 采 用 均 方 误 差(MSE)准则,该准则仅在噪声为独立同分布时才提供最优解。高斯分布[2]。由于这种限制,基于MSE的框架对非高斯噪声非常敏感[8,29,39]。此外,MSE准则只考虑了二阶统计量,可能无法捕获噪声信号的足够统计信息为了弥补这些缺点,最近提出了信息理论学习(ITL)[15,29,23,7,8]来处理非高斯噪声,并成功应用于图像识别[12,34]。具体而言,ITL旨在找到以最小信息产生编码残差的解决方案[7,34]。为此,ITL用基于信息理论的标准取代MSE标准,例如, correntro p y[23]和Re′nyi的entro p y [ 6,40 ]。与MSE相比,ITL不进行高斯性分解,并且可以利用信号的更高阶统计信息[15]。尽管有这些令人满意的特性,8721k=1i=1i=1(a)(b)(c)(d)图1.四幅图像被加性高斯白噪声损坏(标准差50)。他们有相同的背景本文的其余部分组织如下。第2节回顾了基于谱聚类的SC。第3节列出了i.p.i.d. 噪声模型第四部分介绍了基于MWEE的SC算法及其优化.实验结果在第5节和第6节中给出。2. 基于光谱分析的SC研究和相同数量的黑色像素。 (a)-(c)中的黑色像素设{Sk}K是RN的K个线性子空间的并,表现出结构模式,而(d)中的那些是纯粹随机的。,n{x}是n个观测数据的集合。定义现有的基于ITL的算法仍然强加i.i.d. 对噪声的估计,即所有噪声样本都是从相同的潜在分布中产生的,并且它们之间不不幸的是,这样的i.i.d. 假设在现实中往往不成立。在许多实际设置中,噪声的不同部分可以具有不同的静态行为,表现出某些结构。一个有说服力的例子显示在图。1.一、如果我们简单地对图1和图2中的信号进行建模。1(a)-(d),i.i.d. 源,那么所有这四个信号在传统熵方面将具有相同的信息量[40]。很明显,这个身份证。噪声模型导致不准确的信息估计,如图1中的信号。从信息论的角度来看,1(d)应该有更大的信息量[11]。上述现象需要更通用的噪声模型,该模型可以更好地表征在各种实际场景中遇到的噪声的统计行为在这项工作中,我们提出了一个新的强大的SC算法,通过一个更通用的噪声模型称为独立和分段同分布(ipid)。)模型,其中我们使用分布的联合,而不是单个分布,来表征潜在噪声的统计行为。据我们所知,这可能是第一个明确建立在通用非i.i.d.基础上的SC方法。噪声建模我们工作的主要贡献如下:1. 我们的框架既没有使i.i.d. 也没有对噪声的高斯性假设,导致与现有SC方法的本质区别。2. 我们开发了一种新的最小加权误差熵(MWEE)标准的鲁棒SC,通过一个ipid。噪声模型我们证明了它的有效性,利用固有的统计信息的噪声(包括结构和纯随机的)。3. 我们设计了一种松弛技术来解决MWEE准则下的鲁棒SC的优化问题,并且可以实现有效的实现。4. 建议MWEE准则可以被视为一种通用的技术,并容易地纳入许多现有的学习系统,以提高鲁棒性,对各种类型的实际噪声。X=[x1 , ... ,xn]=[X1 , ... ,(1)其中P是一个置换矩阵,Xi∈RN×nk包含nk个位于子空间Si中的数据点.给定数据矩阵X,SC的目标是将数据点{xi}n正确地分离到它们的底层子空间中。在这项工作中,我们专注于基于谱的方法,聚类[5,20],通常包括两个步骤:i)学习表示数据对之间的相似性的亲和矩阵;以及ii)通过将谱聚类应用于所学习的相似度矩阵来获得聚类结果。各种SC算法之间的关键区别在于如何学习亲和矩阵的技术。用于学习亲和度矩阵的现有方法基于鲁棒SR。根据子空间学习,每个数据点可以有效地表示为X中其他点的线性组合,即,X=XZ , diag ( Z ) =0 ,(2)其中X是自表达字典,Z用作表示系数矩阵。一般来说,Z的解不是唯一的,因为rank(Xk)1时,e是具有结构的一维信号。图3示出了当L=1(红色)和L=10(蓝色)时的序列的两个示例。图4绘制了具有不同分区数的不同估计量zi是Z的第i列。由于H <$2(e)的加权性质,本文将最小 化 H<$2 ( e ) 的 准 则 称 为 最 小 加 权 误 差 熵(MWEE)准则。不同于MSE和所有现有的ITL标准,例如基于相关熵的标准[12]和R e′n yi的entro p y [40,34 ],MWEE是基于i.p.i.d. 模型既不能确定身份。也不是高斯假设无论是结构性噪声还是纯随机噪声,最小化目标PRE都能更好地反映噪声的正如预期的那样,并将在实验中显示,我们的算法是非常强大的对各种噪声。问题(20)可以分解为n个独立的子问题,其中第i个子问题表示为:阿尔格明||zi||1,s.t. H<$2(xi−Xzi)i,zi,i=0,(二十二)zi∈RnΣn其中,i =i。为了解决这个问题(22),我们可以我们可以观察到在i.i.d. 情况,即,L=1,H2(e),H2(e)和H2(e)是相同的,这与The-先解决阿尔格明||z′||,s.t.H<$(x-Xz′<)。(二十三)orem3.1.当L >1时,H2(e)变得比PREH2(e)和H<$2(e)大得多。这是因为H2(e)完全I1z′n−1i2我我我忽略了e的结构信息,简单地对待所有信号元素如I.I.D. 从图4中,我们还可以观察到,即使在不知道划分的情况下,H<$2(e)也可以很好地逼近H<$2(e)4. SC方法的提出及其优化根据拟定的i.p.i.d. 噪声模型,我们现在建议一个新的保真度函数L(·)在(6)的鲁棒SC。4.1. 基于MWEE的稀疏SC在这项工作中,我们专注于流行的稀疏子空间聚类(SSC)方法[5],该方法采用101-范数,R(·)来实现子空间稀疏表示,而其中X=[x1,.., xi−1,xi+1,., xn]。则解zi(22)最终计算如下:z i=[z ′i,1,.,z ′i,i−1,0,z ′i,i,.,z ′i,n−1].然而,解决问题(2 - 3)是非常困难的,因为1)在(1 - 7)中定义的H<$2(e)是复对数函数的和; 2)核函数κ∈2σ(·)是高度非共的. 为了应对这一挑战,我们现在提出了一种用于H2(e)的弛豫技术,可以有效地解决所产生的问题4.2. H2(e)的弛豫定义在MSE准则下的符号L(·)名字是,Qi、j=c(Dq,i)c(Dq,j),(24)argmin ||Z||1,s.t. ||2||2
下载后可阅读完整内容,剩余1页未读,立即下载
![.pdf](https://img-home.csdnimg.cn/images/20210720083646.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://csdnimg.cn/download_wenku/file_type_ask_c1.png)
![](https://profile-avatar.csdnimg.cn/default.jpg!1)
cpongm
- 粉丝: 4
- 资源: 2万+
上传资源 快速赚钱
我的内容管理 收起
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![](https://csdnimg.cn/release/wenkucmsfe/public/img/voice.245cc511.png)
会员权益专享
最新资源
- BSC关键绩效财务与客户指标详解
- 绘制企业战略地图:从财务到客户价值的六步法
- BSC关键绩效指标详解:财务与运营效率评估
- 手持移动数据终端:常见问题与WIFI设置指南
- 平衡计分卡(BSC):绩效管理与战略实施工具
- ESP8266智能家居控制系统设计与实现
- ESP8266在智能家居中的应用——网络家电控制系统
- BSC:平衡计分卡在绩效管理与信息技术中的应用
- 手持移动数据终端:常见问题与解决办法
- BSC模板:四大领域关键绩效指标详解(财务、客户、运营与成长)
- BSC:从绩效考核到计算机网络的关键概念
- BSC模板:四大维度关键绩效指标详解与预算达成分析
- 平衡计分卡(BSC):绩效考核与战略实施工具
- K-means聚类算法详解及其优缺点
- 平衡计分卡(BSC):从绩效考核到战略实施
- BSC:平衡计分卡与计算机网络中的应用
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035711.png)
![](https://img-home.csdnimg.cn/images/20220527035111.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![](https://csdnimg.cn/release/wenkucmsfe/public/img/green-success.6a4acb44.png)