数时,使用最小化
&
范数能保证矩阵行列均稀疏,即得到矩阵整体的稀疏性,
使模型的局部特征特异性降低,既可以降低噪声对算法的影响,又可以提高模
型的泛化能力。
3 SGCNMF 算法描述与求解
现实中的原始数据往往夹杂着噪声,如图像中不同强度的光照、语音数据
中的噪音等,这些噪声对特征学习造成了一定的干扰。在非负矩阵分解中,基
矩阵是新的特征子空间的基,保留了原始特征空间中的局部特征,数据中的噪
声特征同时被部分学习并保留到基矩阵中成为“噪声特征”。考虑到
&
范数对野
值点具有抑制和平衡作用,还可以提高模型的泛化能力,本文在 )%' ( 的基
础上引入
&
范数,通过对基矩阵施加稀疏约束的方式,增强模型的泛化能力和
抗噪声能力。
-<算法描述
对于非负矩阵分解,基矩阵越稀疏,局部特征的贡献度越低。式HI中 A 为
保留了噪声特征的基矩阵,采用基于
&
范数的稀疏约束,提出目标函数 ,如
式HI所示。
O(U,V)=∥X−XUVT∥2+αTr(VTLV)+HABI>K=L=ABDK&?VDHBDBI?
O(U,V)=∥X−XUVT∥2+αTr(VTLV)+HABI>K=L=ABDK&?VDHBDBI?
αTr(VTLV)+βTr(EUUT)VDHBDBI?WDHAADI
s.t. Uij≥0,Vij≥0 (11)!<"<EGGGEANFBNFGGGGGHI
其中,V、W 为正则化参数,V 控制流形正则化项在矩阵分解过程中的影响
力,W 控制基矩阵的稀疏程度。E 为对称矩阵,且其对角元素为
Eii=1∑j=1nU2i,j ⎷ (12)>QN>AN&GGGGH&I
下面将讨论目标函数 的更新规则和在此规则下目标函数收敛的理论分析。
-<&算法求解
令 X
3
Y
N3
分 别 为 约 束 $
3
F 1
N3
F 下 的 拉 格 朗 日 乘 子 , 构 建 矩
阵 Θ=[θik]Z>X3,Φ=[jk][>N3。对式HI构造拉格朗日函数 )。
G(U,V)=Tr(XXT)−2Tr(XUVTXT)+)HABI>DH==DIL&DH=ABD=DI?
Tr(XUVTVUTXT)+αTr(VTLV)+DH=ABDBAD=DI?VDHBDBI?