扩散自适应网络中的分布式可变分接长度算法

0AASRI Procedia 5 (2013) 77-8402212-6716 ©2013年作者。由ElsevierB.V.出版。选择和/或同行评审由美国应用科学研究所负责。doi: 10.1016/j.aasri.2013.10.0610ScienceDirect02013年AASRI并行和分布式计算系统会议0扩散中的分布式可变导频长度算法0自适应网络0李磊磊a*，冯景峰a，贺建辉a，乔纳森A.张伯伦b0中国国家广播电视总局广播规划院，中国北京市复兴门外大街2号，100450b 英国拉夫堡大学电子、电气与系统工程学院，Loughborough LE11 3TU，英国0摘要0在这项工作中，我们提出了一种具有可变导频长度的扩散网络自适应算法，其中所有节点与其连接的组交换信息，没有融合中心，并利用交换的信息和本地观测进行个体估计。基于分数导频长度解和网络的完全分布式结构，我们提出了该算法来解决导频长度和导频权重的估计问题。具有自适应导频长度结构的所提出算法使网络能够减少通信能量和网络资源。通过仿真结果验证了该算法的收敛性质。©2013年ElsevierB.V.出版。选择和/或同行评审由美国应用科学研究所负责。关键词：可变导频长度，分布式算法，自适应滤波器，扩散网络；01. 背景0作为滤波器结构中的一个重要参数，导频长度对自适应滤波器的性能产生影响。0滤波器。最近的研究[1]表明，具有不足导频长度的自适应滤波器会使均方误差(MSE)恶化。0*通讯作者。电话：+8610-86092072；传真：+8610-86092645。电子邮件地址：lileilei@abp.gov.cn。0在线获取：www.sciencedirect.com0©2013年作者。由Elsevier B.V.出版。选择和/或同0CC BY-NC-ND许可下的开放获取。0CC BY-NC-ND许可下的开放获取。 078     李磊磊等/ AASRI Procedia 5 (2013) 77-840均方误差(MSE)恶化；为了避免这种情况，我们可以在稳态阶段选择适当的长导频长度，但这会导致计算成本高和超额均方误差(EMSE)高。自研究[2]首次利用可变导频长度改善自适应算法的性能以来，已经提出了几篇有关自适应导频长度算法的研究文章[3]-[5]。与以往的算法相比，[6]中提出的分数导频长度(FT)算法以低复杂性实现了稳健且改进的性能。此外，[7,8]的研究还提供了FT算法在参数选择和稳态性能之间关系的分析。在网络中，分布式自适应算法的许多应用中，每个节点上的自适应滤波器的导频长度被假定为固定值。然而，当导频长度未知或可变时，就会引起分布式网络中的导频长度估计问题。以前在文献[11]中提出了具有分数导频长度解的增量自适应算法。该算法基于分布式网络上的增量学习，在每次迭代中构建哈密顿环使得所有节点与其邻居通信。因此，网络拓扑由此类型的连接确定。为了解决具有完全分布式结构的网络中的导频长度估计问题，我们引入了分数导频长度解。在这种类型的网络中，每个节点不仅与其邻居通信，还经历整个网络的影响。在本文中，分数解被应用于所提出的分布式可变导频长度算法中，以解决分布式扩散网络中的导频长度和导频权重估计问题。我们对新算法的性能进行了分析，并通过仿真结果验证了其收敛性质。本文的其余部分共分为4个部分。第2节介绍了激发我们制定所提出算法的估计问题。然后，在第3节中分析了该算法的稳态性能。第4节展示了进行了仿真以确认分析结果。在第5节中，我们得出结论。02. 动机和公式化0假设网络由分布在某个区域上的N个节点组成。当两个节点可以以直接方式相互交换信息时，我们将它们视为连接的。每个节点可以与自身连接。与节点k通信的所有节点都包含在其邻域中，其定义为0k。节点k的邻居总数用kn表示。在每个时刻i，每个节点k都接收某个随机过程ki ki ud的时间测量，它们与未知大小oL的系统向量ow有以下关系：0i w i k o k i k v u d，(1)0其中u k，i是一个1Lo的回归器，k v i 是一个时域和空域的白噪声序列，即02 v，k kl ij l k j i E v v (2)0其中E是期望运算符，表示Kroneckerdelta。为了简化分析，调整自适应规则为导频权重估计和导频长度估计，从而分别计算ow的导频权重和导频长度。数据从所有节点N k 1,...，收集到全局矩阵中：1，...，col N N 1 d d d，1，...，col0L o N，...，col N 1 u u U，其中col用于使其元素成为列。因此，我们可以将表达式(1)重写为 079  李磊磊等/ AASRI Procedia 5 (2013) 77-840v U d w o (3)0其中E vv * Rv，*表示复共轭转置。由于导频长度未知，我们将估计的导频长度w假设为Li。为了寻找最佳导频长度oL，我们回顾线性最小均方估计问题[11]：02和min L i L i L i L i w w E w J w J U d (4)02 M M M w E w J U d，其中M的定义为L i M 1，w M和U M分别由相应数量的初始M元素/列向量组成。01，...，col M w M w w M (5)0M N M M N M                  1: ,..., 1: col 1 u u U                                                                                    (6)0我们求解均方误差估计问题，并利用其最小差异来获得最优的拍长  o L0w J w J L i L i |  M min                                                                                                                   (7)0其中  表示小的正值，由系统要求预先确定。在时刻  i  ，我们定义分段均方误差和均方误差分别为0   和   1 2 1 1 2 1 i L i i L i i L i i L i w e w J w e w J , 其中  M L i是一个整数，用于在学习过程中避免亚最优拍长，因此  的值通常大于1。我们回顾了标准伪分数拍长实现，如[6] 中所示的单个自适应滤波器01 2 1 2 1 i L i i L i f f w e w e i L i L                                                                                     (8)0i L L i i L L i f f                                                                                                        (9)0其中   是小的正值，表示泄漏参数，用于避免不良的大  L f i 值，  表示用于更新分数拍长  L  f i的步长参数。方程 (9)  用于计算整数估计值  L i ,   表示将包含的值四舍五入到最近的整数，而  阈值 ,一个小整数，通常设置为1。引入分布式概念用于每个节点  k  的拍长自适应，我们可以将 (8) 重写为0k l k f l k k f i L b i l 1 1 , , ,(10)01 , 2 )1 ( 1 , 2 )1 ( , , )1 ( ( ) k i i L k i i L k k k f k f w e w e i l i L k k k                                                             (11) 080     Leilei Li et al. /  AASRI Procedia  5 ( 2013 )  77 – 840其中  k  和  k  指示局部参数，   1 , i l k f  和  1 , i L k f  分别表示集成和局部的分数拍长估计，  k l b ,是拍长组合的局部权重系数，而  k l b ,  集合满足0k l l b k                                                                                                                        (12)0而  L k i  是整数估计的拍长，由以下给出0i 0k k f k k f k                                                                                               (13)0其中  k    是局部小整数，而0k k k i k k k i k k i L i L i w L i u i d w e k k 1: 1: 1 , , , 1                                                                (14)0L i w L i u i d w e k k i k k i k k i L k i 1: 1: 1 , , , 1                                                                                    (15)0我们注意到方程 (10) 是一个协商步骤，其中集成估计  i l k , f  收集估计值0i L k , f 从节点 k 的邻居中获取，并通过权重  k l b  进行组合。方程 (11)是一个局部的拍长自适应步骤，其中局部分段误差  k , i  1 L i w e k k  和局部误差  k , i  1 L i w e k用于更新局部分数估计  i L k , f 。然后，我们使用[12, 13]中描述的分布式自适应形式来总结所提出的算法:0k l l i l k k i w a 1 , , , 10 1列向量  a   并取  max max 1 , 1 . max L size w L k i l i01 , , * , 1 , , k i k i k k i k k i k i u i d u w0k l k f l k k f i L b i l 1 1 , , ,01 , 2 1 , 2 , , 1 k i i L k i i L k k k f k f w e w e i l i L k k k                                                                    (16)0i 0k k f k k f k0 1列向量  a 使得  , L i w k k i0其中运算符 size 用于计算列向量的长度，局部权重集 k l a 满足 k l k l a  1 ,。提出的算法将拍长估计和拍权重估计的组合函数引入，以便利用节点之间的通信优势。 (20) 081  Leilei Li et al. /  AASRI Procedia  5 ( 2013 )  77 – 8403. 稳态性能分析0基于加权时空能量守恒论证 [12]，我们研究了新算法的稳态性能。根据文献[6,7]，分数拍长的解将在稳态中成为一个固定值。因此，我们假设在稳态中，估计值  w , k  与固定尺寸  L ~简化分析。首先，我们引入随机量:0i i i N 1 d d d ,..., col ,  i i i N 1 v v v ,..., col ,  ,..., diag 1 N,i ,i i u u U 和  N i i i , ,1 ,..., col .0利用 (1) ，我们得到0i o c i i w v U d    与  o o c Xw w 以及  L L I I X col ~ ,...,  ~ 尺寸为 L NL ~ ~(17)0然后，我们可以获得  i w  更紧凑的状态空间形式：01 * 1 i i i i i i Q C Q w U d U 与 I L A Q ~    NL NL ~ ~ , L N L I I C ~ 1 ~ ,..., diag NL NL ~ ~      (18)0其中  N N  扩散组合矩阵  A   由元素  l a , k  组成。运算符用于表示克罗内克积。然后，我们引入权重误差向量0i * i i i * i NL i o c i C Q C I U v w U U w w w 1 ~ ~ ~                                                                                          (19)0当我们对两边进行加权能量平衡，并在回归数据在时间和空间上独立的假设下取期望，我们得到以下方差关系:0i * i i * i i i C C E E E U v v U w w0Q C C Q E C Q Q E Q C E Q Q Q i * i i * i i * i i * i U U U U U U U U * * * * '                                           (21)0对于来自高斯数据的回归器，我们介绍了带有特征分解 T T * R u0N ,..., diag 1  并定义转换量：0i i T  w w * ~ ,  i T i U U ,   TQT * Q ,  T T * 和 * ' ' T T .0然后，我们可以重写方差关系 (20)-(21) ，并将其转换为0b E02 2 ' w w                                                                                                                            (22)0C P C I C C I I Q Q F NL NL N L T ~ ~ ~ * 2 2                                                              (23)0其中运算符用于块克罗内克积。0bvec  , ,..., diag 1 P P P N                                                                                                                (24) 082     李蕾蕾等 / AASRI Procedia 5 (2013) 77-840其中 l N l l T l l l l P，..., ,..., diag 1 ，其中 1 表示复数数据，2表示实数数据。我们选择权重矩阵并定义以下空间滤波矩阵：0k L N L L k q k I S ~ ~ 1  ~ ， 0 ， ， diag 0 以及 k L N k L k k S ~ 1  ~ ， 0 ， ， diag 00其中 l 0 表示一个 l l 矩阵，其元素为零。我们注意到，在每个节点 k 上，均方性能可以表示为：0       MSD ~ 2 , 2 , k k k E E w w                                                                                                       (25)0    (EMSE) ~ 2 , 2 , k k k k k E E w w                                                                                                    (26)0利用上述空间滤波矩阵，我们得到节点 k 的局部稳态均方性能：0     MSD bvec , -1 q k T k S F I b                                                                                                         (27)0T k S F I b                                                                                                      (28)04. 仿真0提供了分布式算法的仿真结果，并与理论性能进行了比较。在一个20个节点的扩散网络中，我们寻找一个未知的系统向量，长度为10 L o 。节点 k 的回归器按照以下方程进行抽取：0b c i u i i k k k k k 1 ，其中 1,0 k， 2 2 ， 1 k u k k b 。通过该方程生成一个一阶自回归(AR)过程，该过程在 k 处有一个极点，而 k c 是均值为 0 k c，方差为 1 2的白噪声。0c k .0图1. 分数长度与节点的关系 083 李蕾蕾等 / AASRI Procedia 5 (2013) 77-840图2. (a) 稳态 MSD 与节点的关系 (b) 稳态 EMSE 与节点的关系0算法的参数(16)如下：1 k , .0 05 k , 3 k , 1 k 。在模拟中，我们将建议算法的步长设置为 .0 02 k。实验通过100次独立的蒙特卡洛运行来获得模拟结果。稳态结果对10000次迭代的最后1000个瞬时样本进行了平均。图1显示了网络中稳态下的收敛分数长度，差异约为0.26在12.02处。因此，如预期，稳态下的建议算法可以得到长度的良好估计。图2显示了建议算法的稳态性能。仿真结果与理论曲线相符。05. 结论0我们在扩散网络中提出了一种分布式可变长度算法。我们的算法利用了分数长度解、估计理论和扩散LMS分布式自适应算法。在这项工作中，我们对分布式算法的性能和仿真结果进行了分析，结果与理论结果相符。0致谢0本研究得到国家自然科学基金61001169的支持。0通讯作者：0李蕾蕾，lileilei@abp.gov.cn，13611389100。 084     李蕾蕾等 / AASRI Procedia 5 (2013) 77-840参考文献0[1] Mayyas K. Performance analysis of the deficient length LMS adaptive algorithm. IEEE Trans. onSignal  Processing 2005; vol.53, no.8:2727-2734.  [2] Pritzker Z, Feuer A. Variable length stochasticgradient algorithm. IEEE Trans. on Signal Processing 1991;  vol.39, no.4:977-1001.  [3] Won YK, Park RH,Park JH and Lee BU. Variable LMS algorithm using the time constant concept. IEEE  Trans. on ConsumerElectron 1994; vol.40, no.3:655-661.   [4] Riera-Palou F, Norsa JM, Cruickshank DGM. Linear equalizerswith dynamic and automatic length  selection. Electronics Letters 2001; vol.37, no.25:1553-1554.  [5]Gong Y, Cowan CFN. Structure adaptation of linear MMSE adaptive filters. Proc. Inst. Elect. Eng.-Vision, Image, Signal Process. 2004; vol.151, no.4,:271-277.  [6] Gong Y, Cowan CFN. An LMS stylevariable tap-length algorithm for structure adaptation. IEEE Trans.  on Signal Processing 2005; vol.53,no.7: 2400-2407.  [7] Zhang Y, Li N, Chambers J, Sayed AH. Steady state performance analysis of avariable tap-length LMS  algorithm. IEEE Tran. Signal Processing 2008; vol.56, no.2:839-845.   [8] Li L,Chambers JA. A novel adaptive leakage factor scheme for enhancement of a variable tap-lengthlearning algorithm. ICASSP 2008: 2837-2840.  [9] Lopes CG, Sayed AH. Incremental adaptive strategiesover distributed networks. IEEE Trans. Signal  Processing 2007; vol.55, no.8:4064-4077.  [10] Li L,Chambers JA. A new incremental affine projection based adaptive algorithm for distributed  networks.Fast Communication in Signal Processing 2008; vol.88, no.10: 2599-2603.  [11] Li L, Zhang Y, ChambersJA. Variable length adaptive filtering within incremental learning algorithms  for distributed networks.Asilomar Conf. on Signals, Systems and Computers 2008: 225-229.  [12] Lopes CG, Sayed AH. Diffusionleast-mean squares over adaptive networks: Formulation and  performance analysis. IEEE Trans. onSignal Processing 2008; vol.56, no.7:3122-3136.  [13] Cattivelli FS, Sayed AH. Diffusion LMS Strategiesfor distributed estimation. IEEE Trans. on Signal  Processing 2010; vol.58, no.3:1035-1048.