资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,数字信号处理,3.2.3,最陡下降法,3.2.2,性能函数表示式及其几何意义,3.2.2,性能函数表示式及其几何意义,自适应滤波器的分析研究中，,性能函数,是一个重要函数,下面我们推导它的其它,表示方法,以及,几何意义,。,将,(3.2.14),式代入,(3.2.8),式，可以用最小均方误差表示性能函数，推导如下：,为表示方便，令,=,E,e,2,j,则,将,(3.2.12),式代入上式，得到,令,V=W-W,*,=,v,1,v,2,v,N,T,V,称为,偏差权向量,，它表示权向量对最佳权向量的偏差。这样性能函数,：,(3.2.15),(3.2.16),(3.2.17),因为,R,xx,是对称的，正定或半正定的，利用它的特征值和特征向量再进一步简化，假设,R,xx,是,N,N,维，它的,N,个特征值为：,1,2,N,，将,R,xx,进行分解，得,R,xx,=,Q,T,Q,=,Q,T,R,xx,Q,通过调节使,Q,归一化，即,(3.2.18),(3.2.19),(3.2.20),式中，,Q,称为正交矩阵或特征矩阵，,q,i,称为特征向量，满,足下式：,是由特征值组成的对角矩阵， 用下式表示,：,将,(3.2.18),式代入,(3.2.17),式，得到,令,(3.2.21),(3.2.22),(3.2.23),(3.2.24),则,(3.2.25),上式将性能函数变成了平方和的形式。,观察,(3.2.24),式，该式将,V,坐标中的,Rxx,的特征向量变成了,V,坐标中的单位向量。,(3.2.26),也就是说，,qi,为,V,坐标中的第,i,个单位向量，,qi,亦是,矩阵对应于,i,的特征向量。,下面用二维权矢量的情况说明它的,几何意义,。对于二维权矢量情况，有下面公式：,图,3.2.5,二维权矢量性能表面,图,3.2.6,等均方误差的椭圆曲线族,按照,(3.2.17),式，有,或,当,c,=,min,时，对应椭圆的中心，,V,=W-W,*,则相当于,W,坐标平移到,V,坐标的原点,，即,V,坐标的原点对应,W,坐标的最佳点,W,*,。,这里,v,1,v,2,不是椭圆的主轴。但经过对,R,xx,的分解：,且,V,=,Q,T,V,将性能函数的椭圆族,(,按照,(3.2,.25),式,),变成,即,或者,显然，上式是一个椭圆方程，,v,1,和,v,2,是椭圆族的主轴，如果,1,2,则,v,1,是长轴，,v,2,是短轴。因此,(3.2.24),式起,坐标旋转,的作用，,将,v,1,v,2,旋转到主轴上，形成,v,1,v,2,主轴。,对于维数,N,2,的情况，长轴对应最小特征值，按照上面的椭圆方程长轴正比于,；,短轴对应于最大特征值，正比于 。,(3.2.27),3.2.3,最陡下降法,1.,最陡下降法的递推公式,将,(3.2.11),式代入,(3.2.29),式，得到,在上式两边都减去,W,*,并令,V,j,=,W,j,-,W,*,得到,V,j,+1,=,I,-2,R,xx,V,j,由于,项不是对角矩阵，计算与分析均复杂。,(3.2.30),(3.2.31),(3.2.32),(3.2.29),(3.2.33),此时，,项已变成对角矩阵，假设起始值是,V,0,，,可得到上式,的递推解为,(3.2.34),再将,(3.2.24),式代入，再经过坐标平移，即代入,V,j,=,W,j,-,W,*,式， 最后得到权系数的递推公式：,(3.2.35),上面递推公式中，,部分已变成对角矩阵， 这使分析与研究自适应特性变得简单了。,2.,收敛条件,由最陡下降法的递推公式不难分析出它的,收敛条件,，即,当迭代次数,j,趋于时，权系数收,敛最佳时的条件,。按照上式， 显然只有当,(3.2.36),(3.2.37),满足时，才能得到： ,。,(3.2.37),式即是最陡下降法的收敛条件，式中,max,是,R,xx,的最大特征值,。,(3.2.36),式中的,0,表示,0,矢量。,3.,过渡过程,过渡过程是指权矢量和性能函数由起始点随迭代次数的增加，进行变化的过程。,权矢量的过渡过程：,按照,(3.2.34),式，权矢量的递推解是,第,i,个权系数递推方程是,(3.2.38),令,(3.2.39),将上式代入,(3.2.38),式，得到,(3.2.40),上式说明第,i,个分量,v,i,按指数规律变化，其,时常数,为,i,=1, 2, 3,N,(3.2.41),因为一般,取得比较小，可以近似为,i,=1, 2, 3,N,(3.2.42),因为,所以,再将,(3.2.40),式代入，得到,(3.2.43),(3.2.44),式中,(3.2.45),上式说明,第,i,个加权系数按照,N,个指数和的规律变化，,由初始值收敛到最佳值，其时常数与特征值成反比。,下面分析性能函数的过渡过程。按照,(3.2.25),式，性能函数如下式：,(3.2.46),将,(3.2.40),式代入，得到,(3.2.47),上式说明,性能函数也是按,N,个指数和的规律变化,，和加权系数过渡过程不同的是时间常数不,同， 它的时常数为,(3.2.48),我们已经知道，,性能函数和各个加权系数都是按照,N,个具有不同时常数的指数和的规律变化的，,时常数和特征值成反比，不同的特征值对应的收敛时间是不一样的，但最终的,收敛要取决于最慢的指数过程，它的时常数最大，对应最小的特征值，公式如下：,(3.2.49),(3.2.50),但为保证收敛，,不能取得太大，受限于最大特征值,max,。,这样，如果特征值比较分散时，即,max,和,min,相差很大时， 使最陡下降法的收敛性能很差。下面分析,值的影响,。,值收敛过程影响很大，首先必须选择得足够小，使之满足收敛条件：,但按照,(3.2.47),、,(3.2.48),式，它影响收敛速度。,一般希望在保证收敛的条件下，选大一些，使时间常数小一些，收敛的速度快一些。,但当,选择得太大时，即使收敛条件满足，也可能形成振动性的过渡特性。 在图,3.2.7,中，图,(a),是,较小时的情况；图,(,b,),是,较大时的情况，此时过渡过程已发生振荡。,图,3.2.7,值的,影响,(,a,),较小时的情况； （,b,）,较大时的情况,
展开阅读全文