第三章 自适应数字滤波器

第三章 自适应数字滤波器 1第三章第三章自适应过滤自适应过滤(AdaptiveFiltering)3.1引言引言3.2自适应滤波器的基本原理自适应滤波器的基本原理3.3递归递归最小二乘自适应滤波最小二乘自适应滤波3.4自适应滤波的应用自适应滤波的应用第三章 自适应数字滤波器 23.1引引言言自自适适应应滤滤波波器器和和维维纳纳滤滤波波器器一一样样，都都是是符符合合某某种种准准则则的的最最佳佳滤滤波波器器。维维纳纳滤滤波波器器的的参参数数是是固固定定的的，适适用用于于平平稳稳随随机机信信号号的的最最佳佳滤滤波波，但但要要设设计计这这种种滤滤波波器器，必必须须要要求求输输入入信信号号是是平平稳稳的的，且且具具有有信信号号和和噪噪声声统统计计分分布布规规律律的的先先验验知知识识。在在实实际际中中，常常常常无无法法知知道道这这些些先先验验知知识识，且且统统计计特特性性还还会会变变化化，因因此此实现最佳滤波是困难的。实现最佳滤波是困难的。第三章 自适应数字滤波器 3l自适应数字滤波器是上世纪自适应数字滤波器是上世纪60年代以后才出现的，年代以后才出现的，但但发展的非常迅速。发展的非常迅速。l所谓所谓自适应数字滤波器自适应数字滤波器：是：是利用前一时刻已获得的利用前一时刻已获得的滤波器参数等结果，自动地调节现时刻的滤波器参滤波器参数等结果，自动地调节现时刻的滤波器参数，以适应信号与噪声未知的或随时间变化的统计数，以适应信号与噪声未知的或随时间变化的统计特性，从而实现最优滤波。特性，从而实现最优滤波。l自适应自适应这个概念是从仿生学中引伸出来的，生物能这个概念是从仿生学中引伸出来的，生物能以各种有效的方式适应生存环境，生命力极强。以各种有效的方式适应生存环境，生命力极强。第三章 自适应数字滤波器 4自适应滤波器的特点：自适应滤波器的特点：1.滤滤波波器器的的参参数数可可以以自自动动地地按按照照某某种种准准则则调调整整到到最最佳佳滤滤波波，实实现现时时不不需需要要任任何何关关于于信信号号和和噪噪声声的的先先验验统统计知识。计知识。2.当当输输入入统统计计特特性性变变化化时时，自自适适应应滤滤波波器器能能调调整整自自身身的的参参数数来来满满足足最最佳佳滤滤波波的的需需要要。常常常常将将这这种种输输入入统统计计特特性性未未知知，调调整整自自身身的的参参数数到到最最佳佳的的过过程程称称为为“学习过程学习过程”。3.当当输输入入信信号号统统计计特特性性变变化化时时，调调整整自自身身的的参参数数到到最最佳佳的的过过程程称称为为“跟跟踪踪过过程程”。因因此此自自适适应应滤滤波波器器具具有学习和跟踪的性能。有学习和跟踪的性能。第三章 自适应数字滤波器 5由于自适应滤波器有这些特点，自由于自适应滤波器有这些特点，自1967年威德诺年威德诺(B.Widrow)等人提出自适应滤波器以来，在短短几十等人提出自适应滤波器以来，在短短几十年中，自适应滤波器发展的很快，已广泛地用于各种年中，自适应滤波器发展的很快，已广泛地用于各种工程领域。工程领域。1、系统模型识别、系统模型识别如系统建模：其中自适应滤波器作为估计未知系统特如系统建模：其中自适应滤波器作为估计未知系统特性的模型。性的模型。2、通信信道的自适应均衡、通信信道的自适应均衡如：高速如：高速modem采用信道均衡器：用它补偿信道失真，采用信道均衡器：用它补偿信道失真，modem必须通过具有必须通过具有不同频响特性而产生不同不同频响特性而产生不同第三章 自适应数字滤波器 6失真的信道有效地传送数据，则要求信号均衡器具有失真的信道有效地传送数据，则要求信号均衡器具有可调系数，据信道特性对这些系数进行优化，以使信可调系数，据信道特性对这些系数进行优化，以使信道失真的某些量度最小化。道失真的某些量度最小化。又如：数字通信接收机：其中自适应滤波器用于信道又如：数字通信接收机：其中自适应滤波器用于信道识别并提供码间串扰的均衡器。识别并提供码间串扰的均衡器。3、雷达与声纳的波束形成、雷达与声纳的波束形成如自适应天线系统，其中自适应滤波器用于波束方向如自适应天线系统，其中自适应滤波器用于波束方向控制，并可在波束方向图中提供一个零点以便消除不控制，并可在波束方向图中提供一个零点以便消除不希望的干扰。希望的干扰。第三章 自适应数字滤波器 74、消除心电图中的电源干扰、消除心电图中的电源干扰如：自适应回波相消器。如：自适应回波相消器。自适应噪声对消器：其中自适应滤波器用于估计并对自适应噪声对消器：其中自适应滤波器用于估计并对消预期信号中的噪声分量。消预期信号中的噪声分量。5、噪声中信号的滤波、跟踪、谱线增强以及线性预、噪声中信号的滤波、跟踪、谱线增强以及线性预测等。测等。第三章 自适应数字滤波器 83.2自适应滤波器的基本原理自适应滤波器的基本原理自自适适应应滤滤波波器器的的原原理理框框图图如如图图3.2.1所所示示，图图中中x(n)称称为为输输入入信信号号，y(n)是是输输出出信信号号，d(n)称称为为期期望望信信号号，或者称为参考信号、训练信号，或者称为参考信号、训练信号，e(n)是误差信号。是误差信号。图图3.2.1自适应滤波器原理图自适应滤波器原理图 第三章 自适应数字滤波器 9e(n)=d(n)y(n)自自适适应应滤滤波波器器H(z)的的系系数数根根据据误误差差信信号号，通通过过一一定定的的自自适适应应算算法法，不不断断地地进进行行改改变变，使使输输出出y(n)最最接接近近期期望望信信号号d(n)。这这里里暂暂时时假假定定d(n)是是可可以以利利用用的的，实实际际中中，d(n)要要根根据据具具体体情情况况进进行行选选取取，能能够够选选到到一一个个合合适适的的信信号号作作为为期期望望信信号号，是是设设计计自自适适应应滤滤波波器器的的一一项项有有创创意意的的工工作作。如如果果真真正正的的d(n)可可以以获获得得，我们将不需要做任何自适应滤波器。我们将不需要做任何自适应滤波器。其中，误差信号其中，误差信号e(n)第三章 自适应数字滤波器 10自适应滤波器自适应滤波器实现实现l可以由可以由FIR滤波器滤波器或或IIR滤波器滤波器实现。实现。但由于收敛性及稳定性，目前用得多为但由于收敛性及稳定性，目前用得多为FIR滤波器滤波器实现。实现。lFIR滤波器结构有：滤波器结构有：u横向型结构横向型结构(直接型直接型)（TransveralStructure)u对称横向型结构对称横向型结构(SymmetricTransveralStructure)u格形结构格形结构(LatticeStructure)第三章 自适应数字滤波器 11图图3.2.2自适应线性组合器自适应线性组合器 3.2.1自适应线性组合器和自适应自适应线性组合器和自适应FIR滤波器滤波器1.自适应滤波器的矩阵表示式自适应滤波器的矩阵表示式图图3.2.2表示的是一个有表示的是一个有N个权系数的自适应线性组个权系数的自适应线性组合器。合器。第三章 自适应数字滤波器 12图图中中N个个权权系系数数w1,w2,wN受受误误差差信信号号ej的的自自适适应应控控制制。对对 于于 固固 定定 的的 权权 系系 数数，输输 出出 yj是是 输输 入入 信信 号号x1j,x2j,xNj的的线线性性组组合合，因因此此称称它它为为线线性性组组合合器器。这这里里的的x1j,x2j,xNj可可以以理理解解为为是是从从N个个不不同同的的信信号号源源到到达达的的瞬瞬时时输输入入，是是一一个个多多输输入入系系统统，也也可可以以是是同同一一个个信信号号源源的的N个个序序贯贯样样本本，如如图图3.2.3所所示示。因因此此它它是是一一个个单单输输入入系系统统，实实际际上上这这种种单单输输入入系系统统就就是是一一个个FIR网网络络结结构构，或或者者说说是是一一个个自自适适应应横横向向滤滤波波器器。其输出其输出y(n)用滤波器的单位脉冲相应表示成下式：用滤波器的单位脉冲相应表示成下式：(3.2.1)第三章 自适应数字滤波器 13图图3.2.3自适应自适应FIR滤波器滤波器 第三章 自适应数字滤波器 14这这里里w(n)称称为为滤滤波波器器单单位位脉脉冲冲响响应应，令令：i=m+1,wi=w(i1)，xi=x(ni+1)，n用用j表示，上式可以写成表示，上式可以写成(3.2.2)这这里里wi也也称称为为滤滤波波器器加加权权系系数数。用用上上面面公公式式表表示示其其输输出出，适适合合于于自自适适应应线线性性组组合合器器，也也适适合合于于FIR滤滤波波器器。将上式表示成矩阵形式：将上式表示成矩阵形式：(3.2.3)式中式中误差信号表示为误差信号表示为(3.2.4)第三章 自适应数字滤波器 152.最佳权系数和最小均方误差最佳权系数和最小均方误差误误差差信信号号被被用用来来作作为为权权系系数数的的控控制制信信号号。下下面面采采用用均均方方误误差差最最小小的的准准则则，求求最最佳佳权权系系数数。由由(3.2.4)式式，均方误差为均方误差为(3.2.5)令令(3.2.6)(3.2.7)第三章 自适应数字滤波器 16将将(3.2.6)、(3.2.7)式代入式代入(3.2.5)式，式，得到得到(3.2.8)Rdx称称为为dj与与Xj的的互互相相关关矩矩阵阵，是是一一个个N维维列列矩矩阵阵；Rxx是输入信号的自相关矩阵，特点如下：是输入信号的自相关矩阵，特点如下：(1)是对称矩阵，即是对称矩阵，即;(2)是正定或半正定的，因为对于任意矢量是正定或半正定的，因为对于任意矢量V满足下式满足下式自相关矩阵的主对角线是输入信号的均方值，自相关矩阵的主对角线是输入信号的均方值，交叉项交叉项是输入信号的自相关值。是输入信号的自相关值。第三章 自适应数字滤波器 17(3.2.8)式式表表明明，当当输输入入信信号号和和期期望望信信号号是是平平稳稳随随机机信信号号时时，均均方方误误差差信信号号Ee2j是是权权系系数数的的二二次次函函数数，即即将将(3.2.8)式式展展开开时时，公公式式中中的的权权系系数数均均以以它它的的一一次次幂幂或或二二次次幂幂出出现现。如如果果只只有有一一个个权权系系数数w1,则则Ee2j是是w1的的口口向向上上的的抛抛物物线线；如如果果有有两两个个权权系系数数w1，w2，则则Eej2是是它它们们的的口口向向上上的的抛抛物物面面；对对于于两两个个权权系系数以上的情况，则属于超抛物面性质。数以上的情况，则属于超抛物面性质。第三章 自适应数字滤波器 18ABw图图3.2.5一维权矢量性能曲面一维权矢量性能曲面第三章 自适应数字滤波器 19图图3.2.5二维权矢量性能曲面二维权矢量性能曲面 第三章 自适应数字滤波器 20Eej2在自适应信号处理中是一个重要的函数，经在自适应信号处理中是一个重要的函数，经常称它为性能函数。为选择权系数，使性能函数到常称它为性能函数。为选择权系数，使性能函数到达它的最小点，一些有用的自适应方法都是基于梯达它的最小点，一些有用的自适应方法都是基于梯度法的，我们用度法的，我们用表示表示Eej2的梯度向量，它是的梯度向量，它是用用Eej2对每个权系数求微分而形成的一个列向量，对每个权系数求微分而形成的一个列向量，用公式表示如下：用公式表示如下：(3.2.9)第三章 自适应数字滤波器 21按照按照(3.2.4)式，梯度推导如下：式，梯度推导如下：(3.2.10)还可以用还可以用(3.2.8)式对式对W求导得到求导得到(3.2.11)令上式等于令上式等于0，得到最佳权矢量，得到最佳权矢量W*的表达式：的表达式：(3.2.12)对比第二章维纳滤波器的最佳解，结果是一样的。对比第二章维纳滤波器的最佳解，结果是一样的。上式也称为维纳权矢量。当自适应滤波器的权系数上式也称为维纳权矢量。当自适应滤波器的权系数满足上式时，均方误差将取最小值。满足上式时，均方误差将取最小值。第三章 自适应数字滤波器 22将将(3.2.12)式代入式代入(3.2.8)式得到最小均方误差：式得到最小均方误差：(3.2.13)或者将上式取转置，用下式表示：或者将上式取转置，用下式表示：(3.2.14)我我们们知知道道，在在维维纳纳滤滤波波器器中中，当当滤滤波波器器的的单单位位脉脉冲冲响响应应取取最最佳佳值值时时，其其误误差差信信号号和和输输入入信信号号是是正正交交的的；这这里里也也有有相相同同的的结结果果，当当权权矢矢量量取取最最佳佳值值时时，梯梯度度为为0，按照，按照(3.2.10)式：式：第三章 自适应数字滤波器 23图图3.2.4两个权的自适应滤波器两个权的自适应滤波器例例3.2.1一一个个单单输输入入的的二二维维权权矢矢量量自自适适应应滤滤波波器器如如图图3.2.4所示，图中输入信号与期望信号分别为所示，图中输入信号与期望信号分别为第三章 自适应数字滤波器 24这这两两个个信信号号都都是是周周期期性性确确定定性性信信号号，因因为为任任何何正正弦弦函函数数积积的的期期望望值值，都都可可由由这这个个积积在在一一个个或或多多个个周周期期上作时间平均来计算，可以推导出下面公式上作时间平均来计算，可以推导出下面公式:第三章 自适应数字滤波器 25第三章 自适应数字滤波器 26上上式式表表明明性性能能函函数数Eej2对对权权函函数数是是二二次次型型的的，用用(3.2.11)式求梯度向量，得到式求梯度向量，得到求求最最佳佳权权矢矢量量可可以以用用(3.2.12)式式，通通过过对对Rxx求求逆逆得到，也可以通过上式，令得到，也可以通过上式，令，而求出：，而求出：第三章 自适应数字滤波器 27用用(3.2.13)式求最小均方误差：式求最小均方误差：上上式式说说明明只只要要N2，不不管管N取取多多少少，通通过过对对权权系系数数的的调调整整可可使使均均方方误误差差达达到到0，此此时时输输出出信信号号yj完完全全等等于于期期望望信信号号dj,例例如如N=2，按按照照上上面面公公式式，可可以以求求出出输入、输出信号以及最佳权系数如下：输入、输出信号以及最佳权系数如下：第三章 自适应数字滤波器 28第三章 自适应数字滤波器 293.2.2性能函数表示式及其几何意义性能函数表示式及其几何意义 在在自自适适应应滤滤波波器器的的分分析析研研究究中中，性性能能函函数数是是一一个个重重要要函函数数，前前面面已已推推导导出出性性能能函函数数用用(3.2.8)式式表表示示，重写如下：重写如下：下面我们推导它的其它表示方法以及几何意义。下面我们推导它的其它表示方法以及几何意义。均均方方误误差差是是权权系系数数的的二二次次函函数数，当当权权系系数数取取最最佳佳值值时时，均均方方误误差差取取最最小小值值，将将(3.2.14)式式代代入入(3.2.8)式式，可以用最小均方误差表示性能函数，推导如下：可以用最小均方误差表示性能函数，推导如下：为了表示方便，令为了表示方便，令=Ee2j,则则第三章 自适应数字滤波器 30将将(3.2.12)式代入上式，得到式代入上式，得到(3.2.15)令令V=W-W*=v1,v2,vNT(3.2.16)V称称为为偏偏差差权权向向量量，它它表表示示权权向向量量对对最最佳佳权权向向量量的的偏差。这样性能函数可以表示得更简单：偏差。这样性能函数可以表示得更简单：(3.2.17)第三章 自适应数字滤波器 31因因为为Rxx是是对对称称的的，正正定定或或半半正正定定的的，利利用用它它的的特特征征值值和和特特征征向向量量再再进进一一步步简简化化，假假设设Rxx是是NN维维，它它的的N个个特特征征值值为为：1,2,N，将将Rxx进进行行分分解解，得得到到Rxx=QTQ，=QTRxxQ(3.2.18)通过调节使通过调节使Q归一化，即归一化，即(3.2.19)(3.2.20)第三章 自适应数字滤波器 32式式中中，Q称称为为正正交交矩矩阵阵或或特特征征矩矩阵阵，qi称称为为特特征征向向量量，满足下式：满足下式：(3.2.21)(3.2.22)是由特征值组成的对角矩阵，用下式表示：是由特征值组成的对角矩阵，用下式表示：(3.2.23)将将(3.2.18)式代入式代入(3.2.17)式，得到式，得到令令(3.2.24)第三章 自适应数字滤波器 33则则(3.2.25)上上式式将将性性能能函函数数变变成成了了平平方方和和的的形形式式。再再观观察察(3.2.24)式式，该该式式将将V坐坐标标中中的的Rxx的的特特征征向向量量变变成成了了V坐坐标标中中的的单单位位向向量量。利利用用(3.2.24)式式将将特特征征向向量量qi变成变成qi，再利用，再利用(3.2.20)、(3.2.21)式，可得式，可得(3.2.26)第三章 自适应数字滤波器 34也也就就是是说说，qi为为V坐坐标标中中的的第第i个个单单位位向向量量，qi亦亦是是矩矩阵阵对对应应于于i的的特特征征向向量量。下下面面用用二二维维权权矢矢量量的的情情况况说说明明它它的的几几何何意意义义。对对于于二二维维权权矢矢量量情情况况，有有下下面公式：面公式：第三章 自适应数字滤波器 35图图3.2.5二维权矢量性能曲面二维权矢量性能曲面 第三章 自适应数字滤波器 36图图3.2.6等均方误差的椭圆曲线族等均方误差的椭圆曲线族第三章 自适应数字滤波器 37按照按照(3.2.17)式，有式，有或或当当c=min时时，对对应应椭椭圆圆的的中中心心，V=WW*,则则相相当当于于W坐坐标标平平移移到到V坐坐标标的的原原点点，即即V坐坐标标的的原原点点对对应应W坐坐标标的的最最佳佳点点W*。这这里里，v1，v2不不是是椭椭圆圆的的主主轴轴。但经过对但经过对Rxx的分解：的分解：且且V=QTV将性能函数的椭圆族将性能函数的椭圆族(按照按照(3.2.25)式式)变成变成第三章 自适应数字滤波器 38即即或者或者(3.2.27)显显然然，上上式式是是一一个个椭椭圆圆方方程程，v1和和v2是是椭椭圆圆族族的的主主轴轴，如如果果12，则则v1是是长长轴轴，v2是是短短轴轴。因因此此(3.2.24)式式起起坐坐标标旋旋转转的的作作用用，将将v1v2旋旋转转到到主主轴轴上上，形形成成v1v2主主轴轴。对对于于维维数数N2的的情情况况，长长轴轴对对应应最最小小特特征征值值，按照上面的椭圆方程长轴正比于按照上面的椭圆方程长轴正比于；短轴对应于最大特征值，正比于；短轴对应于最大特征值，正比于。第三章 自适应数字滤波器 39得到得到(3.2.28)V中单位矢量就是中单位矢量就是V坐标中的坐标中的Rxx的特征矢量。的特征矢量。另外，另外，因为因为第三章 自适应数字滤波器 403.2.3最陡下降法最陡下降法1.最陡下降法的基本思想最陡下降法的基本思想最陡下降法最陡下降法(SteepestDescentMethod)是一种古是一种古老的最优化技术。在我国古代也叫瞎子爬山法。老的最优化技术。在我国古代也叫瞎子爬山法。考虑一个代价函数考虑一个代价函数J(W)，它是某个未知向量，它是某个未知向量W的的连续可微函数。函数连续可微函数。函数J(W)将将W的元素映射为实数。这的元素映射为实数。这里，我们寻找一个最优解里，我们寻找一个最优解W*，使它满足如下条件，使它满足如下条件J(W*)J(W)，对于所有对于所有W这也是无约束最优化的数学表示。这也是无约束最优化的数学表示。第三章 自适应数字滤波器 41无约束最优化算法基于局部迭代下降的思想是：无约束最优化算法基于局部迭代下降的思想是：从某一初始猜想从某一初始猜想W(0)出发，产生一系列权向量出发，产生一系列权向量W(1)，W(2)，.，使得代价函数，使得代价函数J(W)在算法的每一在算法的每一次迭代都是下降的，即次迭代都是下降的，即J(W(n+1)0，是一个控制稳定性与收敛速度的参数是一个控制稳定性与收敛速度的参数，通常称为步长（通常称为步长（StepSize）。(3.2.29)第三章 自适应数字滤波器 47因为因为Ee2j是权矢量是权矢量W的二次方程，即的二次方程，即Ee2j与与w的关系在几何上是一个的关系在几何上是一个“碗形碗形”的多维曲面。的多维曲面。为了为了简单起见，设简单起见，设W是一维的，则是一维的，则Ee2j与与w的关系成为一的关系成为一个抛物线，如图个抛物线，如图3.2.7所示。所示。图图3.2.7一维梯度下降法示意图一维梯度下降法示意图AB根据根据递推式递推式(3.2.29)，连续地调节连续地调节w，去寻，去寻找找“碗碗”的底点。的底点。第三章 自适应数字滤波器 48第三章 自适应数字滤波器 49第三章 自适应数字滤波器 503.2.5最陡下降最陡下降算法算法的递推公式的递推公式将将(3.2.11)式代入式代入(3.2.29)式，得到式，得到(3.2.30)(3.2.31)在上式两边都减去在上式两边都减去W*，并令，并令Vj=W j W*，得到得到Vj+1=I2RxxVj(3.2.32)上上式式是是一一个个递递推推公公式式，由由于于项项不不是是对对角角矩矩阵阵，计计算算与与分分析析均均复复杂杂。下下面面仍仍然然采采用用坐坐标标旋旋转转的的方方法法进行推导。进行推导。第三章 自适应数字滤波器 51(3.2.33)此此时时，项项已已变变成成对对角角矩矩阵阵，假假设设起起始始值值是是V0，可可得到上式的递推解为得到上式的递推解为(3.2.34)第三章 自适应数字滤波器 52再再将将(3.2.24)式式代代入入，再再经经过过坐坐标标平平移移，即即代代入入Vj=WjW*式，式，最后得到权系数的递推公式：最后得到权系数的递推公式：(3.2.35)上面递推公式中，上面递推公式中，部分已变成对角矩阵，部分已变成对角矩阵，这使这使分析与研究自适应特性变得简单了。分析与研究自适应特性变得简单了。第三章 自适应数字滤波器 533.2.6最陡下降法的收敛条件最陡下降法的收敛条件由由最最陡陡下下降降法法的的递递推推公公式式不不难难分分析析出出它它的的收收敛敛条条件件，即即当当迭迭代代次次数数j 趋趋于于时时，权权系系数数收收敛敛最最佳佳时时的的条件。按照上式，条件。按照上式，显然只有当显然只有当(3.2.36)(3.2.37)满满足足时时，才才能能得得到到：。(3.2.37)式式即即是是最最陡陡下下降降法法的的收收敛敛条条件件，式式中中max是是Rxx的的最最大大特特征值。征值。(3.2.36)式中的式中的0表示表示0矢量。矢量。第三章 自适应数字滤波器 543.2.7最陡下降法的过渡过程最陡下降法的过渡过程过过渡渡过过程程是是指指权权矢矢量量和和性性能能函函数数由由起起始始点点随随迭迭代代次次数数的的增增加加，进进行行变变化化的的过过程程。下下面面从从权权矢矢量量和和性性能能函函数数两两方方面面讨讨论论自自适适应应滤滤波波器器的的过过渡渡过过程程。权权矢矢量量的的过渡过程讨论如下：过渡过程讨论如下：按照按照(3.2.34)式，权矢量的递推解是式，权矢量的递推解是第第i 个权系数递推方程是个权系数递推方程是(3.2.38)令令(3.2.39)第三章 自适应数字滤波器 55将上式代入将上式代入(3.2.38)式，得到式，得到(3.2.40)上式说明第上式说明第i个分量个分量v i按指数规律变化，其时常数为按指数规律变化，其时常数为i=1,2,3,N(3.2.41)因为一般因为一般取得比较小，可以近似为取得比较小，可以近似为i=1,2,3,N(3.2.42)第三章 自适应数字滤波器 56因为因为所以所以再将再将(3.2.40)式代入，得到式代入，得到(3.2.43)第三章 自适应数字滤波器 57(3.2.44)式中式中(3.2.45)上上式式说说明明第第i个个加加权权系系数数按按照照N个个指指数数和和的的规规律律变变化化，由由初初始始值值收收敛敛到到最最佳佳值值，其其时时间间常常数数与与特特征征值值成成反反比比。下下面面分分析析性性能能函函数数的的过过渡渡过过程程。按按照照(3.2.25)式式，性能函数如下式：性能函数如下式：(3.2.46)将将(3.2.40)式代入，得到式代入，得到(3.2.47)第三章 自适应数字滤波器 58上上式式说说明明性性能能函函数数也也是是按按N个个指指数数和和的的规规律律变变化化，和和加加权权系系数数过过渡渡过过程程不不同同的的是是时时间间常常数数不不同同，它它的的时时间常数为间常数为(3.2.48)我我们们已已经经知知道道，性性能能函函数数和和各各个个加加权权系系数数都都是是按按照照N个个具具有有不不同同时时常常数数的的指指数数和和的的规规律律变变化化的的，时时间间常常数数和和特特征征值值成成反反比比，不不同同的的特特征征值值对对应应的的收收敛敛时时间间是是不不一一样样的的，但但最最终终的的收收敛敛要要取取决决于于最最慢慢的的指指数数过过程程，它的时常数最大，对应最小的特征值，公式如下：它的时常数最大，对应最小的特征值，公式如下：(3.2.49)(3.2.50)第三章 自适应数字滤波器 59但但为为保保证证收收敛敛，不不能能取取得得太太大大，受受限限于于最最大大特特征征值值max。这这样样，如如果果特特征征值值比比较较分分散散时时，即即max和和min相相差差很很大大时时，使使最最陡陡下下降降法法的的收收敛敛性性能能很很差差。下下面面分析分析值的影响。值的影响。值对收敛过程影响很大，首先必须选择得足够值对收敛过程影响很大，首先必须选择得足够小，使之满足收敛条件：小，使之满足收敛条件：但但按按照照(3.2.47)、(3.2.48)式式，它它影影响响收收敛敛速速度度。一一般般希希望望在在保保证证收收敛敛的的条条件件下下，选选大大一一些些，使使时时间间常常数数小小一一些些，收收敛敛的的速速度度快快一一些些。但但当当选选择择得得太太大大时时，即即使使收收敛敛条条件件满满足足，也也可可能能形形成成振振动动性性的的过过渡渡特特性性。在在图图3.2.8中中，图图(a)是是较较小小时时的的情情况况；图图(b)是是较较大大时时的的情况，此时过渡过程已发生振荡。情况，此时过渡过程已发生振荡。第三章 自适应数字滤波器 60图图 3.2.8 值的影响值的影响(a)较小时的情况；较小时的情况；（b）较大时的情况较大时的情况第三章 自适应数字滤波器 613.2.8LMS算法的权值计算算法的权值计算LMS算算法法的的梯梯度度估估计计值值用用一一条条样样本本曲曲线线进进行行计计算算，公式如下：公式如下：(3.2.51)因为因为第三章 自适应数字滤波器 62所以所以(3.2.52)(3.2.53)FIR滤波器中的第滤波器中的第i个权系数的计算公式为个权系数的计算公式为(3.2.54)FIR滤滤波波器器中中的的第第i个个权权系系数数的的控控制制电电路路如如图图3.2.9所所示，示，LMS自适应滤波器的总框图如图自适应滤波器的总框图如图3.2.10所示。所示。第三章 自适应数字滤波器 63图图3.2.9FIR第第i个支路的控制电路个支路的控制电路 第三章 自适应数字滤波器 64图图3.2.10LMS自适应滤波器总计算框图自适应滤波器总计算框图第三章 自适应数字滤波器 65LMS算算法法的的加加权权系系数数按按照照(3.2.53)式式进进行行控控制制，式式中中加加权权矢矢量量的的改改变变量量是是2ejXj，梯梯度度的的估估计计值值是是2ejXj。显显然然，这这是是一一个个随随机机变变量量，这这说说明明LMS算算法法的的加加权权矢矢量量是是随随机机变变化化的的。因因此此，LMS算算法法又又称称为为随随机机梯梯度度法法。下下面面对对这这种种算算法法的的性性能能进进行行分分析析，主主要要分分析析加加权权矢矢理理和和性性能能函函数数的的平平均均变变化化规规律律以以及及它它们们的的随随机机性造成的影响。性造成的影响。按照按照(3.2.52)式，对梯度估计值求统计平均，得到式，对梯度估计值求统计平均，得到(3.2.55)该式说明，该式说明，是是的无偏估计。的无偏估计。第三章 自适应数字滤波器 66梯度的估计量在理想梯度梯度的估计量在理想梯度j附近随机变化，权附近随机变化，权系数也是在理想情况下的权轨迹附近随机变化的。系数也是在理想情况下的权轨迹附近随机变化的。那么，迭代结果必然能得到理想的最佳权矢量。但那么，迭代结果必然能得到理想的最佳权矢量。但是，实际应用中每次调整权矢量前，通过观测只能是，实际应用中每次调整权矢量前，通过观测只能得到一个得到一个x(n)，再由式，再由式(3.2.52)得到一个得到一个，据此，据此调整权矢量得到的调整权矢量得到的W(n)必然是随机的。当迭代过程必然是随机的。当迭代过程收敛后，权矢量将在最佳权矢量附近随机起伏，这收敛后，权矢量将在最佳权矢量附近随机起伏，这等效于在最佳权矢量上叠加了一个噪声。等效于在最佳权矢量上叠加了一个噪声。第三章 自适应数字滤波器 673.2.9LMS算法加权矢量的过渡过程算法加权矢量的过渡过程将误差公式将误差公式(3.2.4)式代入式代入(3.2.53)式，得到式，得到(3.2.56)按照按照(3.2.53)式，式，对加权矢量取统计平均：对加权矢量取统计平均：(3.2.57)第三章 自适应数字滤波器 68 类类似似于于最最陡陡下下降降法法的的推推导导，经经过过坐坐标标平平移移和和旋旋转转，变换到变换到V坐标中。其公式推导如下：坐标中。其公式推导如下：令令Vj=WjW*(3.2.58)那么那么EVj=EWj W*EVj+1=EWj+1 W*(3.2.59)将上面两式代入将上面两式代入(3.2.57)式中，得到式中，得到它的递推解是它的递推解是令令Rxx=QQ T,=QRxxQT(3.2.60)第三章 自适应数字滤波器 69得到得到(3.2.61)(3.2.62)再将再将(3.2.59)、(3.2.60)和和(3.2.61)式代入上式，得到式代入上式，得到(3.2.63)对对比比(3.2.35)式式，说说明明LMS算算法法加加权权矢矢量量的的统统计计平平均均值值的的过过渡渡过过程程和和最最陡陡下下降降法法加加权权矢矢量量的的过过渡渡过过程程是是一一样样的的。换换句句话话说说，LMS算算法法加加权权矢矢量量是是在在最最陡陡下下降降法法加加权权矢矢量量附附近近随随机机变变化化的的，其其统统计计平平均均值值等等于于最最陡陡下下降降法法加加权权矢矢量量，那那么么，其其收敛条件同样为收敛条件同样为(3.2.64)第三章 自适应数字滤波器 70在满足收敛条件的情况下，才有下式：在满足收敛条件的情况下，才有下式：由由于于最最大大的的特特征征值值max不不可可能能大大于于R的的迹迹(R的的主主对对角角线元素之和线元素之和)，即，即因此收敛条件可以表示为因此收敛条件可以表示为(3.2.65)第三章 自适应数字滤波器 71对于横向滤波器，对于横向滤波器，式中的迹是式中的迹是NEx2j，即，即N倍的倍的输入功率，输入功率，那么那么(3.2.66)实际中，通常实际中，通常选得很小，选选得很小，选(3.2.67)同样由同样由(3.2.62)式，第式，第i个分量为个分量为(3.2.68)第三章 自适应数字滤波器 72同样引入时常数同样引入时常数i,(3.2.69)(3.2.70)(3.2.71)同样，第同样，第i个权系数可以表示成个权系数可以表示成(3.2.72)第三章 自适应数字滤波器 733.2.10LMS算法性能函数的过渡过程算法性能函数的过渡过程学习过程学习过程由由于于LMS算算法法加加权权矢矢量量的的平平均均值值的的变变化化规规律律与与最最陡陡下下降降法法的的加加权权矢矢量量一一样样，可可以以推推想想它它的的均均方方误误差差也也会会按按照照最最陡陡下下降降法法的的均均方方误误差差变变化化规规律律变变化化。下下面面进进行推导。行推导。按照按照(3.2.4)式，式，信号误差为信号误差为(3.2.73)第三章 自适应数字滤波器 74式式中中，eoptj=djXjTW*，称称为为最最佳佳误误差差信信号号，它它对对应应于最小均方误差，于最小均方误差，即即按照按照(3.2.73)式写出均方误差表示式：式写出均方误差表示式：假定假定Xj和和Vj不相关，上式中最后一项为不相关，上式中最后一项为0，那么，那么第三章 自适应数字滤波器 75同样，假设加权系数变化很小，同样，假设加权系数变化很小，Vj也变化很小，也变化很小，EVjVj，这样：，这样：类似前面的推导，得到类似前面的推导，得到(3.2.74)(3.2.75)对对照照最最陡陡下下降降法法性性能能曲曲线线(3.2.47)式式，LMS均均方方误误差差变变化化规规律律和和最最陡陡下下降降法法完完全全一一样样，学学习习曲曲线线同同样样近近似似为几个不同时间常数的指数和。为几个不同时间常数的指数和。第三章 自适应数字滤波器 76图图3.2.11所示的是学习曲线的示例所示的是学习曲线的示例图图3.2.11LMS算法的学习曲线算法的学习曲线第三章 自适应数字滤波器 77图图3.2.12对对LMS算法的学习曲线的影响算法的学习曲线的影响第三章 自适应数字滤波器 78 3.2.11稳态误差和失调系数稳态误差和失调系数 由由上上面面分分析析知知道道，权权矢矢量量的的平平均均值值可可以以收收敛敛到到它它的的最最佳佳值值，但但权权矢矢量量变变化化过过程程是是随随机机的的，即即使使其其平平均均值收敛到最佳值，它仍然按照下式：值收敛到最佳值，它仍然按照下式：Wj+1=Wj+2ejXj随随机机地地进进行行变变化化，这这样样使使权权矢矢量量仍仍在在最最佳佳值值附附近近随随机机变变化化，但但均均方方误误差差将将大大于于最最小小均均方方误误差差，如如图图3.2.13所所示示。该该图图表表示示，与与一一个个权权系系数数的的关关系系曲曲线线，在在稳稳态态情情况况下下权权系系数数在在最最佳佳值值（即即v=0）附附近近随随机机发发生生偏偏移移，从从而而引引起起随随机机地地偏偏离离最最低低点点，其其偏移量用偏移量用表示。表示。第三章 自适应数字滤波器 79为此，引入失调系数为此，引入失调系数M，M定义为定义为(3.2.76)可以推出失调系数为可以推出失调系数为(3.2.77)或者或者M=NPin(3.2.78)式式中中，N是是滤滤波波器器的的阶阶数数，Pin是是输输入入信信号号功功率率。上上式式说说明明和和输输入入功功率率加加大大都都会会增增加加失失调调系系数数。在在保保证证收收敛敛的的情情况况下下加加大大，会会提提高高收收敛敛速速度度，也也说说明明为为了了减减小小失失调调系系数数，应应该该适适当当选选择择收收敛敛速速度度，以以保保证证收收敛速度和失调系数都满足要求。敛速度和失调系数都满足要求。第三章 自适应数字滤波器 80图图3.2.13LMS算法稳态误差算法稳态误差第三章 自适应数字滤波器 81 图图3.2.14是是一一个个LMS自自适适应应滤滤波波器器的的计计算算机机仿仿真真结结果果，阶阶数数N=5，其其输输入入是是信信号号加加白白噪噪声声，输输入入信信号号功功率率为为1，中中心心频频率率是是0.03fs(fs为为采采样样频频率率)，噪噪声声功功率率为为0.5,输输入入信信号号自自相相关关函函数数的的特特征征值值为为：5.14、0.853、0.502、0.500、0.500，权权系系数数初初始始值值取取0，=0.0065。图图中中画画出出了了一一条条样样本本学学习习曲曲线线和和150条条样样本本学学习习曲曲线线的的平平均均曲曲线线。该该图图表表明明个个别别学学习习曲曲线线起起伏伏较较大大，平平均均学学习习曲曲线线起起伏伏很很小小，计计算算出出的的维维纳纳最最小小均均方方误误差差为为0.74396，用用LMS算算法法得得到到的的稳稳态态误误差差大大于于该该值值，按按(3.2.77)式式计计算算的的失失调调系系数数是是4.87%，按计算机模拟结果测得的失调系数是按计算机模拟结果测得的失调系数是5.40%。第三章 自适应数字滤波器 82图图3.2.14LMS算法的学习曲线算法的学习曲线第三章 自适应数字滤波器 833.3最小二乘自适应滤波最小二乘自适应滤波本本节节讨讨论论另另外外一一种种以以误误差差的的平平方方和和最最小小作作为为最最佳佳准则的误差准则准则的误差准则最小二乘最小二乘(LeastSquare)准则。准则。定义定义(3.3.1)式中，式中，(n)是误差信号的平方和；是误差信号的平方和；ej 是是j 时刻的误差时刻的误差信号信号(3.3.2)第三章 自适应数字滤波器 84其其中中，dj是是j时时刻刻的的期期望望信信号号，Xj是是j时时刻刻的的输输入入信信号号构构成成的的向向量量，W表表示示滤滤波波器器的的权权系系数数构构成成的的向向量量。通通过过选选择择W，使使(n)取取得得最最小小值值的的滤滤波波称称为为最最小小二二乘乘(LeastSquare，简简称称LS)滤滤波波，而而满满足足Ee2j取取得得最最小小值值的的滤滤波波称称为为最最小小均均方方误误差差(LeastMeanSquare，简简称称LMS)滤滤波波。和和LMS滤滤波波相相比比，LS滤滤波波对对非非平平稳稳信信号号的的适适应应性性要要强强许许多多，这这是是由由于于LS滤滤波波总总是是采采用用新新的的数数据据，在在每每一一个个时时刻刻对对所所有有已已输输入入信信号号而而言言，重重新新评评估估使使其其误误差差的的平平方方和和最最小小，因因此此具具有有更更精精确确的的含含义义，属属于于精精确确分分析析法法。而而LMS滤滤波波是是以以集集合平均为基础的，属于统计分析的方法。合平均为基础的，属于统计分析的方法。第三章 自适应数字滤波器 853.3.1递归最小二乘递归最小二乘(RLS)法法递递归归最最小小二二乘乘(RecursiveofLeastSquare，简简称称RLS)法法的的基基本本思思想想就就是是新新的的估估计计值值是是在在老老的的估估计计值值的的基基础础上上修修正正而而成成的的，为为了了分分析析简简单单，便便设设为为一一向向量，且量，且仅与当前观测值有关，则仅与当前观测值有关，则新的估计值新的估计值(k)=老的估计值老的估计值(k-1)+修正项修正项因此，递归最小二乘算法的关键是得到修正项的表因此，递归最小二乘算法的关键是得到修正项的表达式。已知达式。已知M个数据个数据x(0),x(1),x(M1)，采，采用用M个权的个权的FIR滤波器对数据进行滤波，假设期望信滤波器对数据进行滤波，假设期望信号为号为d(n)，如图，如图3.3.1所示。所示。第三章 自适应数字滤波器 86图图3.3.1M个权的个权的FIR滤波器滤波器第三章 自适应数字滤波器 87滤波器的输出滤波器的输出是对期望信号是对期望信号d(n)的估计的估计其其中中，wk(n),k=1,2,M，为为FIR滤滤波波器器在在n时时刻刻的的M个个系系数数值值(说说明明滤滤波波器器的的系系数数可可以以变变化化)，它它是是一一个个M维的向量，记为维的向量，记为(3.3.4)(3.3.3)同理，输入信号也是一个同理，输入信号也是一个M维的列向量维的列向量(3.3.5)第三章 自适应数字滤波器 88则自适应滤波器的输出可表示为则自适应滤波器的输出可表示为设设为系统的期望响应信号，为系统的期望响应信号，为滤波器的输为滤波器的输出出相对于相对于的误差，即的误差，即(3.3.6)(3.3.7)第三章 自适应数字滤波器 89RLS算法的关键是用二乘方的时间平均的最小化算法的关键是用二乘方的时间平均的最小化准则取代准则取代LMS算法的最小均方准则，即要对初始时刻算法的最小均方准则，即要对初始时刻到当前时刻的所有误差的平方进行平均，并使其最小到当前时刻的所有误差的平方进行平均，并使其最小化。其代价函数定义为化。其代价函数定义为式中，加权因子式中，加权因子01称为遗忘因子称为遗忘因子(ForgettingFactor)，其作用是对离，其作用是对离n 时刻越近的数据加越大的时刻越近的数据加越大的权重，而对离权重，而对离n时刻越远的数据加越小的权重，即对时刻越远的数据加越小的权重，即对各个时刻的误差具有一定的遗忘作用。各个时刻的误差具有一定的遗忘作用。(3.3.8)第三章 自适应数字滤波器 90当当=1时，相当于各个时刻的误差被时，相当于各个时刻的误差被“一视同仁一视同仁”，即无任何遗忘功能，或具有无穷记忆功能。此时，指即无任何遗忘功能，或具有无穷记忆功能。此时，指数加权的最小二乘方法退化为一般的最小二乘方法。数加权的最小二乘方法退化为一般的最小二乘方法。反之，反之，当当=0时，则只有现时刻的误差起作用，而过时，则只有现时刻的误差起作用，而过去时刻的误差完全被遗忘。不起任何作用。在非平稳去时刻的误差完全被遗忘。不起任何作用。在非平稳环境中，为了跟踪变化的系统，这两个极端的遗忘因环境中，为了跟踪变化的系统，这两个极端的遗忘因子值都是不适合的。子值都是不适合的。第三章 自适应数字滤波器 91根据最小化准则，对代价函数求导并令其为零，得根据最小化准则，对代价函数求导并令其为零，得将式（将式（3.3.4）代入上式得）代入上式得令令(3.3.9)(3.3.10)(3.3.11)(3.3.12)第三章 自适应数字滤波器 92可以看出，可以看出，类似于输入信号的自相关特类似于输入信号的自相关特性，性，类似于输入信号与期望信号的互相关特性。类似于输入信号与期望信号的互相关特性。式式(3.3.13)与第二章中的维纳与第二章中的维纳-霍夫霍夫(Wiener-Hopf)方方程相似，不同之处在于维纳程相似，不同之处在于维纳-霍夫方程中的数学期望霍夫方程中的数学期望符号用求和符号所代替。故有符号用求和符号所代替。故有于是，式（于是，式（3.3.10）变为）变为(3.3.13)上式表明，按最小二乘方准则得到的解仍为维纳解。上式表明，按最小二乘方准则得到的解仍为维纳解。(3.3.14)第三章 自适应数字滤波器 93可以写出可以写出和和的递推估计公式为：的递推估计公式为：对式（对式（3.3.15）使用矩阵求逆引理）使用矩阵求逆引理(3.3.15)(3.3.16)(3.3.17)可得可得(3.3.18)第三章 自适应数字滤波器 94式中式中将式（将式（3.3.16）和式（）和式（3.3.18）代入式（）代入式（3.3.14）得）得为为Kalman增益矢量。增益矢量。(3.3.19)(3.3.20)第三章 自适应数字滤波器 95令令称为滤波器在称为滤波器在n 时刻的先验估计误差，而时刻的先验估计误差，而e(n)称为称为滤波器在滤波器在n 时刻的先验估计误差。于是可得到时刻的先验估计误差。于是可得到RLS算法的迭代公式为算法的迭代公式为(3.3.21)(3.3.22)式式(3.3.22)具有卡尔曼滤波器的形式。具有卡尔曼滤波器的形式。是根是根据据n1及以前时刻所有数据得到的最佳滤波器，根及以前时刻所有数据得到的最佳滤波器，根据它来预测据它来预测应该是合理的。应该是合理的。是这种是这种预测的误差预测的误差输出信号误差。对预测进行校正便输出信号误差。对预测进行校正便得到得到。第三章 自适应数字滤波器 96综上所述，可得到综上所述，可得到RLS算法步骤为：算法步骤为：步骤步骤1初始化：初始化：W(0)=0，R(0)=I，其中其中是一个是一个很小的值。很小的值。步骤步骤2更新：更新：n=1，2，.(3.3.23a)(3.3.23b)(3.3.23c)(3.3.23d)第三章 自适应数字滤波器 973.3.2递归最小二乘法的性能递归最小二乘法的性能利用式利用式(3.3.18)，可将增益公式，可将增益公式(3.3.19)写成写成于是于是式式(3.3.22)变成变成式式(3.3.24)与与LMS算法的差别在于权矢量校正项中出算法的差别在于权矢量校正项中出现了现了。由于。由于是自相关矩阵是自相关矩阵的一种度量，因此，因子的一种度量，因此，因子的出现使得的出现使得RLS算算法法具有快速收敛的性质。矩阵迭代更新公式具有快速收敛的性质。矩阵迭代更新公式(3.3.23c)需要用数量级为需要用数量级为M2的运算量来完成，它是的运算量来完成，它是RLS算法算法的主要计算负担。的主要计算负担。(3.3.24)第三章 自适应数字滤波器 98遗忘因子遗忘因子 的数值对的数值对RLS算法的影响很大。算法的影响很大。RLS算法的有效记忆长度用算法的有效记忆长度用t0来度量，来度量，t0定义为定义为 越小，对应的越小，对应的t0越小，意味着对信号的非平稳性的越小，意味着对信号的非平稳性的跟踪性能越好。但如果跟踪性能越好。但如果 太小，太小，t0会小于信号每个平会小于信号每个平稳段的有效时间，这时不能充分利用所有能够获取稳段的有效时间，这时不能充分利用所有能够获取的取样数据（这些数据本来覆盖着整个平稳段），的取样数据（这些数据本来覆盖着整个平稳段），结果所算出来的权矢量结果所算出来的权矢量w(n)将会受到噪声的严重影将会受到噪声的严重影响。对于平稳信号，响。对于平稳信号，的最佳值为的最佳值为1。(3.3.25)第三章 自适应数字滤波器 99RLS算法在初始化时，通常选取算法在初始化时，通常选取R(0)=I。这里，。这里，是一个很小的正数值。是一个很小的正数值。的值越小，自相关矩阵的值越小，自相关矩阵R(0)在在R(n)的计算中所占的比重越小，这是我们所期的计算中所占的比重越小，这是我们所期望的；反之，望的；反之，R(0)的作用就会突现出来，这是应该的作用就会突现出来，这是应该避免的。避免的。的典型取值为的典型取值为0.01甚至更小。一般情况下，甚至更小。一般情况下，=0.01与与=0.0001时，时，RLS算法给出的结果并没有算法给出的结果并没有明显的区别。但是，取明显的区别。但是，取=1将会严重地影响将会严重地影响RLS算算法收敛速度和收敛结果，这一点是在应用法收敛速度和收敛结果，这一点是在应用RLS算法算法时必需加以注意的。时必需加以注意的。第三章 自适应数字滤波器 100图图3.3.2所示的是所示的是RLS自适应预测器和自适应预测器和LMS自适自适应预测器收敛特性的模拟结果比较。平稳随机序列应预测器收敛特性的模拟结果比较。平稳随机序列x(n)是由零均值、单位方差的白噪声是由零均值、单位方差的白噪声通过一个二通过一个二阶自回归模型阶自回归模型产生。这里，模型参数产生。这里，模型参数a1=1.6，a2=0.8。该图给出。该图给出了权系数了权系数a1(n)逐渐收敛于逐渐收敛于1.6的过渡特性。的过渡特性。RLS算法算法 的值选为的值选为1，R(0)=0.001I，LMS算法自适算法自适应步长应步长=0.0025。LMS算法的收敛速度可以略为加算法的收敛速度可以略为加快，但将付出增大噪声的代价。快，但将付出增大噪声的代价。第三章 自适应数字滤波器 101图图3.3.2权系数权系数a1(n)的收敛过程的收敛过程第三章 自适应数字滤波器 102图图3.3.3所示的是对应于所示的是对应于=0.98的情况。请注意权的情况。请注意权系数收敛后出现了较大的噪声，这是因为现在有效记系数收敛后出现了较大的噪声，这是因为现在有效记忆长度只有忆长度只有，在计算最佳系数时，在计算最佳系数时没有充分利用能够获得的全部取样数据。没有充分利用能够获得的全部取样数据。第三章 自适应数字滤波器 103图图3.3.3遗忘因子遗忘因子对对权系数权系数a1(n)的影响的影响第三章 自适应数字滤波器 104图图3.3.4RLS算法算法与与LMS算法学习曲线的模拟结果比较算法学习曲线的模拟结果比较第三章 自适应数字滤波器 1053.4自适应滤波的应用自适应滤波的应用自适应对消器原理框图如图自适应对消器原理框图如图3.4.1所示。所示。图图3.4.1自适应对消系统自适应对消系统 3.4.1自适应对消原理自适应对消原理第三章 自适应数字滤波器 106假假设设自自适适应应噪噪声声对对消消系系统统的的原原始始输输入入端端用用dj表表示示，dj=sj+n0,n0是是要要抵抵消消的的噪噪声声，并并且且与与sj不不相相关关，参参考考输输入入端端用用xj表表示示，这这里里xj=n1。n1是是与与n0相相关关、与与sj不不相相关关的的噪噪声声信信号号，系系统统输输出出用用z表表示示