现代信号处理ch3-4-5

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,第三章 自适应信号处理,Tuesday,November 19,2024,1,主要内容,随机信号的最优预测和滤波,最优滤波理论与,维纳滤波器,横向,LMS,自适应数字滤波器,横向,RLS,自适应数字滤波器,自适应格型滤波器,快速横向滤波（,FTF,）自适应算法,无限脉冲响应自适应滤波器,盲自适应信号处理,同态滤波及倒谱,自适应滤波器应用,2,四、横向,RLS,自适应数字滤波器,基本思想,RLS,算法,RLS,滤波算法与,Kalman,滤波算法,比较,3,四、横向,RLS,自适应数字滤波器,基本思想,把最小二乘法,(,LS,),推广为一种自适应算法，用来设计自适应的横向滤波器，利用,n,-1,时刻的滤波器抽头权系数，通过简单的更新，求出,n,时刻的滤波器抽头权系数。这样一种自适应的最二乘算法称为递归,(,递推,),最小二乘算法,简称,RLS,算法。,4,四、横向,RLS,自适应数字滤波器,RLS,算法,基本方程,考虑指数加权的最小二乘法，其代价函数为,式中 ,称为遗忘因子,其作用是对离,n,时刻,越近,的误差加,越大,的权重,而对离,n,时刻,越远,的误差加,越小,的权重,即该参数对各个时刻的误差具有某种遗忘作用。,式(1a)中,误差函数定义为,式中 表示,i,时刻的期望响应。,BACK,5,四、横向,RLS,自适应数字滤波器,RLS,算法,i),有些著作中,把式中的 写作 ,且,ii),式中滤波器抽头权向量取为,n,时刻的权向量,理由如下:,在自适应,更新过程,中,滤波器特性,总是,越来越好,这意,味着,对任何时刻而言,总有,故使用 作为误差函数比使用,e,(,i,),更为合理。,iii),和,e,(,i,),分别称为滤波器在,i,时刻,后验,估计误差和,先验,估计误差,关于误差函数定义式 的讨论,6,四、横向,RLS,自适应数字滤波器,RLS,算法,合并,(1a)和(1b),得,显然，它是 的函数。由,其解,式中,易得,式,(3),表明,指数加权最小二乘问题,(2),的解亦为维纳解。,下面考虑它的自适应更新问题,。,BACK,7,四、横向,RLS,自适应数字滤波器,RLS,算法,自适应更新,根据式,(4),，易得其递推估计公式,令,P,(,n,)=,R,-1,(,n,),利用,可得,定义,Kalman,增益向量:,则有,BACK,8,四、横向,RLS,自适应数字滤波器,RLS,算法,利用上式,易证,注意:上面推导中,利用了,(7),。再利用,(3),、(5b),和,(8)、(9a),得,9,四、横向,RLS,自适应数字滤波器,RLS,算法,根据上式,有,其中,作为比较,下面重列LMS算法迭代式：,结论,:用K,alman,增益向量,k(,n,),代替,LMS,算法中,即得,RLS,算法。,利用(9c)和,(7),10,四、横向,RLS,自适应数字滤波器,RLS,算法,步骤1：初始化,：,是一个小的正数,步骤2：更新：对,n,=1,2,计算,RLS,算法步骤:,即(7),即(8),11,关于,RLS,算法的收敛速度问题,因为,四、横向,RLS,自适应数字滤波器,RLS,算法,故,结论,:,RLS,算法在权向量的更新方程中,比,LMS,算法多了迭代矩阵P,(,n,),而该矩阵可看作代价函数二阶导数矩阵的近似逆矩阵,因此,RLS,收敛速度快于,LMS,算法.,而,作为比较,再次重列LMS算法迭代式：,即(9c),12,四、横向,RLS,自适应数字滤波器,RLS,算法与,Kalman,滤波算法,比较,考虑一特殊的“无激励”动态模型：,式中,s,(,n,),为模型的状态向量,y,(,n,),为一标量观测值或参考信号,u,(n),观测向量,v,(,n,),是,零均值、方差为1的一标量白噪声过程。为正常数。由式(11a)易知,式中s(,0,)是状态向量的初始值。将上式代入式,(11b),则有,13,四、横向,RLS,自适应数字滤波器,RLS,算法与,Kalman,滤波算法,比较,或等效写为,从,Kalman,滤波观点看,这表示无激励动态模型的随机性。,与采用随机模型的,Kalman,滤波器不同,RLS,算法则采用确定模型,即期望信号(参考信号)可用线性回归模型表示为,其中,w,0,是模型参数向量,u(,n,),为输入向量,e,0,(,n,),为观测噪声。,14,四、横向,RLS,自适应数字滤波器,RLS,算法与,Kalman,滤波算法,比较,若令,Kalman,滤波器中状态向量的初始值等于,RLS,算法中抽头权向量,即,则容易看出,RLS,算法的确定模型,(14),与,Kalman,滤波算法的特殊随机模型,(13),等价的条件如下：,式中左边为状态空间模型参数,右边为线性回归模型参数,结论,：,RLS,自适应算法使用的确定性线性回归模型是,Kalman,滤波算法的一种特殊的无激励的状态空间模型,15,四、横向,RLS,自适应数字滤波器,RLS,算法与,Kalman,滤波算法,比较,表1,Kalman,滤波算法与,RLS,滤波算法之间的变量对应关系,16,主要内容,随机信号的最优预测和滤波,最优滤波理论与,维纳滤波器,横向,LMS,自适应数字滤波器,横向,RLS,自适应数字滤波器,自适应格型滤波器,快速横向滤波（,FTF,）自适应算法,无限脉冲响应自适应滤波器,盲自适应信号处理,自适应滤波器应用,17,五、自适应格型滤波器,m阶前向预测,m阶前向预测误差,m阶前向预测误差平方和,按使(3)式最小的准则求得的 称为最小二乘前向预测系数。,前向预测和后向预测,18,五、自适应格型滤波器,令m阶前向预测误差矢量 、当前数据矢量 、前向预测系数矢量 以及数据矩阵 分别为,于是有,前向预测和后向预测,19,五、自适应格型滤波器,根据矢量空间的概念，由 的列矢量对 所作的最小二乘（最佳）前向预测 是 在 上的投影，即,式中，是 的投影矩阵，有,m阶前向预测误差矢量 是 对 的投影补,其中 是 的正交投影矩阵。,前向预测和后向预测,(10),(11),20,五、自适应格型滤波器,m阶后向预测,m阶后向预测误差,令m阶后向预测误差矢量 、后向预测矢量 ，后向预测系数矢量 以及数据矩阵 分别为,前向预测和后向预测,(12),(13),(14),(16),(15),21,五、自适应格型滤波器,则有,由矢量空间的概念，有,前向预测和后向预测,(17),(18),(19),(20),(21),22,五、自适应格型滤波器,预测误差矢量的范数的平方即预测误差功率，称为预测误差剩余。前向和后向预测误差剩余分别定义为,前向预测和后向预测,(22a),(22b),(23a),(23b),23,五、自适应格型滤波器,前向预测误差和后向预测误差按阶递推计算（阶更新）公式：,预测误差滤波器的格型结构,24,五、自适应格型滤波器,如果给出,就可以得到m阶预测误差滤波器的格型结构，见书P88的图3.28(b)。,预测误差滤波器的格型结构,25,五、自适应格型滤波器,前向预测误差剩余和后向预测误差剩余按阶更新的公式分别为：,以上公式中涉及到 的更新，其更新公式为：,其中 为角参量，它的阶更新公式为,最小二乘格型自适应算法,26,五、自适应格型滤波器,LSL自适应算法的计算流程如下：,（1）初始化,（2）迭代计算（按时间n=1,2,),最小二乘格型自适应算法,27,五、自适应格型滤波器,（3）迭代计算（按阶m=0,1,M-1）,同阶的 嵌套着按时间进行迭代计算，M是给定的滤波器的阶。,最小二乘格型自适应算法,28,五、自适应格型滤波器,对一个2阶自回归随机过程模型参数的估计：,结论：,LSL算法很明显地比LMS算法收敛得更快。,采用LSL自适应算法时，前向和后向预测误差剩余初始值的选取，对于模型参数的收敛性能是有影响的。,最小二乘格型自适应算法的性能,29,