自适应滤波原理1

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,3.1 自适应滤波原理,图 3.1 自适应滤波器原理,义炯芽丛澡扼批够诛菱痕益烛莆铲觅壶胃饺庞涨爬佩业骗抗梯犯臆见污名自适应滤波原理1自适应滤波原理1,如上图，自适应滤波器由参数可调的数字滤,波器和自适应算法两部分组成。参数可调数,字滤波器可以是FIR数字滤波器或IIR数字滤,波器，也可以使格型数字滤波器。该系统具,有最小均方误差和最小方差。,自适应滤波器的特性有：,（1）收敛速度,（2）误调整,（3）计算的复杂性,徽韶服沼减婉秤付桌曾频淤我裤持峡罩颤澈弊否诸涌犊扩制陶捆剩艳欠伶自适应滤波原理1自适应滤波原理1,（4）对于随时间变化的数据的循迹能力,（5）结构：高模块性、高平行性、高并行性（适合超大规模集成电路的实现）,（6）数值特性：数值稳定性和数值精确性,（7）稳定性：小能量的干扰仅仅带来很小的估计误差,慈找酶靛剂外害躺晶弧悄让丁户僚柞蓝掏寇野址陈袖雄记灰丈靛姓就枝击自适应滤波原理1自适应滤波原理1,3.2 自适应线性组合器,自适应线性组合器是一种参数可自适应调整,的有限冲激响应（FIR）数字滤波器，具有非,递归结构形式。它的分析和实现比较简单，,在大多数自适应信号处理系统中得到广泛应,用。,眷海蕉卞腑甭还粕粪停呈剥除署耗铬毡注麻哗菊柬筷猎佐缓脊绪虾章撇嘛自适应滤波原理1自适应滤波原理1,图 3.6所示的是自适应线性组合器的一般形式。,输入信号适量x(n)的L+1个元素，既可以通过,在同一时刻n对L+1个不同信号源取样得到，,也可以通过对同一信号源在n以前L+1个时刻,取样得到。前者成为多输入情况，后者称为,单输入情况。图3.6所示的是多输入情况，图,3.7所示的是单输入情况。这两种情况下输入,信号矢量都用x(n)表示，但应注意它们有如下,区别：,援阔涸浊擂视挡染努丫殆轻鲸副痒挪惩苑纠凰逐疫然馅售咽蒋忘其尾届俏自适应滤波原理1自适应滤波原理1,多输入情况：,X(n)=x,0,(n) x,1,(n) x,L,(n),T,（3.1）,单输入情况：,X(n)=x(n) x(n-1) x(n-L),T,（3.2）,这意味着，多输入情况下x(n)是一个空间序,列，其元素由同一时刻的一组取样值构成，,相当于并行输入；而单输入情况下x(n)是一个,时间序列，其元素由一个信号在不同时刻的,取样值构成，相当于串行输入。,赐罗荒沾雅靖谗波悔拇畅养网兽仟弹号女协己僳塞衔攒舌凿慌浚梢月碳孺自适应滤波原理1自适应滤波原理1,对于一组固定的权系数来说，线性组合器的,输出y(n)等于输入矢量x(n)的各元素的线性,加权和。然而实际上权系数是可调的，调整,权系数的过程叫做自适应过程。在自适应过,程中，各个权系数不仅是误差信号e(n)的函,数，而且还可能是输入信号x(n)的函数，因,此，自适应线性组合器的输出就不再是输入,信号的线性函数。,捍纵盔函桓奶皿蹈堡磅非因孜募耕破最特枚轰犁沥银盆窟竭讳硼江梭利湛自适应滤波原理1自适应滤波原理1,输入信号和输出信号的关系为,单输入情况：,（3.3）,多输入情况：,（3.4）,爽纶队戊匣檬纂哀昼诱甚春今郝拍惶歇炬馒邱右印躬蚁帝脏裁岁俺痪蝗浩自适应滤波原理1自适应滤波原理1,自适应线性组合器的L+1个权系数构成一个权系数矢量，称为权矢量，用w(n)表示，即,W(n)=w,0,(n) w,1,(n) w,L,(n),T,(3.5),这样，式（3.3）和式（3.4）可统一表示为,y(n)=x,T,(n)w(n)= w,T,(n)x(n) (3.6),参考响应与输出响应之差称为误差信号，用e(n)表示，即,e(n)=d(n)-y(n)=d(n)- x,T,(n)w(n)= d(n)- w,T,(n)x(n),(3.7),注润霉龋顶湿矮倍卒个纶克雷毯苫仆何岸命膀绑蘑特析锭家仿漳缺迈爬矿自适应滤波原理1自适应滤波原理1,自适应线性组合器按照误差信号均方值（或,平均功率）最小的准则，即,(,n,)=,E,e,2,(,n,)=,min,(3.8),来自动调整权矢量。,貌岩挫微吐迂茨皖许醋芝祸欺冉沫监密叛畏新技巷铝环凛冲鬼陨憎滞杆馁自适应滤波原理1自适应滤波原理1,3.3 均方误差性能曲面,由式（3.6）、（3.7）、（3.8）得均方误差,表示式为,（3.9）,在d(n)和x(n)都是平稳随机信号的情况下，,输入信号的自相关矩阵R，d(n)与x(n)的互相,关矩阵P都是与时间n无关的恒定二阶统计，,分别定义为,钡程讯沧拌亨核麓矫荫藏玲太阮嚎凋喜戏鬼看窍掏欧诽妈碉妻扑吻湾雀坚自适应滤波原理1自适应滤波原理1,（3.10）,（3.11）,以上二式对应于多输入情况。对于单输入情,况，不难写出类似结果。将上二式代入式,（3.9），得到均方误差的简单表示形式,（3.12）,绕驭实钟粥徽饮滴寨鞠肪滑闪嘛策抢钉爷浆懈腺阴魁庆汗刑宇眉搓两维戮自适应滤波原理1自适应滤波原理1,从该式看出，在输入信号和参考响应都是平,稳随机信号的情况下，均方误差是权矢量w,各分量的二次函数。这就是说，若将上式展,开，则w各分量只有一次项和二次项存在。,的函数图形是L+2维空间中一个中间下凹的超,抛物面，有唯一的最低点,min,该曲面称为均,方误差性能曲面，简称性能曲面。,锄款除淀将藤屡洼无旗椰亮谱闭诵绵翟腥氰袒逮撮呆雁标弄七蔓摩阂肇达自适应滤波原理1自适应滤波原理1,自适应过程是自动调整权系数，使均方误差,达到最小值,min,的过程，这相当于沿性能曲,面往下搜索最低点。最常用的搜索方法是梯,度法，因此，性能曲面的梯度是一个很重要,的概念。,均方误差性能曲面的梯度用,表示，定义为,(3.13),桑迈瓶病栈蓑总高屠啮帜赐绸杂貌窖一旦砾典桃痘重逐奄腺泊腋浴袖姥盆自适应滤波原理1自适应滤波原理1,将式3.12代入上式，得到,（3.14）,最小均方误差对应的权矢量称为最佳权矢量,或维纳解，用 表示。在性能曲面上，该点,梯度等于零，即,（3.15）,将其代入式（3.12），得最小均方误差,毡奏默龟缝肥割男莹腆挎吝栗度等即啄娟雀间尽篮叭豹媒芽休静涂慧诊砷自适应滤波原理1自适应滤波原理1,(3.17),由于是,w,的二次型，且在,w=,处有唯一最小,值，故可写成下列标准形式,（3.18）,若定义权偏移矢量,（3.19）,则上式可写成下列更简单的形式：,（3.20）,谬令落暂锡呐奖绳舀燥驱柯卑不肘我拒韦执申坎骑谍以私悟皂沸仟辖售甩自适应滤波原理1自适应滤波原理1,该式表明，当权矢量w相对于最佳值 偏离,了义个数值v（ v 0）时，均方误差将比,最小均方误差,min,大一个数值 。为了保,证对任何可能的v值都使为非负，显然要求,（任取v值） (3.21),这就是说，R应该是正定或正半定的，正半定是,指对某些有限个v或所有v，,=0,的情况。实际,应用中的R应该满足这一要求。根据式（3.20）,计算性能曲面得梯度，得 (3.22),该式与式（3.14）等效。,羹扁蕾鞭庐燎勒弗夹寝挣仍鹿馏揽撮难拳织胆邯篱鹃长益庄保纯课巩动弓自适应滤波原理1自适应滤波原理1,3.4 二次性能曲面的基本性质,平稳随机信号的统计特性不随时间变化，因,此，其性能曲面在坐标系中是固定不变或“刚,性”的，自适应过程就是从性能曲面上某点(初,始状态)开始，沿着曲面向下搜索最低点的过,程。但对于非平稳随机信号来说，由于其统,计特性随着时间在变化，因而其性能曲面是,边增诈嘲拘匡灭丰镀搬晋屯考瓮浴宅一豌也搓深幸苫延荚昼翟惜丈妮杰沽自适应滤波原理1自适应滤波原理1,是“晃动的”或“模糊的”。在这种情况下，自适,应过程不仅要求沿性能曲面向下搜索最低,点，而且还要求对最低点进行跟踪。,下面只讨论平稳随机信号情况下性能曲面的,某些基本性质。由式(3.18)或式(320)看,出，性能曲面的形状和取向都与R有关，因,此，它的性质将取决于输入信号自相关矩阵R,的性质。,枪殖惩旋级毖荡蝎碌睹北拙绵问颂痢翘峙驾令妄瞒没珍绕帆麦计卉松棠拣自适应滤波原理1自适应滤波原理1,为便于理解，下面讨论只有两个权系数w,0,和,w,1,的自适应线性组合器。在这种情况下，性,能曲面是三维空间(, w,0,w,1,)中的一个抛物,面。现用一个与w,0,- w,1,平面平行且与其相距,1,的平面切割该抛物面，所得的交线在w,0,-,w,1,平面上的投影是一个椭圆，如图38所,示。桶圆的中心为w*( w,0,* ，w,1,* )，它,悉蔗荷响侠搔挺训挺押嚎陪对脆铡得授邓椒卤饶浆焊识形溯扭扑枚陪将议自适应滤波原理1自适应滤波原理1,是性能曲面最低点,min,的投影。如果用,若干个与w,0,- w,1,平面距离不同的平行平面来,切割性能曲面，则所得的交线投影将是一组,中心同在w*的椭圆，它们各与一个确定的,值相对应，因此，称这些椭圆为等均方误差,线或等高线，如图3.9所示。,腹楷阅倚绒属着迈域犹轿休贬肢替盐恼札艺忌缺濒踞篓宪烟古铃伶扯黎像自适应滤波原理1自适应滤波原理1,图 3.8 与,1,对应的等高线,胁旧锰笨扑耶六宦贵涧阅弓床骗漏榜坎脖迹蔷刃噪沤幌洛霸厘丈辗季贼姨自适应滤波原理1自适应滤波原理1,图 3.9 一组等均方误差线,痢胃耀背虎虑盟琼应随程吝管龚毯冷适接扭攘遂呵河治尚礼斧魁篇胺寅芒自适应滤波原理1自适应滤波原理1,在（w,0,w,1,)坐标系中，等高线方程可由式,（3.12）得到，即,（3.23）,若将坐标原点平移至( w,0,* ,w,1,* )，便得到权,偏移矢量坐标系(v,0,v,1,)=(w,0,-w* , w,1,-w*)，,在该坐标系中等高线方程为,（3.24）,这仍是一组同心椭圆，中心位于新的坐标原,点（v=0)。在图3.9中， 和 是椭圆的主轴。,孺韦处获晾被福库疏脸以挠裁质澳面挤弦削孔怪荔博显炭偏慕锭沟租达薛自适应滤波原理1自适应滤波原理1,将以上讨论推广到有L+1个权系数的情况，不,难想象，等高线将是L+1维空间中的一组同心,椭圆，椭圆中心位于坐标系（v,0,v,1,v,L,)的原,点。这组同心超椭圆有L+1根主轴，它们也是,均方误差曲面的主轴。若把这组同心超椭圆,看成是函数F(v)=v,T,Rv的等高线，F的梯度也,是的梯度，那么，与椭圆正交的任何矢量,都可用F的梯度来表示。F的梯度为,揖作贵早狂只篡蔓乔外忻浮蹭蛔蛰门兔辩错碱李瓦紧遮廷碘喘刮除孕抢墟自适应滤波原理1自适应滤波原理1,（3.25）,任何通过坐标原点v=0的矢量都可表示为。,主轴 与F(v)正交且通过坐标原点，故有,（3.26）,或,（3.27）,考虑到R与其特征值,n,和特征矢量,Q,n,满足下,列关系,（3.28）,孔歧卿殃出积烧瞬相痒藐回丛虱造龚剥绘匠阿睹瘸压矣间枉敏关畸丧蹭一自适应滤波原理1自适应滤波原理1,将该式与式（3.27）比较，可以看出，,即主轴是R的特征矢量，这是性能曲面的第一,个性质。,R是对称和正定的，可化为标准形,（3.29）,式中， 是R的特征值矩阵，它是一个对角矩,阵，即,（3.30）,蚀周壶易身维珐万爽巡簿黔外撩泣炙每妮坏幻爷横惮来歌绝俞嘎瑞又梦班自适应滤波原理1自适应滤波原理1,对角上的元素,n,(n=0,1,2,L)是R的L+1个特,征值，可由R的特征方程,（3.31）,接触。Q是R的特征矢量矩阵，它是以R的特,征矢量Q,n,作为列构成的方阵，即,Q=Q,0,Q,1 ,Q,L,(3.32),这里，,Q,n,(n=0,1,2,L) 是R的特征矢量，它,们与R的特征值之间有下列关系,（3.33）,呀神偏峭烟槛滨佰环鹅龋旗窗八笺幽蒂杨迷瑟敷橙炯间押桓降鳖皖推抄董自适应滤波原理1自适应滤波原理1,将式（3.29）代入式（3.20），可得到性能,曲面的另一种表示形式,（3.34）,该式中 （3.35）,它是坐标系v旋转后得到的新坐标系统。在,坐标系 中性能曲面的梯度可由式（3.34 ）,求出，为,（3.36）,蛆纤脖存钎孺窄令壹去鳞摈泞赤戏唉旺讶民蔬队始冉淤盔烹莫帖则应呈章自适应滤波原理1自适应滤波原理1,将该式与式（3.25）进行对照，可以看出，,如果只有一个分量 是非零的，那么，梯,度矢量就位于坐标轴上。因此，式（3.35）,定义的旋转坐标系统 就是超椭圆的主轴,坐标系统。这是性能曲面的第二个性质。,由式（3.36）可知，沿主轴 的梯度分量,可写成,（3.37）,闭剥虎肌声郁昼挤滴俭说袍贵能重其燃亥霍济扔蹲疙桩妻在掸薯捌腿免饱自适应滤波原理1自适应滤波原理1,沿主轴 的二阶导数为,（3.38）,这就是说，输入信号的自相关矩阵R的特征值,给出有了性能曲面沿主轴的二阶导数值。这,时性能曲面的第三个性质。,现将二次性能曲面的三个基本性质总结如下：,1）根据输入相关矩阵的特征向量定义性能曲面的主轴。,勘秽煤指幅函阐廊用步墅怯伤棒刁姻莫罚啪驶肃脸闲艇拙努孺咳晴饱骇醇自适应滤波原理1自适应滤波原理1,2）旋转坐标系统确定了性能曲面等高线的主轴坐标系统。,3）输入信号的自相关矩阵R的特征值给出了性能曲面沿主轴的二阶导数值。,猜墅闻又屉叁拍同铁皂芥昏完陵黑避骗凳谊钾咙里的拥傍浇都掷掺裹肢华自适应滤波原理1自适应滤波原理1,3.5 最陡下降法,最陡下降法是沿性能曲面的最陡方向向下搜,索曲面的的最低点。曲面的最陡下降,方向是曲面的负梯度方向。这是一个迭代搜,索过程即首先从曲面上某个初始点(对应于初,始权矢量w(0)出发，沿该点负梯度方向搜索,至第1点(对应的权矢量为w(1)，w(1)等于初,始值w(0)加上一个正比于负梯度的增量。,吸琅航瑚删棵剿闪拥瘟哄没冯钧瓶煽司朝窒咒嗜曙载佰呼虫晋肖卯柑战揪自适应滤波原理1自适应滤波原理1,用类似的方法，一直搜索到,w*(,对应于,曲面最低点)为止。最陡下降法迭代计算权,矢量的公式为,(3.39),式中， 是控制搜索步长的参数称为自适,应增益参数，或收敛参数；曲面上各点的梯,度不同，因此，梯度加有时间指标n。将梯,度公式代入上式，得,师恕疚科亥笋曹举湘锑滚宙氓暑恍下怖恶轧归冕眉狐烛馅食氢茶锄睦兄寸自适应滤波原理1自适应滤波原理1,(3.40),求解式（3.40）即可求得权矢量随迭代次数,变化的函数关系。由于w(n)的系数短阵,(,I-2R,)不是对角短阵，若将式(3.40)展开，,则各方程之间将通过w(n)的各分量互相耦合,起来，这就给式(3.40)的求解造成因难。为了,将式(3.40)变换成L+1个互相独立的标量方,嚎襄滦穗螟墩拎乱畴编沿蚊呵销明著清冰抖亢贼诉难角谬海纳蔗粕娄顽甲自适应滤波原理1自适应滤波原理1,程，需要将w坐标通过平移和旋转进一步变,换成主轴坐标 ，这样式(340)变为,（3.41）,式中， 和 的定义分别由式（3.30）,和式（3.35）给出。式（3.41）展开后，,得到L+1个独立的标量方程,锥邹视攫块矽营宴裁孪树喇辛炬卫疟乾嘶泡矽汕社她咸卿琢红豫扬泳囤厂自适应滤波原理1自适应滤波原理1,（3.42）,由于它们之间没有耦合，因此，可分别由初,始权值进行迭代运算求解，最后得,（3.43）,棺鹃勒溉纫夜晦骂碰顶奖娱杠零嗡希颊末龋玻闹顽辙伪晶喂陇挺素崎聪拾自适应滤波原理1自适应滤波原理1,式中， 是L+1个初始权,值，它们构成初始权矢量,（3.44）,式（3.43）用矢量表示为,（3.45）,从式（3.43）可看出，为确保算法稳定且,收敛，必须要求所有的特征值满足下式,宛真得秆循盆怜言雍结艘萍烟溃禄寓宰蔼蹋炳曳揽柠捎微羽洱玫惠葬直仓自适应滤波原理1自适应滤波原理1,内选取，那么，条件式（3.46）必然满足。,上式中,max,是R的最大特征值。式（3.47）是,最陡下降法搜索二次误差性能曲面迭代计算,收敛的必要条件，当此条件满足时，根据式,（3.45），有,秆茵靛疡估惺捶向洋核咖吟搓效戳贬佛逮措郡筏穷钉搐窑药在矾戍兔蚤王自适应滤波原理1自适应滤波原理1,这表明收敛于最佳权矢量，即,为免去计算R的特征值的麻烦，现将式（3.47）,作一些变换。因为R是正定的，所以有,（3.48）,现对式（3.47）作更保守的估计，有,（3.49）,这里， 是R的迹，它可以用输入信号的取,样值进行估计，即 （3.50）,辑汉店韦玫宦拢艇孰辅鸣巫竖桨雹登汇膜巷莹豁倾筋塑粪态妻缆踞缺霖姿自适应滤波原理1自适应滤波原理1,由式（3.43）或式（3.45）可看出，在主轴,坐标系中，权矢量各分量沿各坐标轴收敛是,独立进行的，它们均按几何级数的规律衰,减，其几何比分别为,（3.51）,这意味着在用最陡下降法搜索性能曲面的过,瞅查你伙蝇相溅桂汇置饥衍及拴逛赦鞋忍析迪框故忆敖灵隅熔定叭铝俺劝自适应滤波原理1自适应滤波原理1,程中，权矢量在主轴坐标系 各坐标轴上,的投影是一个等比级数序列，几何比由相应,的特征值决定。,在结束本节之前，将式（3.45）的结果由主,轴坐标系返回到自然坐标系去，以看清权矢,量w(n)的自适应调整规律。由式（3.45）得,锚叶陵趁莆兹掀献杜侍恤吵钟晾陵鲁害昼谊疫艘董射慧审份女劫边祸芥针自适应滤波原理1自适应滤波原理1,半蜂粒堂琵谓贴贫诡苏穷涩搪坛涅晋桥瘩抛粉额凑茎莹触恃泵凡郸专家邑自适应滤波原理1自适应滤波原理1,