通信工程毕业设计（论文）-自适应滤波算法的研究.doc

本科毕业设计(论文) 自适应滤波算法的研究2009年6月本科毕业设计（论文）自适应滤波算法的研究学院（系）： 专 业： 通信工程 学生 姓名： 学 号： 指导 教师： 答辩 日期：2009年6月17日 毕业设计(论文)任务书学院：信息科学与工程学院 系级教学单位：电子与通信工程系 学号学生姓名专 业班 级通信工程4班题目题目名称自适应滤波算法的研究题目性质1.理工类：工程设计 ( )；工程技术实验研究型( )；理论研究型( )；计算机软件型( )；综合型( )2.管理类( )；3.外语类( )；4.艺术类( )题目类型1.毕业设计( ) 2.论文( )题目来源科研课题( ) 生产实际( )自选题目( ) 主要内容滤波是电子信息处理领域的一种最基本而又极其重要的技术。自适应滤波器属于现代滤波器的范畴，它是40年代发展起来的自适应信号处理领域的一个重要应用，自适应信号处理主要是研究结构可变或可调整的系统，它可以通过自身与外界环境的接触来改善自身对信号处理的性能，本科题研究几种自适应滤波算法。基本要求1通过学习相应书籍和查阅资料，了解几种自适应滤波思想及其应用2学习并掌握常用的仿真语言MATLAB3掌握几种自适应滤波思想及其应用4根据算法原理进行软件编程，验证并比较几种自适应滤波算法的效果。参考资料1沈福民自适应信号处理M 西安: 西安电子科技大学出版社, 200112叶华, 吴伯修. 变步长自适应滤波算法的研究J,电子学报, 1990, 18(4):63-69 3Haykin S, et a l.Adapt ive filtering theoryM 1198514 其他相关书籍及文章周 次第 周第 周第 周第 周第 周应完成的内容查找参考书熟悉课题内容收集资料确定设计思路学习Matlab语言，理解和熟悉设计中使用的算法编制程序并上机进行调试，以及对软件进行优化实验结果整理及其总结课题总结撰写论文答辩指导教师：崔冬职称：讲师 2009年2月23日系级教学单位审批： 年 月 日燕山大学本科生毕业设计(论文)摘要自适应滤波算法的研究是当今自适应信号处理中最为活跃的研究课题之一。在信号处理领域中自适应信号处理占有很重要的地位。寻求收敛速度快，计算复杂度低，数值稳定性好的自适应滤波算法是研究人员不断努力追求的目标。本文主要对自适应算法进行了研究，其内容概括如下：本文首先总结了自适应滤波理论的发展过程，然后在论述自适应滤波基本原理的基础上，介绍了几种典型的自适应滤波算法及其应用，并对这些自适应滤波算法的性能特点进行比较，给出了算法性能的综合评价。对LMS算法，最小二乘自适应滤波算法进行了比较深入的理论分析和研究。介绍了几种自适应滤波算法的应用，自适应滤波器，自适应预测器，自适应均衡器和自适应噪声消除。关键词 自适应滤波；LMS算法；自适应信道均衡I燕山大学本科生毕业设计(论文)AbstractThe research of adaptive filtering algorithms is one of the most active tasks in the field of modem signal processing. Nowadays the subject of adaptive filtering constitutes an important part of the statistical signal processing. The goal that researchers are pursuing is to find an adaptive filtering algorithm that converges is fast and has low arithmetic complexity.This paper aims at the adaptive filtering algorithms and their applications. The main works can be summarized as follows:First of all, this paper analyses the develop direction of adaptive filter, based on the adaptive filtering principle ,several typical adaptive algorithms as well as their applications are introduced in this paper, and a comparison is made among these algorithms characters.The paper deeply analyzes the performance of the conventional LMS algorithm, RLS algorithm.This paper introduce several typical adaptive algorithms as well as their applications,such as adaptive filter, adaptive predictor, adaptive channel equalizer and noise canceller.Keywords Adaptive filtering；Least-mean-square algorithm；Adaptive channel equalizerII 目 录摘要IAbstractII第1章 绪论11.1 课题背景11.2 国内外目前的研究状况21.3 本文研究的内容31.4 论文的主要工作及章节安排4第2章 自适应滤波的原理及应用52.1 引言52.2 自适应滤波器的基本原理52.3 自适应IIR滤波器72.4 自适应滤波器的应用82.4.1 信号增强器92.4.2 系统辨识器92.4.3 信道均衡器92.4.4 信号预测器112.5 本章小结11第3章 自适应滤波算法123.1 引言123.2 自适应滤波算法的种类123.2.1 LMS自适应滤波算法123.2.2 RLS自适应滤波算法133.2.3 变换域自适应滤波算法143.2.4 仿射投影算法153.2.5 共轭梯度算法153.2.6 基于子带分解的自适应滤波算法153.2.7 基于OR分解的自适应滤波算法163.2.8 其他自适应滤波算法163.3 自适应滤波算法性能比较173.4 本章小结17第4章 LMS自适应滤波算法分析184.1 引言184.2 最小均方差(LMS)算法184.3 最小均方差(LMS)算法的性能分析204.4 本章小结22第5章 RLS自适应滤波算法分析235.1 引言235.2 递归最小二乘(RLS)算法235.3 递归最小二乘(RLS)算法的性能分析255.4 本章小结29结论30参考文献32致谢33附录134附录239附录344IV燕山大学本科毕业设计(论文)第1章 绪论1.1 课题背景伴随着移动通信事业的飞速发展，自适应滤波技术应用的范围也日益扩大。早在20世纪40年代，就对平稳随机信号建立了维纳滤波理论。根据有用信号和干扰噪声的统计特性(自相关函数或功率谱)，用线性最小均方误差估计准则设计的最佳滤波器，称为维纳滤波器。这种滤波器能最大程度地滤除干扰噪声，提取有用信号。但是，当输入信号的统计特性偏离设计条件，则它就不是最佳的了，这在实际应用中受到了限制。到60年代初，由于空间技术的发展，出现了卡尔曼滤波理论，即利用状态变量模型对非平稳、多输入多输出随机序列作最优估计。现在，卡尔曼滤波器己成功地应用到许多领域，它既可对平稳的和非平稳的随机信号作线性最佳滤波，也可作非线性滤波。实质上，维纳滤波器是卡尔曼滤波器的一个特例。在设计卡尔曼滤波器时，必须知道产生输入过程的系统的状态方程和测量方程，即要求对信号和噪声的统计特性有先验知识，但在实际中，往往难以预知这些统计特性，因此实现不了真正的最佳滤波。Widrow B等于1967年提出的自适应滤波理论，可使自适应滤波系统的参数自动地调整而达到最佳状况，而且在设计时，只需要很少的或根本不需要任何关于信号与噪声的先验统计知识。这种滤波器的实现差不多象维纳滤波器那样简单，而滤波性能几乎如卡尔曼滤波器一样好。因此，近十几年来，自适应滤波理论和方法得到了迅速发展。1自适应滤波是一种最佳滤波方法。它是在维纳滤波，Kalman滤波等线性滤波基础上发展起来的一种最佳滤波方法。由于它具有更强的适应性和更优的滤波性能。从而在工程实际中，尤其在信息处理技术中得到广泛的应用。自适应滤波的研究对象是具有不确定的系统或信息过程。“不确定”是指所研究的处理信息过程及其环境的数学模型不是完全确定的。其中包含一些未知因数和随机因数。任何一个实际的信息过程都具有不同程度的不确定性，这些不确定性有时表现在过程内部，有时表现在过程外部。从过程内部来讲，描述研究对象即信息动态过程的数学模型的结构和参数是我们事先不知道的。作为外部环境对信息过程的影响，可以等效地用扰动来表示，这些扰动通常是不可测的，它们可能是确定的，也可能是随机的。此外一些测量噪音也是以不同的途径影响信息过程。2这些扰动和噪声的统计特性常常是未知的。面对这些客观存在的各种不确定性，如何综合处理信息过程，并使某一些指定的性能指标达到最优或近似最优，这就是自适应滤波所要解决的问题。可见，自适应滤波算法的研究与实际状况有着密不可分的关系，具有重要的意义。1.2 国内外目前的研究状况最早人们根据生物能以各种有效的方式适应生存环境从而使生命力变强的特性引伸出自适应这个概念。自适应滤波器属于现代滤波器的范畴，它是40年代发展起来的自适应信号处理领域的一个重要应用。60年代，美国B.Windrow和Hoff首先提出了主要应用于随机信号处理的自适应滤波器算法，从而奠定自适应滤波器的发展。所谓自适应滤波器，即利用前一时刻已获得的滤波器参数等结果，自动地调节现时刻的滤波器参数，以适应信号与噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应信号处理主要是研究结构可变或可调整的系统，它可以通过自身与外界环境的接触来改善自身对信号处理的性能。通常这类系统是时变的非线性系统，可以自动适应信号传输的环境和要求，无须详细知道信号的结构和实际知识，无须精确设计处理系统本身。自适应系统的非线性特性主要是由系统对不同的信号环境实现自身参数的调整来确定的。自适应系统的时变特性主要是由其自适应响应或自适应学习过程来确定的，当自适应过程结束和系统不再进行时，有一类自适应系统可成为线性系统，并称为线性自适应系统，因为这类系统便于设计且易于数学处理，所以实际应用广泛。本文研究的自适应滤波器就是这类滤波器。自适应信号处理的应用领域包括通信、雷达、声纳、地震学、导航系统、生物医学和工业控制等。3自适应滤波器出现以后，发展很快。由于设计简单、性能最佳，自适应滤波器是目前数字滤波器领域是活跃的分支，也是数字滤波器研究的热点。主要自适应滤波器有：递推最小二乘(RLS)滤波器、最小均方差(LMS)滤波器、格型滤波器、无限冲激响应(IIR)滤波器。其中LMS滤波器和RLS滤波器具有稳定的自适应行为而且算法简单，收敛性能良好。将作为本文研究的重点。自适应滤波器是相对固定滤波器而言的，固定滤波器属于经典滤波器，它滤波的频率是固定的，自适应滤波器滤波的频率则是自动适应输入信号而变化的，所以其适用范围更广。在没有任何关于信号和噪声的先验知识的条件下，自适应滤波器利用前一时刻已获得的滤波器参数来自动调节现时刻的滤波器参数，以适应信号和噪声未知或随机变化的统计特性，从而实现最优滤波。自适应滤波器是以最小均方误差为准则，由自适应算法通过调整滤波器系数，以达到最优滤波的时变最佳滤波器。设计自适应滤波器时，可以不必预先知道信号与噪声的自相关函数，在滤波过程中，即使噪声与信号的自相关函数随时间缓慢变化，滤波器也能自动适应，自动调节到满足均方误差最小的要求。自适应滤波器主要由参数可调的数字滤波器和调整滤波器系数的自适应算法两部分构成自适应滤波器的一般结构。实际上，自适应滤波器是一种能够自动调整本身参数的特殊维纳滤波器，在设计时不需要实现知道关于输入信号和噪声的统计特性的知识，它能够在自己的工作过程中逐渐“了解”或估计出所需的统计特性，并以此为依据自动调整自己的参数，以达到最佳滤波效果。一旦输入信号的统计特性发生变化，它又能够跟踪这种变化，自动调整参数，使滤波器性能重新达到最佳。41.3 本文研究的内容研究目前已经有的自适应滤波算法(LMS自适应滤波算法，RLS自适应滤波算法，变换域自适应滤波算法等)进行研究和比较。LMS算法是由Widrow和Hoff提出的最小均方误差算法，由于其计算量小和易于实现等优点成为实践中被广泛应用的，也是我们研究的重点。另外RLS算法及其收敛等性能也是我们研究的内容。1.4 论文的主要工作及章节安排第 1 章 绪论主要介绍论文的研究背景和相关研究领域的一些内容，比如：自适应滤波的发展历程和国内外研究现状、课题研究的内容等等。第 2 章 自适应滤波器的原理及应用，对自适应滤波器的基本原理以及现代社会上自适应滤波器的四个主要应用内容进行说明。第 3 章 自适应滤波算法，本章提出了几种典型的自适应滤波算法，并对他们进行了简单的分析，每种方法都有它的不足之处，也有它特有的优点。第 4 章 LMS自适应算法分析，对最小均方误差(LMS)算法进行细致的研究分析。第 5 章 RLS自适应算法分析，对递归最小二乘法(RLS)算法进行细致的研究分析。最后结论，对本文所做的工作进行总结归纳，得出结论，并提出本文有待解决的一些问题和进一步的研究方向。57第2章 自适应滤波的原理及应用2.1 引言在对随机信号处理过程中经常用到的是维纳滤波器和卡尔曼滤波器两种滤波器。维纳(Weiner)滤波，它根据平稳随机信号的全部过去和当前的观察数据来估计信号的当前值，在最小均方差的条件下得到系统的传递函数或者冲击响应，它是一种最优线性滤波方法，参数是固定的，适用于平稳随机信号。卡尔曼滤波，它是依据当前时刻数据的观测值和前一时刻对该时刻的预测值进行递推数据处理的滤波算法。它自动调节本身的冲击响应特性，或者说，自动的调节数字滤波器的系数，以适应信号变化的特性，从而达到最优化滤波。它的参数是时变的，适用于非平稳随机信号。然而，只有对信号噪声的统计特性先验已知的情况下，这两种滤波器才能获得最优滤波。可是，在实际应用中，常常无法得到这些统计特性的先验知识；或者，统计特性是随时间变化的。因此，用维纳或卡尔曼滤波器实现不了最优滤波。在这种情况下，自适应能够提供卓越的滤波性能。52.2 自适应滤波器的基本原理所谓自适应滤波，就是利用前一时刻己获得的滤波器参数等结果，自动的调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节其自身传输特性以达到最优化的维纳滤波器。自适应滤波器不需要关于输入信号的先验知识，计算量小，特别适用于实时处理。由于无法预先知道信号和噪声的特性或者它们是随时间变化的，仅仅用FIR和IIR两种具有固定滤波系数的滤波器无法实现最优滤波。在这种情况下，必须设计自适应滤波器，以跟踪信号和噪声的变化。自适应滤波器是以最小均方误差为准则，由自适应算法通过调整滤波器系数，以达到最优滤波的时变最佳滤波器。设计自适应滤波器时，可以不必预先知道信号与噪声的自相关函数，在滤波过程中，即使噪声与信号的自相关函数随时间缓慢变化，滤波器也能自动适应，自动调节到满足均方误差最小的要求。自适应滤波器主要由参数可调的数字滤波器和调整滤波器系数的自适应算法两部分构成自适应滤波器。参数可调数字滤波器可以是FIR滤波器或IIR数字滤波器，也可以是格形滤波器6图2-1示出了自适应滤波器的一般结构。 未知系统自适应滤波图2-1 自适应滤波原理图图中，为输入信号，为输出信号，为参考信号或期望信号，则是和的误差信号。自适应滤波器的滤波器系数受误差信号控制，根据的值和自适应算法自动调整。一个自适应滤波器的完整规范是由如下三项所组成的：(1)应用 在过去十年中，自适应技术在更多的应用场合(比如回波消除、色散信道的均衡、系统辨识、信号增强、自适应波束形成、噪声消除一级控制领域等)取得了成功。研究自适应滤波器的各种应用本文会简单考虑一些应用例子。(2)自适应滤波器结构 自适应滤波器可以用许多不同结构来实现。结构的选取会营销到处理的计算复杂度(即每次迭代的算数操作数目)，还会对达到期望性能标准所需要的迭代次数产生影响。从根本上讲主要有两类自适应数字滤波器结构(这是根据其冲激响应的形式来划分的)，即有限长冲击响应(FIR)滤波器和无限长冲激响应(IIR)滤波器。FIR滤波器通常利用非递归结构来实现，而IIR滤波器则利用递归结构来实现。自适应FIR滤波器结构：应用最广泛的自适应FIR滤波器结构是横向滤波器，也成为抽头延迟线，它利用正规直接形式实现全零点传输函数，二不采用反馈环节。对于这种结构，输出信号是滤波器洗漱的线性组合，它产生具有惟一最优解的二次均方误差函数。为了得到相对于横向滤波器结构来说更好的性能(这些性能是用计算复杂度、收敛速度和有限字长特征等来描述的)自适应IIR滤波器结构：自适应IIR滤波器采用得最多的结构是标准直接形式结构，因为它的实现和分析都很简单。然而，采用递归自适应滤波会存在一些内在的问题(这些问题是由结构决定的，比如要求对极点的稳定性进行监视)，而且收敛速度很慢。为了克服这些问题，人们提出了不同的结构形式。(3)算法 其中算法是为了使某个预先确定的准则达到最小化，而自适应地调整滤波器系数的方法。算法是通过定义搜索方法(或者最小化算法)、目标函数和无偿信号的特性来确定的。算法的选择据定了整个自适应过程的几个重要因素，比如优解的存在性、有偏最优解和计算复杂度等。72.3 自适应IIR滤波器自适应滤波器出现以后，发展很快。由于设计简单、性能最佳，自适应滤波器是目前数字滤波器领域是活跃的分支，也是数字滤波器研究的热点。主要自适应滤波器有：递推最小二乘(RLS)滤波器、最小均方差(LMS)滤波器、格型滤波器、无限冲激响应(IIR)滤波器。其中RLS滤波器具有稳定的自适应行为而且算法简单，收敛性能良好。实际情况中，由于信号和噪声的统计特性常常未知或无法获知，这就为自适应滤波器提供广阔的应用空间、系统辨识、噪声对消、自适应谱线增强、通信信道的自适应均衡、线性预测、自适应天线阵列等是自适应滤波器的主要应用领域。自适应有限冲激响应(FIR)滤波器由于其收敛性和稳定性十分简单，现已有相当完善的自适应算法，在信号处理领域，获得了广泛应用。但由于它是非递归结构，冲激响应为有限长，当用于较高精度匹配的实际物理系统时，所需阶次可能相当大，因而导致结构复杂，运算量大。自适应IIR滤波器是一个具有无限冲激响应的递归滤波器，它的一个最重要的优点是，与相同系数个数的自适应FIR滤波器相比有更好的性能，这是因为输出的反馈使有限数量的系数产生了无限冲激响应，使得零点与极点模型滤波器的输出比起仅有零点的滤波器的输出能更有效地逼近期望响应信号。例如，一个有足够高阶数的自适应IIR滤波器可以精确地逼近一未知的零点与极点系数阔，而一个自适应FIR滤波器只能近似逼近这一系统。反之，要达到相同性能，IIR滤波器所需要的系数个数一般比FIR滤波器少得多，正是由于这一潜在的计算量的优势，近十年来，自适应IIR滤波器的研究一直非常活跃，出现了一批比较成熟的算法。可以预测，在许多应用中，自适应IIR滤波器将取代正被广泛使用的自适应FIR滤波器。8应该指出的是，与自适应FIR滤波器相比，自适应IIR滤波器在减少计算量的同时也付出了一定的代价。由于反馈的存在，算法的收敛时间加大，其收敛性和稳定性分析都十分复杂，这是需要注意继续研究的问题。目前，在相同滤波性能条件下，自适应IIR滤波器的收敛性己可优于自适应FIR滤波器。根据误差的不同表示，自适应IIR滤波器又可分为两种形式：方程误差(Equation-Error)形式和输出误差(Output-Error)形式。在很大程度上方程误差自适应IIR滤波器在很像一个自适应FIR滤波器，他们之间的主要区别在与方程误差自适应IIR滤波器就是一个零点一极点模型，而自适应FIR滤波器是一个严格全零点模型。而输出误差形式的自适应IIR滤波器的算法比方程误差IIR滤波器的算法要复杂的多。输出误差方法中的滤波器输出仅由观测输入来产生期望响应。2.4 自适应滤波器的应用近十几年来，自适应滤波理论和方法得到了迅速的发展，究其原因是因为自适应滤波器相比于其他一般的滤波器在滤波性能、设计实现的难易程度、对外部环境的复杂程度的适应能力和对系统先验统计知识的依赖程度等方面都显现出强大的优势。自适应滤波器具有很强的自学习、自跟踪能力和算法的简单易实现性，它在噪化信号的检测增强，噪声干扰的抵消，通信系统的自适应均衡，图象的自适应增强复原以及未知系统的自适应参数辩识等方面都有广泛的应用。在本节中，我们将讨论输入信号和期望信号的一些可能选择，并讨论这些选择是如何与应用联系在一起的。2.4.1 信号增强器自适应滤波器的一个简单应用就是信号增强器，它被用来检测或增强淹没在宽度噪声中的窄带随机信号。对于信号增强的情况，信号受噪声的污染，而且与噪声相关的信号是可以得到的(即可测量的)。如果作为自适应滤波器的输入，而将受到噪声污染的信号作为期望信号，则当滤波收敛以后，其输出误差就是信号的增强形式。图2-2说明了一种信号增强的典型配置。9自适应滤波器+图2-2 信号增强。其中和是彼此相关的噪声函数2.4.2 系统辨识器 在系统辨识应用中，期望信号是未知系统受某个宽带信号激励时产生的输出，在大多数情况下，输入是白噪声信号。宽带信号同时也被用来作为图2-3所示的自适应滤波器的输入。当输出MSE达到最小时，自适应滤波器就代表了未知系统的模型。2.4.3 信道均衡器 信道均衡器的作用是在信道通带内形成一个信道传输函数的逆，而在通带之外它的增益则很小或者为零。因而，由信道和均衡器级联组成的系统在通带内有基本均匀的振幅特性，而带外基本为零，相位响应在带内是频率的线性函数。如果条件满足，联合的冲激响应就是辛格函数，故符号间干扰可被消除。自适应调整也解决了信道本身未知、时变的特性所带来的困难。在信道均衡应用中，将发送的受信道失真影响的原始信号作为自适应滤波器的输入信号，而期望信号是原始信号的时延形式，如图2-4所示。通常情况下，输入信号的时延形式在接收端是可以得到的，采用形式是标准的训练信号。当MSE达到最小时，就表明自适应滤波器代表了信道的逆模型(均衡器)。未知系统自适应滤波器自适应滤波器信道图2-3 系统辨识器图2-4 信道均衡器2.4.4 信号预测器最后，对于预测情形，期望信号是自适应滤波器输入信号的前向(有时可能是后向)形式，如图2-5所示。当滤波器收敛以后，自适应滤波器就代表了输入信号的模型，而且可以用来作为输入信号的预测器模型。自适应滤波器图2-5 信号预测器2.5 本章小结自适应滤波算法是信号处理的重要基础，近十几年来，自适应滤波理论和方法得到了迅速的发展，究其原因是因为自适应滤波器相比于其他一般的滤波器在滤波性能、设计实现的难易程度、对外部环境的复杂程度的适应能力和对系统先验统计知识的依赖程度等方面都显现出强大的优势。自适应滤波器具有很强的自学习、自跟踪能力和算法的简单易实现性，它在噪化信号的检测增强，噪声干扰的抵消，通信系统的自适应均衡，图像的自适应增强复原以及未知系统的自适应参数辩识等方面都有广泛的应用。第3章 自适应滤波算法3.1 引言自适应滤波器是近30年来发展起来的关于信号处理方法和技术的滤波器，其设计方法对滤波器的性能影响很大。维纳滤波器等滤波器设计方法都是建立在信号特征先验知识基础上的。然而，在实际应用中常常无法得到信号特征先验知识，在这种情况下，自适应滤波器能够得到较好的滤波性能。当输入信号的统计特性未知，或者输入信号的统计特性变化时，自适应滤波器能够自动地迭代调节滤波器参数，以满足某种准则的要求，从而实现最优滤波。因此，自适应滤波器具有“自我调节”和“跟踪”能力。在根据自适应滤波算法优化准则的不同，自适应滤波算法可以分为两类最基本的算法：最小均方误差(LMS)算法和递推最小二乘(RLS)算法。10基于最小均方误差准则，LMS算法使滤波器的输出信号与期望输出信号之间的均方误差最小。基于最小二乘准则，RLS算法决定自适应滤波器的权系数向量使估计误差的加权平方和2最小。其中为遗忘因子，且。由此两种准则衍生出许多不同的自适应滤波算法。3.2 自适应滤波算法的种类3.2.1 LMS自适应滤波算法由Widrow和Hoff提出的最小均方误差(LMS)算法，因其具有计算量小、易于实现等点而在践中被广泛用。基于最速下降法的最小均方误差(LMS)算法的迭代公式如下 XT (3-1) (3-2)其中：是收敛因子，为自适应滤波器在时刻的权矢量，T为时刻的输入信号矢量，是自适应滤波器的长度。为期望输出值，为干扰信号，是误差信号。是步长因子。LMS算法收敛的条件为：，是输入信号自相关矩阵的最大特征值。初始收敛速度、时变系统跟踪能力及稳态失调是衡量自适应滤波算法优劣的三个最重要的技术指标。由于主输入端不可避免地存在干扰噪声，自适应滤波算法将产生参数失调噪声。干扰噪声越大，则引起的失调噪声就越大。减小步长因子可减小自适应滤波算法的稳态失调噪声，提高算法的收敛精度。然而步长因子的减小将降低算法的收敛速度和跟踪速度。因此，固定步长的自适应滤波算法在收敛速度、时变系统跟踪速度与收敛精度方面对算法调整步长因子的要求是相互矛盾的。为了克服这一矛盾，人们提出了许多变步长自适应滤波算法。R.D.Githin曾提出了一种变步长自适应滤波算法。11其步长因子随迭代次数的增加而逐渐减小。Yasukawa提出了使步长因子正比于误差信号的大小。而Githin等提出了一种时间平均估值梯度的自适应滤波算法。3.2.2 RLS自适应滤波算法 LMS算法的优点是结构简单，鲁棒性强，其缺点是收敛速度很慢。基于最小二乘准则，RLS算法决定自适应滤波器的权系数向量使估计误差的加权平方和最小。RLS算法对输入信号的自相关矩阵逆进行递推估计更新，收敛速度快，其收敛性能与输入信号的频谱特性无关。但是，RLS算法的计算复杂度很高，所需的存储量极大，不利于适时实现；倘若被估计的自相关矩阵的逆失去了正定特性，这还将引起算法发散。为了减小RIS算法的计算复杂度，并保留RLS算法收敛速度快的特点，产生了许多改进的RLS算法。如快速RLS(Fast RLS)算法，快速递推最小二乘格型(Fast Recursive Least Squares Lattice)算法等。这些算法的计算复杂度低于RLS算法，但它们都存在数值稳定性问题。改进的RLS算法着重于用格型滤波器的RLS算法，快速RLS算法就是在RLS格型算法基础上得到的。格型滤波器与直接形式的FIR滤波器可以通过滤波器系数转换相互实现。格型参数称为反射系数，直接形式的FIR滤波器长度是固定的，一旦长度改变则会导致一组新的滤波器系数，而新的滤波器系数与旧的滤波器系数是完全不同的。而格型滤波器是次序递推的，因此，它的级数的改变并不影响其它级的反射系数，这是格型滤波器的一大优点。RLS格型滤波器算法就是将最小二乘准则用于求解最佳前向预测器系数、最佳后向预测器系数，进行时间更新、阶次更新及联合过程估计。格型RLS算法的收敛速度基本上与常规RLS算法的收敛速度相同，因为二者都是在最小二乘的意义下求最佳。但格型RLS算法的计算复杂度高于常规RLS算法。格型RLS算法的数字精度比常规RLS算法的精度高，对舍入误差的不敏感性甚至优于LMS算法。3.2.3 变换域自适应滤波算法对于强相关的信号，LMS算法的收敛性能降低，这是由于LMS算法的收敛性能依赖于输入信号自相关矩阵的特征值发散程度。输入信号自相关矩阵的特征值发散程度越小，LMS算法的收敛性能越好。经过研究发现，对输入信号作某些正交变换后，输入信号自相关矩阵的特征值发散程度会变小。于是，Dentino等1979年首先提出了变换域自适应滤波的概念，其基本思想是把时域信号转变为变换域信号，在变换域中采用自适应算法。Narayan等对变换域自适应滤波算法作了全面的总结。12变换域自适应滤波算法的一般步是：首先选择正交变换，把时域信号转变为变换域信号。其次变换后的信号用其能量的平方根归一化。最后采用某一自适应算法进行滤波。设输入信号为：T经过变换后为：，是正交变换矩阵，常用的正交变化有离散余弦变化、离散傅里叶变换、离散Hartly变换及Walsh-Hadamard变换等。自适应滤波器的权系数定义为：；滤波器的输出信号为：T；误差信号为：；权系数向量的迭代方程为： (3-3) (3-4) (3-5)若令，则权系数向量的迭代方程为： (3-6)此外，小波变换也被用于变换域自适应滤波。在小波变换自适应滤波中，通常采用两种形式：一是小波子带自适应滤波，它相当于把输入信号和期望响应信号在多分辨率空间进行自适应滤波后，再变换为时域输出信号：另一种是小波变换域自适应滤波，它是把输入信号用小波的多分辨率空间的信号来表示，作为自适应滤波器的输入，而期望响应信号并不作小波变换。3.2.4 仿射投影算法仿射投影算法最早由K-Ozeki和T.Umedate提出，它是归一化最小均方误差(NLMS)算法的推广。仿射投影算法的性能介于LMS算法和RLS算法之间，其计算复杂度比RLS算法低。归一化最小均方误差(NLMS)算法是LMS算法的改进算法，它可以看作是一种变步长因子的LMS算法，其收敛性能对输入信号的能量变化不敏感。而仿射投影算法的计算复杂度比NLMS算法高很多。Gay等提出的快速仿射投影算法大大降低了仿射投影算法的计算复杂度。在快速仿射投影算法中，采用滑动窗快速横向滤波器算法计算预滤波向量，避免了矩阵求逆运算。快速仿射投影算法的计算复杂度虽然降低了，但其内嵌的滑动窗快速横向滤波器算法的实现相对复杂，并且存在数值稳定性问题。为解决快速仿射投影算法的数值稳定性问题，Douglas等提出了正交变换的快速仿射投影算法的近似算法，避免了采用复杂的滑动窗快速横向滤波器算法，改善了快速仿射投影算法在有限精度运算时的数值稳定性。3.2.5 共轭梯度算法虽然RLS算法收敛速度快，但其计算复杂度很高，因为它需要估计逆矩阵。假如被估计的逆矩阵失去正定性，就会引起算法发散；并且算法实现所需的存储量极大，不利于实现。一些快速RLS算法虽然降低了RLS算法的计算复杂度，但都存在数值稳定性问题。共扼梯度自适应滤波算法不含有RLS算法中的矩阵运算，也没有某些快速RLS算法存在的数值稳定性问题，它保留了RLS算法收敛速度快的特点。Alan等提供和分析了共扼梯度法在自适应滤波中的两种实现方法，这两种方法对原始的共轭梯度法作了一些修改，并且对这两种算法的收敛性能和失调作了比较，建立了算法的稳定范围。133.2.6 基于子带分解的自适应滤波算法基于子带分解自适应滤波的基本原理是将输入信号与参考信号经过分解滤波器组抽取进行子带分解，对信号按频带划分，然后在各个子带上分别进行自适应滤波，再将子带信号内插后通过合成滤波器组得到最后的合成信号。其中，由于对信号进行了抽取，使完成自适应滤波所需的计算量得以减小；而在子带上进行自适应滤波使收敛性能又有所提高。在信号的子带分解中，存在着由于分解滤波器组的非理想特性引起的子带信号混叠的问题。为了避免混叠对自适应滤波的影响，Gilloire采用加入子带间滤波的方法，而Peraglia等采取在抽取时过采样的方法。一般来说，信号的子带分解处理有如下优点：采样间隔增大引起自适应涟波算法及应用研究滤波器抽头数目减少，减小了计算复杂性：采样间隔扩大后，输入信号本身的自相关也减弱，可以提高算法的收敛性能。为了提高信号子带分解自适应滤波器的收敛速度，Deleon等认为，经过子带分解后，抽取引起部分信号的浪费，采用Multirate Reoeating Method可以利用那些被浪费的信号成分，通过增加单位时间内对权值的更新次数，获得更快的收敛速度。3.2.7 基于OR分解的自适应滤波算法基于OR分解的递推最小二乘自适应滤波算法首先采用Givens旋转变换把加权输入信号矩阵变换为上三角矩阵，然后再利用回代求解三角矩阵方程，计算自适应滤波器权系数向量。OR分解类自适应滤波算法有以下三种：QR-RLS算法；Extended QR-RLS算法；Inverse OR-RLS算法。基于OR分解的自适应滤波算法对输入信号矩阵直接进行更新，因此在有限精度运算条件下，具有良好的数值稳定性。各种OR分解的快速自适应滤波算法可以直接计算估计误差，并不需要更新权系数向量。而基于逆OR分解的递推最小二乘自适应滤波算法可以直接更新权系数向量，并且避免了复杂的回代运算。3.2.8 其他自适应滤波算法除了上面介绍的自适应滤波算法之外，还有一些其它的算法，如：系数部分更新自适应滤波算法、LMF(RLF)算法、Leaky-LMS算法等。在一些自适应滤波应用中，即使简单的LMS(NLMS)算法实现起来也显复杂，为此，系数部分更新自适应滤波算法被提出，其主要思想是在自适应滤波算法的每次迭代中，仅仅自适应滤波器的部分系数被更新，这使得整个自适应滤波算法的计算量有所降低。14这类算法主要有：Periodic LMS算法，M-Max NLMS算法和Max NLMS算法。3.3 自适应滤波算法性能比较我们对各种类型的自适应滤波算法进行了简单的总结分析。LMS自适应滤波算法虽然解决了收敛速度、时变系统跟踪速度与收敛精度方面对算法调整步长因子的矛盾，但变步长中的其它参数的选取还需实验来确定，应用起来不太方便。对RLS算法的各种改进，其目的均是保留RLS算法收敛速度快的特点而降低其计算复杂性。变换域类算法亦是想通过作某些正交变换使输入信号自相关矩阵的特征值发散程度变小，提高收敛速度。而仿射投影算法的性能介于LMS算法和RLS算法之间。共扼梯度自适应滤波算法的提出是为了降低RLS类算法的复杂性和克服某些快速RLS算法存在的数值稳定性问题。信号的子带分解能降低输入信号的自相关矩阵的特征值发散程度，从而加快自适应滤波算法的收敛速度，同时便于并行处理，带来了一定的灵活性。矩阵的QR分解具有良好的数值稳定性。3.4 本章小结本章主要对自适应滤波算法进行了简单的介绍，其中介绍了八种现代应用的自适应滤波算法。LMS算法是最基本的自适应滤波算法。本章并对这八种自适应滤波算法收敛速度，计算复杂性，数值稳定性的影响算法性能的元素进行了较为简单的比较。第4章 LMS自适应滤波算法分析4.1 引言LMS算法是1960年由Widrow和Hoff提出的最小均方误差(LMS)算法，LMS算法是基于估计梯度的最速下降算法的，由于采用粗糙的梯度估计值得到的，从而其算法性能欠佳，应用范围受限，但是因为其具有计算量小、易于实现等优点而在实践中被广泛采用。典型的应用领域有系统识别、信号处理和自适应控制。LMS算法的基本原理是基于最速下降法，即沿着权值的梯度估值的负方向进行搜索，达到权值最优，实现均方误差最小意义下的自适应滤波。初始收敛速度、时变系统跟踪能力及稳态失调是衡量自适应滤波算法优劣的三个重要的技术指标。由于主输入端不可避免地存在干扰噪声，自适应滤波算法将产生参数失调噪声。干扰噪声越大，则引起的失调噪声就越大。减小步长因子产可降低自适应滤波算法的稳态失调，提高算法的收敛精度。154.2 最小均方差(LMS)算法LMS算法的判据是最小均方误差，即理想信号与滤波器输出之差的平方值的期望值最小，并且根据这个判据来修改权系数由此产生的算法称为最小均方算法(LMS)。绝大多数对自适应滤波器的研究是基于由Widrow提出的LMS算法。这是因为LMS算法的设计和实现都比较简单，在很多应用场合都非常适用。16令阶FIR滤波器的抽头系数为，滤波器的输入和输出分别为和，则FIR横向滤波器方程可表示为：(4-1)令代表“所期望的响应”，并定义误差信号： (4-2) 采用向量形式表示权系数及输入和，可以将误差信号写作 (4-3)误差的平方为： (4-4)上式两边取数学期望后，得均方误差： (4-5)定义互相关函数向量： (4-6)和自相关函数矩阵： (4-7)所以均方误差可表述为： (4-8)这表明均方误差是权系数向量的二次函数，它是一个凹的抛物形曲面，是具有唯一最小值的函数。调节权系数使均方误差为最小，相当于沿抛物形曲面下降找最小值。可以用梯度法来求该最小值。将式(4-8)对权系数求导数，得到均方误差函数的梯度： (4-9)令=0，即可以求出最佳权系数向量： (4-10)将代入式(4-8)，得最小均方误差： (4-11)利用式(4-11)求最佳权系数向量的精确解需要知道和的先验统计知识，而且还需要进行矩阵求逆等运算。Widrow和Hoff提出了一种在这些先验统计知识未知时求的近似值的方法，习惯上称之为Widrow-Hoff LMS算法。这种算法的根据是最优化方法中的最速下降法。根据这个最速下降法，“下一时刻” 权系数向量应该等于“现时刻”权系数向量加上一个负均方误差梯度的比例项，即 (4-12)式中的是一个控制收敛速度与稳定性的常数，称之为收敛因子。不难看出，LMS算法有两个关键：梯度的计算以及收敛因子的选择。精确计算梯度是十分困难的。一种粗略的但是却十分有效的计算的近似方法是：直接取作为均方误差的估计值，即 (4-13)式中的为： (4-14)将(4-14)代入式(4-13)中，得到梯度估值： (4-15)于是，Widrow-Hoff LMS算法最终为： (4-16)4.3 最小均方差(LMS)算法的性能分析LMS算法的性能准则是采用瞬时平方误差性能函数|e(k)|2代替均方误差性能函数E|e(k)|2，其实质是以当前输出误差、当前参考信号和当前权系数求得下个时刻的权系数。其输出信号、输出误差及权系数的计算公式为：17 (4-17)为迭代次数，M为滤波器的阶数。表示第时刻的输入信号矢量式中，式中，表示参考信号的信号矢量： (4-18)、分别表示第时刻的输出信号与输出误差，W(k)表示时刻权系数矢量： (4-19)表示LMS算法步长收敛因子。自适应滤波器收敛的条件是： (4-20)其中是输入信号的自相关矩阵R的最大特征值。的选取必须在收敛速度和失调之间取得较好的折中，既要具有较快的收敛速度,又要使稳态误差最小。它控制了算法稳定性和自适应速度，如果很小，算法的自适应速度会很慢；如果很大，算法会变得不稳定。由于LMS算法结构简单、计算量小、稳定性好，因此被广泛应用于系统辨识、信号增强、自适应波束形成、噪声消除以及控制领域等。在最小均方差(LMS)算法中，步长因子的取值对算法的性能有着非常重要的影响，这些影响包括：算法的稳定性、算法的收敛速度、算法的扰动和失调。以下我们针对在这三方面的影响分别进行讨论。为减小失调，需要设置较小的步长因子，这会使算法的收敛速度降低，这构成了一对矛盾。因此在考虑算法的总体性能时，必须在这两个性能之间加以折中。从收敛速度的角度考虑，步长因子应该尽可能大，但较大的取值却会加重算法的失调。LMS算法采用瞬时的采样值对梯度进行估计，由于噪声的影响，总会是会伴随着估计的误差，这将对算法带来直接的影响。这些影响主要表现为算法的失调，而失调的严重程度，则和的取值存在直接关系。失调是指由于梯度估计偏差的存在，在算法收敛后，均方误差并不无穷趋近于最小值，而是呈现出在最小值附近随机的波动特性，而权值亦不无穷趋近于最优权值，而是在最优权值附近呈现随机的波动。关于LMS算法的收敛速度，将讨论两点：第一，对一个特定的信号环境，收敛速度和步长因子有何关系。第二，信号环境本身的特性，对收敛速度有何影响。从收敛速度的角度考虑，步长因子应该尽可能大，再看信号环境，即的特性对算法收敛性能的影响如果当特征值的分布范围较大，即最大特征值和最小特征值之比较大时，公比的取值幅度也将比较大，算法的总的收敛速度将会变得比较慢。传统的LMS算法确实结构简单、计算量小且稳定性好，因此被广泛地应用于自适应控制、雷达、系统辨识及信号处理等领域。但是固定步长的LMS自适应算法在收敛速率、跟踪速率及权失调噪声之间的要求是相互矛盾的，为了克服这一缺点，人们研究出了各种各样的变步长LMS的改进算法。尽管各种改进算法的原理不同，但变步长LMS自适应算法基本上遵循如下调整原则：即在初始收敛阶段或未知系统参数发生变化时，步长应比较大，以便有较快的收敛速度或对时变系统的跟踪速度；而在算法收敛后，不管主输人端干扰信号有多大，都应保持很小的调整步长以达到很小的稳态失调噪声。4.4 本章小结本章详细介绍了LMS算法，并对与其性能相关的各个方面进行了讨论。尽管这里远远没有给出完整的分析，但却讨论了RLS算法的主要方面，比如收敛特性和跟踪能力等。犹豫传统的LMS算法有很多不足的，所以人们通过改进，研究出很多种变步长LMS算法。这些变步长LMS算法的收敛速度，事变系统跟踪能力及文坛失调三方面能力得到优化。第5章 RLS自适应滤波算法分析5.1 引言最小二乘(LS，Least-square)算法旨在期望信号与模型滤波器输出之差的平方和达到最小。当每次迭代中接受到输入好的新采样值时，可以采用递归形式求解最小二乘问题，得到递归最小二乘(RLS，recursive least-square)算法。RLS算法能实现快速收敛，即使是在输入信号相关矩阵的特征值扩展比较大的情况下。当工作与变换环境中时，这类算法具有极好的性能，但其实现都以增加计算复杂度和稳定问题为代价。5.2 递归最小二乘(RLS)算法这一节主要介绍递归最小二乘法(RLS)算法是一种快速收敛的算法，该算法判决依据是直接处理接受数据，使其二次性能指数函数最小，而前面所述的LMS算法则是使平方误差的期望值最小。设计出的自适应滤波器，通过调节滤波器参数，使得基于过去的观测样本而得到的观测信号在某种意义上最逼近原信号。此时，一方面，恢复误差： (5-1)另一方面，可以将视作为的预测。因此可定义预测误差： (5-2)设计自适应滤波器的目的自然是希望使恢复误差最小。但是由于真实信号未知，故是不可观测的或无法计算的。与此相反，预测误差却是可观测的，它与恢复误差的关系为： (5-3)而噪声序列是独立的，因此不可观测的恢复误差的最小化等价于可观测的预测误差的最小化。具体的，考虑到 (5-4)的最小化。式中，为遗忘因子，通常取。由 (5-5)可得到等价关系式： (5-6)若令： (5-7) (5-8)则式(5-6)可简写为： (5-9)假定是非奇异的，