第2章-维纳滤波和卡尔曼滤波课件

第二章 维纳滤波和卡尔曼滤波 2.1 2.1 引言引言 2.2 2.2 维纳维纳(Weiner)(Weiner)滤波器的离散时域解滤波器的离散时域解 2.3 2.3 离散维纳滤波器的离散维纳滤波器的z z域解域解 2.4 2.4 维纳预测维纳预测 2.5 2.5 卡尔曼卡尔曼(Kalman)(Kalman)滤波滤波 5/19/2024115:38:36第二章 维纳滤波和卡尔曼滤波 2.1 引言 8/3/20232.1 引引 言言 2.1 引引 言言 随随机机信信号号处处理理讨讨论论的的滤滤波波问问题题：就是一个估计问题，或者说是从噪声中提取信号噪声中提取信号、抑制噪声抑制噪声。本章介绍维纳(Wiener)滤波器和卡尔曼(Kalman)滤波器。通常可以将观测数据x(n)表示为信号s(n)与噪声v(n)之和。x(n)=s(n)+v(n)（2.1.1）5/19/2024215:38:362.1 引 言 2.1 引 言x(n)=s(n)+v(滤滤波波的的目目的的：利用滤波系统h(n)取出有用信号s(n)，s(n)又称为期望信号期望信号，h(n)就是估计器。主主要要问问题题：设计滤波器h(n)，使滤波器输出y(n)是s(n)的一个最佳估计。采用不同的最佳准则，估计结果可能不同。这样的滤波，通信中称为波形估计波形估计；自动控制中，称为动态估计动态估计。2.1 引引 言言 5/19/2024315:38:36滤波的目的：利用滤波系统h(n)取出有用信号s(n)，s(三种估计形式三种估计形式：(1)预测问题：已知x(n-1),x(n-2),x(n-m)，估计s(n+N),N0(2)过滤或滤波：已知x(n-1),x(n-2),x(n-m)，估计s(n)(3)平滑或内插:已知x(n-1),x(n-2),x(n-m)，估计s(n-N),N1维维纳纳滤滤波波WF与与卡卡尔尔曼曼滤滤波波KF：属于过过滤滤或或预预测测问问题题，采用最小均方误差准则(MMSE)为最佳准则。MMSE:MinimumMeanSquareError。2.1 引引 言言 5/19/2024415:38:36三种估计形式：2.1 引 言 8/3/2023415:38维纳滤波器与卡尔曼滤波器比较：维纳滤波器与卡尔曼滤波器比较：名称名称已知数据已知数据需要计算需要计算计算结果计算结果适用适用条件条件求解方法求解方法提出提出年代年代维纳滤波器x(n-1),x(n-2),.相关函数H(z)或h(n)平稳解析形式40年代卡尔曼滤波器前一个估计值和最近的观察状态方程量测方程状态变量估计值平稳或非平稳递推算法60年代2.1 引引 言言 5/19/2024515:38:36维纳滤波器与卡尔曼滤波器比较：名称已知数据需要计算计算结果适2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法考虑到系统的因果性，即h(n)=0，nhj，设hj=aj+jbj为复数，考虑复变量求导问题。定义求导符号：（2.2.）维纳滤波的极小值问题变为：（2.2.8）2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/2024715:38:36下面求使均方误差最小的滤波器h(n)。定义求导符号：（2.展开(2.2.8)式:：(2.2.9)分别计算(2.2.9）每一项：2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/2024815:38:36展开(2.2.8)式:：(2.2.9)分别计算(2.2.9）整理上面结果，得：（2.2.14)因此，使均方误差最小的充要条件描述如下：Ex*(n-j)e(n)=0 j=0,1,2,（2.2.15）结结论论：均均方方误误差差达达到到最最小小值值的的充充要要条条件件是是误误差差信信号号与与任任一一进进入入估计器的输入信号正交估计器的输入信号正交。这就是著名的正交性原理正交性原理。正正交交性性原原理理的的重重要要意意义义：它提供了一个简便的数学方法，来判断线性滤波系统是否工作于最佳状态。2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/2024915:38:36整理上面结果，得：（2.2.14)因此，使均方误差最小的充假定滤波器工作于最佳状态，相应滤波器输出yopt(n)与估计误差为eopt(n)，则有(2.2.17)最佳状态下的信号关系最佳状态下的信号关系(向量和几何表示向量和几何表示)：2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 上式假定输入和期望信号为0均值。eopt(n)d(n)yopt(n)5/19/20241015:38:36 假定滤波器工作于最佳状态，相应滤波器输出yopt2.2.2 维纳维纳霍夫霍夫(Wiener-Hopf)方程方程重写正交性原理公式(2.2.15):对上式取共轭，利用 ryx(-k)=r*xy(k)可得维纳霍夫方程维纳霍夫方程:(2.2.20)2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241115:38:362.2.2 维纳霍夫(Wiener-Hopf)方程对上式取特特殊殊情情况况下下的的维维纳纳霍霍夫夫方方程程：h(n)是长度为M的因果序列，或h(n)是长度为M的FIR滤波器。(2.2.21)上式取M个k值，得M个方程：k=0：h0rxx(0)+h1rxx(1)+hM1rxx(M-1)=rxd(0)k=1：h0rxx(1)+h2rxx(0)+hM1rxx(M-2)=rxd(1)k=M-1：h0rxx(M-1)+h1rxx(M-2)+hM1rxx(0)=rxd(M-1)2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241215:38:36特殊情况下的维纳霍夫方程：h(n)是长度为M的因果序列，或维纳霍夫方程维纳霍夫方程(Wiener-Hopf)的矩阵形式：的矩阵形式：(2.2.23)维纳滤波器的最佳解：维纳滤波器的最佳解：(2.2.24)存存在在问问题题：求维纳滤波器的时域因果解，需要矩阵求逆，计算量大(M3)，不是一个有效的方法。2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241315:38:36维纳霍夫方程(Wiener-Hopf)的矩阵形式：(clc;closeall;clearall;%信号产生%观测点数N=2000;n=linspace(0,1200,N);%信号d=2*sin(pi*n/128+pi/3);%噪声（方差1.25）v=sqrt(1.25)*randn(N,1);%观测样本值x=d+v;2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241415:38:36clc;close all;clear all;2.2 维纳%设计维纳滤波器tic%观测信号自相关C,lags=xcorr(x,N,biased);%自相关矩阵R_xx，N阶滤波器R_xx=toeplitz(C(N+1:end);%x,d互相关函数R_xdR_xd=xcorr(d,x,N,biased);R_xd=R_xd(N+1:end);%维纳-霍夫方程Wopt=inv(R_xx)*R_xd;2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241515:38:36%2.2%滤波y=filter(Wopt,1,x);%误差En=d-y;%结果figure,plot(n,d,r:,n,y,b-);legend(维纳滤波信号真值,维纳滤波估计值);title(期望信号与滤波结果对比);xlabel(观测点数);ylabel(信号幅度);figure,plot(n,En);title(维纳滤波误差曲线);xlabel(观测点数);ylabel(误差幅度);toc2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241615:38:36%滤波2.2 维纳滤波器的离散形式时域解 8/3/2022.2.3 估计误差的均方值估计误差的均方值假定所研究的信号都是零均值的，滤波器为FIR型，长度等于M，可以得到(2.2.25)2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241715:38:362.2.3 估计误差的均方值(2.2.25)2.2 维纳进一步化简得到说说明明：均方误差与h(n)是一个二次函数关系，因此存在极小值。当滤波器工作于最佳状态时，均方误差取得最小值。2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241815:38:36进一步化简得到 说明：均方误差与h(n)是一个二次函数关系，例2.2.1设y(n)=x(n)+v2(n)，v2(n)是一白噪声，方差22=0.1。期望信号x1(n)的信号模型如图2.2.2（a）所示，其中白噪声v1(n)的方差21=0.27，且b0=0.8458。x(n)的信号模型如图2.2.2（b）所示，b1=-0.9458。假定v1(n)与v2(n)、x1(n)与y(n)不相关，并都是实信号。设计一个维纳滤波器，得到该信号的最佳估计，要求滤波器是一长度为2的FIR滤波器。2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20241915:38:36例2.2.1 设y(n)=x(n)+v2(n)，v2(n)是图2.2.2输入信号与观测数据的模型2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242015:38:36图 2.2.2 输入信号与观测数据的模型 2.2 维纳滤波器解解这个问题属于直接应用维纳-霍夫方程的典型问题，其关键在于求出观测信号的自相关函数和观测信号与期望信号的互相关函数。图2.2.3维纳滤波器的框图2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242115:38:36 解 这个问题属于直接应用维纳-霍夫方程的典型根据题意，画出维纳滤波器的框图，如图2.2.3所示。用H1(z)和H2(z)分别表示x1(n)和x(n)的信号模型，输入信号x(n)可以看作是v1(n)通过H1(z)和H(z)级联后的输出，H1(z)和H(z)级联后的等效系统用H(z)表示，输出信号y(n)就等于x(n)和v2(n)之和。因此求输出信号的自相关函数矩阵Ryy和输出信号与期望信号的互相关矩阵Ryd是解决问题的关键。相关函数矩阵由相关函数值组成，已知x(n)与v2(n)不相关，那么2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242215:38:36根据题意，画出维纳滤波器的框图，如图2.2.3所示。用H1(1)求出期望信号的方差。根据图2.2.2(a)，期望信号的时间序列模型所对应的差分方程为x1(n)=v1(n)-b0 x1(n-1)这里，b0=0.8458,由于x1(n)的均值为零，其方差与自相关函数在零点的值相等。2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242315:38:36(1)求出期望信号的方差。根据图2.2.2(a)，期望(2)计算输入信号和输出信号的自相关函数矩阵。根据自相关函数、功率谱密度和时间序列信号模型的等价关系，已信号模型，就可以求出自相关函数。这里，信号模型为对应的差分方程为 x(n)+a1x(n-1)+a2x(n-2)=v1(n)式中，a1=-0.1，a2=-0.8。由于v1(n)、v2(n)的均值为零，因此x(n)的均值为0。方程两边同乘以x*(n-m)，并取数学期望，得rxx(m)+a1rxx(m-1)+a2rxx(m-2)=0 m0(1)rxx(0)+a1rxx(1)+a2rxx(2)=21m=0(2)2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242415:38:36(2)计算输入信号和输出信号的自相关函数矩阵。根据自相关对方程（1）取m=1,2，得到rxx(1)+a1rxx(0)+a2rxx(1)=0(3)rxx(2)+a1rxx(1)+a2rxx(0)=0(4)方程（2）、（3）、（4）联立求解，得2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242515:38:36对方程（1）取m=1,2，得到 rxx(1)+a1rxx(v2(n)是一个零均值的白噪声，它的自相关函数矩阵呈对角形，且，因此，输出信号的自相关Ryy为2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242615:38:36v2(n)是一个零均值的白噪声，它的自相关函数矩阵呈对角形，(3)计算输出信号与期望信号的互相关函数矩阵。由于两个信号都是实信号，故ryd(m)=Ey(n)d(n-m)=Ey(n)x1(n-m)=E(x(n)+v2(n)x1(n-m)=Ex(n)x1(n-m)m=0,1根据图2.2.2系统H2(z)的输入与输出的关系,有x1(n)-b1x(n-1)=x(n)x1(n)=x(n)+b1x(n-1)这样ryd(m)=Ex(n)x1(n-m)=Ex(n)(x(n-m)+b1x(n-1-m)=rxx(m)+b1rxx(m-1)2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242715:38:36(3)计算输出信号与期望信号的互相关函数矩阵。由于两个信将m=0,m=1代入上式,得ryd(0)=rxx(0)+b1rxx(-1)=1-0.94580.5=0.5272ryd(1)=rxx(1)+b1rxx(0)=0.5-0.94581=-0.4458因此，输出信号与期望信号的互相关为求出输出自相关的逆矩阵,并乘以Ryd,可得维纳最佳解Wopt:2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242815:38:36将m=0,m=1代入上式,得 ryd(0)=rxx(0)把Wopt代入（2.2.27）式，可计算出维纳滤波器达到最佳状态时均方误差，即均方误差有最小值E|e(n)|2min，2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 5/19/20242915:38:36把Wopt代入（2.2.27）式，可计算出维纳滤波器达到最佳2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解不考虑滤波器因果性的维纳霍夫方程可以写为设定d(n)=s(n)，对上式两边做Z变换：Sxs(z)=Hopt(z)Sxx(z)不考虑因果性维纳滤波器(2.3.2)5/19/20243015:38:362.3 离散维纳滤波器的Z域解 2.3 离散维纳滤波器的Z进一步简化进一步简化(2.3.2)：考虑期望信号和噪声不相关，rsv(m)=0Sxs(z)=S(s+v)s(z)=Sss(z)+Svs(z),Sxs(z)=Sss(z)，Sxx(z)=Sss(z)+Svv(z)物理意义物理意义：噪声=0信号全部通过；信号=0噪声全部抑制(2.3.5)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20243115:38:36进一步简化(2.3.2)：考虑期望信号和噪声不相关，rsv(讨论：讨论：(1)不考虑因果性的维纳滤波器Z域解非常简单。(2)如果考虑因果性，维纳滤波器在Z域不能直接求解。Bode和Shannon提出了白化滤波器的方法较好的解决了这个问题。白白化化滤滤波波器器：对于具有有理谱的随机信号x(n)可用MA模型描述，并且B(z)已知，可以设计出逆滤波器B-1(z)。如果逆滤波器输入为x(n)，则逆滤波器输出为白噪声。2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 白化滤波器5/19/20243215:38:36 讨论：(1)不考虑因果性的维纳滤波器Z域解非常简单。白维维纳纳滤滤波波器器求求解解思思路路：用白噪声作为待求滤波器G(z)的输入，假设1/B(z)为x(n)白化滤波器传输函数，那么维纳滤波器传输函数可以表示为(2.3.7)因此维纳滤波器的求解转化为G(z)的求解。2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 下面分两种情况讨论：非因果系统和因果系统非因果系统和因果系统。5/19/20243315:38:36 维纳滤波器求解思路：用白噪声作为待求滤波器G(z)的输入，2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解依据前面讨论的思路，下面的问题就是求解满足下列条件的g(n)或G(z)，其中为白噪声。G(z)或g(n)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20243415:38:362.3.1 非因果维纳滤波器的求解G(z)或g(n)2.3(2.3.9)计算均方估计误差计算均方估计误差：使均方误差为最小的充要条件是：-k(2.3.10)g(n)的最佳值：-k(2.3.11)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20243515:38:36(2.3.9)计算均方估计误差：使均方误差为最小的充要条G(z)的最佳值：(2.3.12)非因果维纳滤波器的最佳解为(2.3.13)考虑s(n)=s(n)*(n)和x(n)=(n)*b(n)，由相关卷积定理得：rxs(m)=rs(m)*b(-m)(2.3.14)Sxs(z)=Ss(z)B(z-1)(2.3.15)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20243615:38:36G(z)的最佳值：(2.3.12)非因果维纳滤波器的最佳解综合上面的结果，并考虑x(n)的MA模型，可得维纳滤波器的复频域最佳解的一般表达式(2.3.16)假定信号与噪声不相关，即Es(n)v(n)=0：rxs(m)=Es(n)+v(n)s(n+m)=rss(m)rxx(m)=Es(n)+v(n)s(n+m)+v(n+m)=rss(m)+rvv(m)Sxs(z)=Sss(z)Sxx(z)=Sss(z)+Svv(z)(2.3.17)(2.3.18)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20243715:38:36 综合上面的结果，并考虑x(n)的MA模型，可得（2.3.19)非因果维纳滤波器的复频域最佳解非因果维纳滤波器的复频域最佳解：（2.3.20)（2.3.21)说明说明：上述结果与(2.3.5)式一样，但获得的方法是不一样的。2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20243815:38:36（2.3.19)非因果维纳滤波器的复频域最佳解：（2.3下面推导最小均方误差E|e(n)|2min。(1)用围线积分法求rss(0):(2.3.22)(2.3.23)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20243915:38:36下面推导最小均方误差E|e(n)|2min。(1)用围(2.3.25)(2.3.26)综合(1)和(2)得到:(2.3.27)(2)计算复卷积定理2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244015:38:36(2.3.25)(2.3.26)综合(1)和(2)得到:进一步简化：(2.3.28)考虑实信号自相关函数是偶函数以及信号与噪声不相关：(2.3.30)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244115:38:36进一步简化：(2.3.28)考虑实信号自相关函数是偶函数以2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解 若维纳滤波器是因果滤波器，要求g(n)=0n0估计误差的均方值：估计误差的均方值：E|e(n)|2=E|s(n)-y(n)|2(2.3.32)(2.3.31)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244215:38:362.3.2 因果维纳滤波器的求解g(n)=0 n0使均方误差取得最小值的充要条件使均方误差取得最小值的充要条件：(2.3.34)先计算：(2.3.35)(2.3.36)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244315:38:36使均方误差取得最小值的充要条件：(2.3.34)先计算：因果系统因果系统G(z)G(z)的最佳解的最佳解：(2.3.37)因果维纳滤波器的复频域最佳解因果维纳滤波器的复频域最佳解：(2.3.38)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244415:38:36因果系统G(z)的最佳解：(2.3.37)因果维纳滤波器计算最小均方误差：计算最小均方误差：(2.3.39)2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244515:38:36计算最小均方误差：(2.3.39)2.3 离散维纳滤波器结结论论:(1)因果维纳滤波器最小均方误差与非因果维纳滤波器最小均方误差的形式相同，但公式中的Hopt(z)的表达式不同。(2)非因果E|e(n)|2min一定小于等于因果E|e(n)|2min,，原因如下(3)具体计算时,可以选择单位圆作为积分曲线，应用留数定理，通过计算积分函数在单位圆内极点的留数来得到。2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244615:38:36结论:(1)因果维纳滤波器最小均方误差与非因果维纳滤波器最因果维纳滤波器的设计步骤因果维纳滤波器的设计步骤：(1)根据观测信号x(n)的功率谱求出对应的MA信号模型，即用谱分解的方法得到B(z)。(2)求的Z反变换，取其因果部分再做Z变换。即舍掉单位圆外的极点，得(3)计算Hopt(z)，将积分曲线取单位圆计算E|e(n)|2min。2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244715:38:36因果维纳滤波器的设计步骤：2.3 离散维纳滤波器的Z域解例例 2.3.1已知信号和噪声不相关，即rsv(m)=0，噪声v(n)是零均值、单位功率的白噪声(2v=1，mv=0)，求Hopt(z)和Ee(n)|2min。解：解：(1)物理可实现，因果情况考虑因果稳定系统2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244815:38:36例 2.3.1 已知 信号和噪声不相关，即rsv(m)=0考虑Sxs(z)=Sss(z)：2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 5/19/20244915:38:36考虑Sxs(z)=Sss(z)：2.3 离散维纳滤波器的Z域计算最小均方估计误差计算最小均方估计误差：2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 未滤波的均方误差未滤波的均方误差：5/19/20245015:38:36计算最小均方估计误差：2.3 离散维纳滤波器的Z域解 未滤(3)非物理可实现，非因果2.3 离散维纳滤波器的离散维纳滤波器的Z域解域解 比比较较两两种种情情况况：非物理可实现的最小均方误差(0.3)小于物理可实现的均方误差(0.375)。5/19/20245115:38:36(3)非物理可实现，非因果 2.3 离散维纳滤波器的Z域解2.4 维维 纳纳 预预 测测 2.4 维维 纳纳 预预 测测 2.4.1 维纳预测的计算维纳预测的计算观测数据：x(n)，x(n1)，.维纳滤波：期望输出yd(n)=s(n)，实际输出y(n)=s(n)。维纳预测：期望输出yd(n)=s(n+N)，实际输出y(n)=s(n+N)。预测的可能性预测的可能性：可以从两个方面理解。(1)信信号号内内部部存存在在着着关关联联性性。数据前后的关联性越密切，预测越准确；如果完全无关联，则无法预测。(2)系统是有惯性的系统是有惯性的。即便输入无关联，系统输出却有关联。5/19/20245215:38:362.4 维 纳 预 测 2.4 维 纳 预 测8/3/2.4 维维 纳纳 预预 测测 预测器输出信号y(n)和误差信号e(n+N)的描述：（2.4.3）（2.4.4）H(z)维纳预测器的目标使预测均方误差极小化：5/19/20245315:38:362.4 维 纳 预 测 预测器输出信号y(n)和误差信号e(满足预测误差均方值最小的充要条件：（2.4.5）2.4 维维 纳纳 预预 测测 yd(n)=s(n+N)5/19/20245415:38:36满足预测误差均方值最小的充要条件：（2.4.5）2.4 维因果维纳预测器的最佳解:（2.4.9）非因果维纳预测器的最佳解：维纳预测器的最小均方误差：结论结论：维纳预测器的求解和维纳滤波器的求解方法是一致的。2.4 维维 纳纳 预预 测测（2.4.8）5/19/20245515:38:36因果维纳预测器的最佳解:（2.4.9）非因果维纳预测器的2.4.2 纯预测纯预测(N步步)所谓纯预测纯预测就是不考虑噪声的预测。N步纯预测：步纯预测：x(n)=s(n)+v(n)，v(n)=0，期望信号s(n+N),N0。2.4 维维 纳纳 预预 测测 因果纯预测因果纯预测：设s(n)与v(n)不相关。（2.4.11）（2.4.12）5/19/20245615:38:362.4.2 纯预测(N步)2.4 维 纳 预 测 因果纯预纯预测器最小均方误差：纯预测器最小均方误差：（2.4.13）2.4 维维 纳纳 预预 测测 5/19/20245715:38:36纯预测器最小均方误差：（2.4.13）2.4 维 纳 预（2.4.15）考虑到考虑到b(n)是因果系统是因果系统：结结论论：随着N增加，E|e(n+N)|2min也增加。这一点也容易理解，因为预测距离越远，预测效果越差，偏差越大。应用复卷积定理应用复卷积定理：2.4 维维 纳纳 预预 测测 5/19/20245815:38:36（2.4.15）考虑到b(n)是因果系统：结论：随着N增例例2.4.1已知求:(1)最小均方误差下的s(n+N)；(2)E|e(n+N)|2min。解：解：(1)(1)计算最佳预测输出计算最佳预测输出2.4 维维 纳纳 预预 测测 5/19/20245915:38:36例2.4.1 已知 求:解：(1)计算最佳预测输出 2.2.4 维维 纳纳 预预 测测 5/19/20246015:38:362.4 维 纳 预 测 8/3/20236015:38:36(2)计算最小均方误差计算最小均方误差2.4 维维 纳纳 预预 测测 5/19/20246115:38:36(2)计算最小均方误差2.4 维 纳 预 测 8/3/20讨论以上结果讨论以上结果:(1)Hopt(z)=aN纯预测的维纳滤波器是一个线性比例放大器。(2)B(z)x(n)的MA模型x(n)=(n)+ax(n-1)(3)N0时，白噪声(n+N)对x(n)无影响。当N=1时，x(n+1)=ax(n)=as(n)当N=2时，x(n+2)=ax(n+1)=a2s(n)当N=N时，x(n+N)=ax(N+n-1)=aNs(n)（2.4.19）2.4 维维 纳纳 预预 测测 5/19/20246215:38:36讨论以上结果:x(n)=(n)+ax(n-1)(3)N(4)终值定理与所得估计值的物理意义物物理理意意义义：一个信号的功率谱在单位圆上没有极点与信号均值等于0等价，因此对于功率谱在单位圆上没有极点的信号，要估计s(n+N)时，可认为(n+N)=0,N0，即仅需要考虑B(z)的惯性，这样估计出来的结果将有最小均方误差。2.4 维维 纳纳 预预 测测 5/19/20246315:38:36(4)终值定理与所得估计值的物理意义 物理意义：一个信号的2.4.3 一步线性预测的时域解一步线性预测的时域解一步线性预测：一步线性预测：噪声v(n)=0，由x(n-1),x(n-2)，,x(n-p)预测x(n)一一步步线线性性预预测测的的计计算算：设系统脉冲响应为h(n)，令apk=-h(k)，预测输出和预测误差为ap0=12.4 维维 纳纳 预预 测测 5/19/20246415:38:362.4.3 一步线性预测的时域解ap0=12.4 维 纳 预（2.4.23）推导使均方误差最小的充要条件推导使均方误差最小的充要条件：Ee*(n)x(n-l)=0l=1,2,p（2.4.24）（2.4.25）计算均方误差计算均方误差：（2.4.26）2.4 维维 纳纳 预预 测测 5/19/20246515:38:36（2.4.23）推导使均方误差最小的充要条件：Ee*(结论结论:(1)最小预测误差与输入信号、最佳预测输出正交。(2)(2.4.25)所描述的p个方程是求解预测滤波器或预测系数的重要方程。计算最小均方预测误差计算最小均方预测误差：2.4 维维 纳纳 预预 测测 5/19/20246615:38:36结论:(1)最小预测误差与输入信号、最佳预测输出正交。Yule-Walker方程2.4 维维 纳纳 预预 测测 5/19/20246715:38:36Yule-Walker方程2.4 维 纳 预 测 8/3/2Yule-Walker方程的特点：(1)除了第一个方程外，其余都是齐次方程，因此容易求解。(2)与维纳-霍夫方程相比，不需要求x(n)与s(n)的互相关函数。(3)p+1个方程可以确定p个预测系数和最小均方误差。(4)该方程可以用来求解AR模型参数和进行功率谱估计。(5)该方程揭示了时时间间序序列列信信号号模模型型、功功率率谱谱和和自自相相关关函函数数在描述一个随机信号时的等价性。2.4 维维 纳纳 预预 测测 5/19/20246815:38:36Yule-Walker方程的特点：2.4 维 纳 预 测关于自相关矩阵Rxx的性质：(1)当x(n)为实数时，Rxx为对称矩阵，RxxRxxT。当x(n)为复数时，Rxx为Hermitian矩阵，RxxRxxH。(2)Rxx任意对角线上的元素相同，Toeplitz矩阵。(3)Rxx为正定矩阵，特征值都大于零，所有主子式大于零。(4)对于复序列x(n)，注意本书自相关函数的定义方法：2.4 维维 纳纳 预预 测测 5/19/20246915:38:36关于自相关矩阵Rxx的性质：2.4 维 纳 预 测 8/2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5 卡尔曼卡尔曼(Kalman)滤波滤波卡尔曼滤波是用状态空间来描述系统，由状态方程和量测方程所组成。卡尔曼滤波器的特点卡尔曼滤波器的特点：(1)算法是递推的，而且是在时域内设计滤波器，特别适合多维随机过程的估计；离散型卡尔曼算法适用于计算机处理。(2)观测数据可以是平稳的，也可以是非平稳的。(3)所采取的误差准则仍为估计误差的均方值最小(MMSE)。5/19/20247015:38:362.5 卡尔曼(Kalman)滤波 2.5 卡尔曼(Kal2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程(2.5.1a)(2.5.1b)其中：(1)k表示时间或第k步迭代；(2)k为输入信号向量(3)vk为观测噪声向量，是白噪声；(3)x状态向量，y输出信号向量；(4)A、C为随时间变化的增益矩阵。状态方程状态方程量测量测(输出输出)方程方程2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20247115:38:362.5.1 卡尔曼滤波的状态方程和量测方程 (2.5.卡尔曼滤波器信号模型和对应的状态方程、量测方程：N1NNN1N1M1MNN1M12.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20247215:38:36卡尔曼滤波器信号模型和对应的状态方程、量测方程：N1N卡尔曼滤波要解决的问题卡尔曼滤波要解决的问题：已知：递推计算最小均方误差下x xk的估计 。对对 的基本假设的基本假设：零均值高斯白噪声。(1)均值向量(2)自协方差矩阵和互协方差矩阵2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20247315:38:36卡尔曼滤波要解决的问题：对 的基本假设：零均值高2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法基基本本思思想想：先不考虑k和vk的影响，得到状态变量和输出信号的估计值，然后再用输出信号的估计误差(新新息息)来校正状态变量的估计值，使状态变量估计误差的均方值最小。(1)先考虑无观测噪声和输入信号时的状态方程和量测方程：(2.5.4)(2.5.5)2.5 卡尔曼卡尔曼(Kalman)滤波滤波(2.5.6)输出信号估计误差新息innovation5/19/20247415:38:362.5.2 卡尔曼滤波的递推算法(2.5.4)(2.5.(2)观测噪声和输入信号对状态变量的影响，通过输出信号估计误差(新息)的校正来实现。(2.5.7)定义三个重要参量定义三个重要参量：Hk：增益矩阵加权矩阵(2.5.8)(2.5.9)(2.5.10)校正后状态变量估计误差未校正X Xk估计误差均方矩阵2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20247515:38:36(2)观测噪声和输入信号对状态变量的影响，通过输出信号估计卡卡尔尔曼曼滤滤波波要要求求：通过选择合适的Hk，使状态变量估计误差的均方值Pk最小。因此卡尔曼滤波的关键是求出PkHk的关系式。分两步推导上述关系式：Step1推导状态变量的估计值和状态变量的估计误差;Step2计算的均方值Pk，并通过化简Pk，得到一组卡尔曼滤波的递推公式。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20247615:38:36卡尔曼滤波要求：通过选择合适的Hk，使状态变量估计误差的均方Step1:推导状态变量的估计值和估计误差(2.5.11)(2.5.12)2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20247715:38:36Step 1:推导状态变量的估计值和估计误差(2.5.11Step2计算校正的状态变量估计误差均方值Pk。首先将状态变量估计误差分解为三部分：然后计算状态变量估计误差的均方值P Pk:2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20247815:38:36Step 2 计算校正 的状态变量估计误差均方值Pk。然利用下面三个基本结论对利用下面三个基本结论对Pk进行化简进行化简：(1)状态变量与输入信号不相关(2)状态变量估计误差与观测噪声不相关(3)状态变量估计误差与输入信号不相关2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20247915:38:36利用下面三个基本结论对Pk进行化简：2.5 卡尔曼(Kalm对Pk的各项进行化简：2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20248015:38:36对Pk的各项进行化简：2.5 卡尔曼(Kalman)滤波 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20248115:38:362.5 卡尔曼(Kalman)滤波 8/3/20238115化简化简Pk并计算并计算 ：2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20248215:38:36化简Pk并计算 ：2.5 卡尔曼(Kalman)滤波 将Pk代入Pk：令正定矩阵2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20248315:38:36将Pk代入Pk：令 正定矩阵2.5 卡尔曼(Kalman)下面讨论使 最小化的 ：最小化的充要条件：最优加权矩阵：2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20248415:38:36下面讨论使 最小化的 ：最小化的充要条件：最优最小均方误差矩阵最小均方误差矩阵:卡尔曼递推公式卡尔曼递推公式(4个):2.5 卡尔曼卡尔曼(Kalman)滤波滤波(a)(b)(c)(d)个5/19/20248515:38:36最小均方误差矩阵:卡尔曼递推公式(4个):2.5 卡尔曼卡尔曼滤波递推算法初始条件卡尔曼滤波递推算法初始条件：2.5 卡尔曼卡尔曼(Kalman)滤波滤波 卡尔曼滤波一步递推算法卡尔曼滤波一步递推算法：5/19/20248615:38:36卡尔曼滤波递推算法初始条件：2.5 卡尔曼(Kalman)滤维纳滤波器与卡尔曼滤波比较维纳滤波器与卡尔曼滤波比较：(1)二者均采用均方误差最小准则(MMSE)来实现信号滤波的。(2)维纳滤波得到的是稳态解。(3)卡尔曼滤波是从初始状态采用递推的方法进行滤波。对于平稳信号，当过渡过程结束后，卡尔曼滤波与维纳滤波的稳态结果相等。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20248715:38:36维纳滤波器与卡尔曼滤波比较：2.5 卡尔曼(Kalman)滤例例2.5.2已知：2.5 卡尔曼卡尔曼(Kalman)滤波滤波 在k=0时开始观察yk,yk=xk+vk，用卡尔曼滤波的计算公式求。解：解：(1)首先对Sxx(z)进行谱分解，确定卡尔曼滤波状态方程：5/19/20248815:38:36例2.5.2 已知：2.5 卡尔曼(Kalman)滤波 在(2)确定量测方程及其参数：(3)确定卡尔曼递推公式:(a)(b)(c)(d)2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20248915:38:36(2)确定量测方程及其参数：(3)确定卡尔曼递推公式:(2)求出卡尔曼滤波的输出。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20249015:38:36(2)求出卡尔曼滤波的输出。2.5 卡尔曼(Kalman)(3)求出卡尔曼滤波的稳态解。首先计算均方误差之稳态解均方误差之稳态解。由卡尔曼滤波递推方程可得：1.36Pk+0.64Pk-1Pk=0.64Pk-1+0.362.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20249115:38:36(3)求出卡尔曼滤波的稳态解。首先计算均方误差之稳态解由P计算进入稳态后的加权矩阵和状态方程:(2.5.33)2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20249215:38:36由P计算进入稳态后的加权矩阵和状态方程:(2.5.33)2.5.4 发散问题及其抑制发散问题及其抑制从理论上讲，卡尔曼滤波递推算法可以无限地继续下去。然而在实际中可能会产生发散问题。也就是说，随着迭代次数的增加误差不但不减小，反而越来越大，即不收敛。产生原因产生原因和解决办法解决办法如下：(1)舍入误差及其误差积累的影响将引起发散现象，主要是计算机有限字长效应。解决办法是采用双精度运算，但运算量要增加。目前多采用平方根法，即把递推公式中的均方误差矩阵改用其平方根。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20249315:38:362.5.4 发散问题及其抑制2.5 卡尔曼(Kalman)(2)待估计过程模型的不精确也会引起发散现象。当系统模型不准确时，新观测值的修正作用下降，旧观测值的修正作用相对上升，可以通过逐渐减小旧观测值的权重，增大新观测值的权重来解决这个问题。常用的方法有衰减记忆法、限定记忆法、限定下界法等。(3)由于系统不可观察引起的发散现象。所谓不可观察是指系统有一个或几个状态变量是隐含的，现有的观测数据不能提供足够的信息来估计所有的状态变量。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 5/19/20249415:38:36(2)待估计过程模型的不精确也会引起发散现象。当系统模型不