列第三章ARMA模型的特

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第一节 线性差分方程,一、,后移算子B,定义为,，从而,前面的MA(m)模型、AR(n)模型和ARMA(n,m)模型可分别表示为：,其中：,后移算子的性质:,二、,线性差分方程,差分方程的通解为,：,可写成,这里,这里，C,(t)是齐次方程通解，I(t)是特解。,三、,齐次方程解,的计算,假定G,1,，G,2,，G,n,是互不相同，,则在时刻t的通解,：,其中A,i,为常数（可由初始条件确定）。,无重根,考虑齐次差分方程,重根,设,有,d,个相等的根,，可验证通解为,对一般情形，,因此，齐次方程解是由衰减指数项、多项式、衰减正弦项，以及这些函数的组合混合生成的。,齐次方程解便是,请看例题,定义：设零均值平稳序列,第二节 格林函数(Greens function)和平稳性(Stationarity,),一、,格林函数,(Greens function),能够表示为,则称上式为平稳序列,的传递形式，式中的加权系数,称为格林（,Green,）函数，其中,格林函数,的含义：格林函数是描述系统记忆扰动程度的函数。,（1）式可以记为,其中,式（,1,）表明具有传递形式的平稳序列可以由现在时刻以前的白噪声通过系统“”的作用而生成，是,j,个单位时间以前加入系统的干扰项 对现实响应的权，亦即系统对 的“记忆”。,二、AR（1）系统的格林函数,由AR（1）模型,即：,则,AR(1),模型的格林函数,例,：下面是参数分别为,0.9,、,0.1,和,-0.9,的,AR,（,1,）系统对,扰动的记忆情况,。,（演示试验）,比较前后三个不同参数的图，可以看出：,取正值时，响应波动较平坦。,取负值时，响应波动较大。,越大，系统响应回到均衡位置的速度越慢，时间越长。,三、格林函数与AR（n）系统的平稳性,平稳性的涵义就是干扰项对系统的影响逐渐减弱，直到消失，对于一个AR（n）系统，将其写成格林函数的表示形式，,如果系统是平稳的，则预示,随着,j,，扰动的权数,对于,AR(1),系统,即,这要求,上述条件等价于AR(1)系统的特征方程,的根在单位圆内(或方程,的根在单位圆外).,AR（n）模型，即,其中：,的平稳性条件为：,的根在单位圆外,（或,的根在单位圆内）。,AR,（,n,）系统的平稳性条件：,（请同学们观察平稳性AR(n)与非平稳性AR(n)的区别。）,AR(1)的结论可以推广到AR(n),图示如右图,几个例题,ARMA,模型,格林函数的通用解法,ARMA(n,m)模型,且,则,令,则,化为,比较等式两边B的同次幂的系数，可得,由上式，格林函数可从,开始依次递推算出。,例：求AR(2,1)系统的格林函数。,是零均值平稳序列，如果白噪声序列,第三节 逆函数和可逆性（Invertibility）,能够表示为,一、,逆函数的定义,设,则称上式为平稳序列,式中的加权系数,称为,逆函数,。,可逆。,ARMA,（,n,m,）模型,逆函数通用解法,对于,ARMA,（,n,m,）模型的逆函数求解模型格林函数求解方法相同。,令,二、ARMA模型的逆函数,的逆转形式,则平稳序列,可表示为,由ARMA(n,m)模型,可得,仍由先前定义的,和,，则上式可化为,比较上式两边B的同次幂的系数，得到,即,可从,由此,开始推算出。,对于MA（m）模型的可逆性讨论与AR（n）模型平稳性的讨论是类似的,，即：,MA（m）模型的可逆性条件为其特征方程,的特征根,满足,ARMA(n,m,),系统,格林函数与逆函数的关系,在格林函数的表达式中，,用,代替,，,代替,代替,，,，即可得到相对应的逆函数。,理论自协方差函数和自相关函数,对于,ARMA,系统来说，设序列的均值为零，则自协方差函数,第四节,自相关函数与偏自相关函数,自相关函数,样本自相关函数的计算,在拟合模型之前，我们所有的只是序列的一个有限样本数据，无法求得理论自相关函数，只能求样本的自协方差函数和自相关函数。样本自协方差有两种形式：,一、,自相关函数,则相应的自相关函数为,在通常情况下，我们采用第一种算法。,1、AR(n)过程自相关函数ACF,1阶自回归模型AR(1),X,t,=,X,t-1,+a,t,的,k,阶滞后,自协方差,为：,0,1,1,),(,(,g,j,jg,a,j,g,k,k,t,t,k,t,k,X,X,E,=,=,+,=,-,-,-,=1,2,因此，,AR(1),模型的,自相关函数,为,=1,2,由,AR(1),的稳定性知,|,|,1,，因此，k,时，呈指数形衰减，直到零,。这种现象称为,拖尾,或称,AR(1),有无穷记忆,（,infinite memory,）。,注意,，,0,时，呈振荡衰减状。,X,t,=,1,X,t-1,+,2,X,t-2,+a,t,该模型,的方差,0,以及滞后,1,期与,2,期的自协方差,1,2,分别为,阶自回归模型,AR(2),2,2,2,1,1,0,a,s,g,j,g,j,g,+,+,=,类似地,可写出,一般的,k,期滞后自协方差,：,2,2,1,1,2,2,1,1,),(,(,-,-,-,-,-,+,=,+,+,=,k,k,t,t,t,k,t,k,r,X,X,X,E,j,g,j,a,j,j,g,(K=2,3,),于是,AR(2),的,k,阶自相关函数,为：,(K=2,3,),其中,:,1,=,1,/(1-,2,),0,=1,如果AR(2)平稳，则由,1,+,2,1知|,k,|衰减趋于零，呈拖尾状。,至于衰减的形式，要看AR(2)特征根的实虚性，,若为实根，则呈单调或振荡型衰减，若为虚根，则呈正弦波型衰减。,一般地，,n,阶自回归模型,AR(n),X,t,=,1,X,t-1,+,2,X,t-2,+,n,X,t-n,+,a,t,k,期滞后协方差为:,n,k,n,k,k,t,n,t,n,t,t,K,t,k,X,X,X,X,E,-,-,-,-,-,-,-,+,+,+,=,+,+,+,+,=,g,j,g,j,g,j,a,j,j,j,g,L,L,2,2,1,1,2,2,1,1,),(,(,从而有,自相关函数,:,可见，,无论k有多大，,k,的计算均与其到n阶滞后的自相关函数有关,，因此,呈拖尾状,。,如果AR(n)是平稳的，则|,k,|递减且趋于零,。,其中：z,i,是AR(n)特征方程,(z)=0的特征根，由AR(n)平稳的条件知，|z,i,|1,时，,k,0,，即,X,t,与,X,t-k,不相关，,MA(1)自相关函数是截尾的。,其,自协方差系数,为,一般地,，,m,阶移动平均过程,MA(m),相应的,自相关函数,为,可见，当km时，,X,t,与,X,t-k,不相关，即存在截尾现象，因此，,当km时，,k,=0是MA(m)的一个特征,。,于是：,可以根据自相关系数是否从某一点开始一直为0来判断MA(m)模型的阶。,二、,偏自相关函数,自相关函数,ACF(k),给出了X,t,与X,t-1,的总体相关性，但总体相关性可能掩盖了变量间完全不同的隐含关系。,例如，在,AR(1),随机过程中，X,t,与X,t-2,间有相关性可能主要是由于它们各自与X,t-1,间的相关性带来的:,即自相关函数中包含了这种所有的“间接”相关。,与之相反，,X,t,与X,t-k,间的,偏自相关函数(partial autocorrelation，简记为PACF),则是消除了中间变量X,t-1,，X,t-k+1,带来的间接相关后的直接相关性，它是在已知序列值X,t-1,，X,t-k+1,的条件下，X,t,与X,t-k,间关系的度量。,从,X,t,中去掉,X,t-1,的影响，则只剩下随机扰动项,a,t,，显然它与,X,t-2,无关，因此我们说,X,t,与,X,t-2,的,偏自相关系数,为零，记为,在,AR(1),中,，,0,),(,2,*,2,=,=,-,t,t,X,Corr,a,r,同样地，,在AR(n)过程中,，对所有的,kn,，,X,t,与,X,t-k,间的,偏自相关系数,为零。,AR(n)的一个主要特征是:,kn,时，,k,*=Corr(,X,t,X,t-k,)=0,即,k,*,在,n,以后是截尾的。,一随机时间序列的识别原则：,若,Xt,的偏自相关函数在,n,以后截尾，即,kn,时，,k,*,=0，而它的自相关函数,k,是拖尾的，则此序列是自回归AR(n)序列。,对于一个k阶AR模型，有：,由此得到,Yule-Walker,方程,，记为：,已知时，由该方程组可以解出,。遗憾的是，用该方程组求解时，需要知道自回归过程的阶数。因此，我们可以对连续的k值求解,Yule-Walker方程。,对k=1，2，3，依次求解方程，得,上述,序列为AR模型的,偏自相关函数。,偏自相关性是条件相关,，是在给定,的条件下，,和,的条件相关。换名话说，偏自相关,函数是对,和,所解释的相关的度量。,之间未被,由最小二乘原理易得，,是作为,关于,线性回归的回归系数,。,如果自回归过程的阶数为n，则对于kn应该有,kk,=0,。,MA(1),过程可以等价地写成a,t,关于无穷序列,X,t,，X,t-1,，,的线性组合的形式：,L,+,+,+,=,-,-,2,2,1,t,t,t,t,X,X,X,q,q,a,或,t,t,t,t,X,X,X,a,q,q,+,-,-,-,=,-,-,L,2,2,1,这是一个AR(,),过程，它的偏自相关函数非截尾但却趋于零，因此,MA(1)的偏自相关函数是非截尾但却趋于零的。,注意:,上,式只有当,|,|1,时才有意义，否则意味着距Xt越远的,X,值，对Xt的影响越大，显然不符合常理。,因此，我们,把|,|m）；而它的偏自相关函数是拖尾的，则此序列是移动平均MA(m)序列。,同样需要注意的是,：在实际识别时，由于样本自相关函数,r,k,是总体自相关函数,k,的一个估计，由于样本的随机性，当,km,时，,r,k,不会全为,0,，而是在,0,的上下波动。但可以证明，当,km,时，,r,k,服从如下渐近正态分布:,r,k,N(0,1/n),式中,n,表示样本容量。,因此，,如果计算的,r,k,满足：,我们,就有95.5%的把握判断原时间序列在,m,之后截尾,。,ARMA(n,m),的自相关函数,，可以看作,MA(m),的自相关函数和,AR(n),的自相关函数的混合物。,当,n=0,时，它具有截尾性质,；,当,m=0,时，它具有拖尾性质；,当,n,、,m,都不为,0,时，它具有拖尾性质,从识别上看，通常：,ARMA(n,，,m),过程的偏自相关函数（,PACF,）,可能在,n,阶滞后前有几项明显的尖柱（,spikes,），但从,n,阶滞后项开始逐渐趋向于零；,而,它的自相关函数（,ACF,）,则是在,m,阶滞后前有几项明显的尖柱，从,m,阶滞后项开始逐渐趋向于零。,ARMA(n,m),过程,