资源描述
第2章 单变量线性随机模型2.1 随机过程、实现值和遍历性一、 随机过程、实现值和遍历性 实现值(Realization):观测到的序列值。 随机过程:随机过程是一族随机变量,即对指标集中的每个,是一个随机变量。如果为时间,则是过程在时刻的状态。可以看作是为概率分布。本书用表示随机过程和实现值。仅当过程是遍历时,利用单组实现值来推断联合概率分布的未知参数才是正确的。时间平均是否等于总体平均,这就是遍历性问题,它是一个矩问题。均值遍历:如果一个协方差平稳过程的自协方差满足,且当时,则是关于均值遍历的;如果对所有的成立,则称该过程是关于二阶矩遍历的。随着实现值序列的长度向无限伸展,有限长度实现值序列的样本矩趋向于其总体矩。注意:平稳并不一定就是遍历的。以后将假设所有的序列都具有遍历性。如果随机过程服从联合正态分布,则用一二阶矩就可以描述整个过程均值(个): 方差(个): 协方差(个: 二、 平稳性(绝对;严格)平稳:假设随机过程的性质不受时间地点变化的影响,称为绝对(严)平稳。即联合分布函数只取决于时期的间隔,与时期本身无关。从而它的所有矩都不依赖于时间。弱(协方差,宽)平稳:如果随机过程的均值和协方差都不依赖于时间,即 其中称为自协方差。如果为时滞的函数,则称为自协方差函数。平稳和宽平稳的关系:1) 具有有限二阶矩的(严)平稳过程,一定是宽平稳过程。2) 宽平稳过程只限定了一阶矩和二阶矩,从而宽平稳过程不是(严)平稳过程。自相关以及自相关函数ACF:定义为自相关。如果它是时滞的函数,则称为自相关函数ACF。ACF和均质方差一起共同表现了弱平稳随机过程的特征。通过测量过程的某个值和历史值的相关程度,ACF显示了过程的“记忆”长度和力度。2.2 随机差分方程时间序列分析的一个基本定理就是Wold分解定理。Wold分解定理:任何零均值协方差平稳过程可表示成如下形式 其中,且。是白噪声,也称新生量。对于任意的,的值与无关。这里称为的线性确定性分量,而称为线性非确定性分量。若,该国成为纯线性不确定的。白噪声过程:是一种均值和自相关系数均为零的随机过程。如果满足对任意的,则为(弱)白噪声过程。如果为独立同分布的随机过程,则为(严格)白噪声过程。根据Wold分解定理,所有的弱平稳,完全非确定随机过程都可写作一个非相关随机变量序列的线性组合(或称为线性滤波),这个线性滤波的表达式为 (2.1)具有下列性质,所有的。称为白噪声过程,记为。为权重系数。 模型(2.1)的明显具有自相关性。下面考察的二阶矩 为了保证方差有限,要求权重绝对可加,即,则此线性滤波表达式收敛。这个条件相当于假设为平稳过程。2.3 ARMA过程一、 自回归(AR)过程由(2.1)根据参数选择的不同,形成过程的集合。取(为什么),记(为什么取幂;),则(2.1)被记为或写成 为白噪声(和严格白噪声的区别) 称为一阶自回归过程。利用时滞运算符,记为可得(为什么)级数收敛的充分条件为(为什么),收敛则意味着过程是平稳的。现在考察一阶自回归过程的ACF(自相关函数)两边同时乘以,两边同时取期望,得出(为什么)迭代下来,继而可以得到自相关函数当 此时自相关函数振荡衰减。拖尾当 此时自相关函数指数衰减。拖尾(模拟图见本书16页)二 、 移动平均过程MA由取;得到 或 它称为一阶移动平均过程,是平稳过程(为什么)由此可见自相关函数 截尾一阶移动平均过程是否可以变成自回归过程,这需要强加一个限制性条件称为可逆性条件。由,变为,将按幂级数展开,就得到(模拟图件本书19页)三、 一般的AR和MA过程由AR(p)模型的形式为或用滞后运算符形式记为这个过程平稳的条件是其特征方程,也就是的根位于单位圆外,记。其自相关函数ACF的形式为(见汉密尔顿),解为由于所以自相关函数是指数衰减和震荡衰减混合函数组成。因此AR过程具有拖尾特性。不能用ACF来区分不同的阶数。因此需要偏自相关函数PACF来确定AR过程的阶数。阶偏自相关是过程中的系数。它的经济意义是度量介于和之间的滞后值调整后的额外相关性。利用Yule-Walker方程,利用克莱姆法则求解得到。根据定义,可以得到AR过程的PACF性质1) 模型: 2) 模型: , 3) 模型: , 也就说,AR模型的特征为1) ACF拖尾;2)PACF截尾。根据这两个特征可以确定阶数。(二) 一般MA过程形式为 或记为 其ACF为 MA过程有以下两个特征:1) ACF截尾;2)PACF拖尾。从而根据这个特征确定MA过程的阶数。四、 自回归移动平均模型(自回归模型和移动平均模型的结合)1) ARMA(1,1)模型或书中关于ARMA模型平稳性的说法是否正确?(第28-29页)已经证明,ARMA(1,1)模型平稳性完全取决于自回归参数,而与移动平均参数无关。而且已经证明ARMA(1,1)模型的ACF拖尾,但衰减的起始位置不同,它是从开始衰减,而AR(1)模型是从开始衰减,而且。而且已经证明,ARMA(1,1)模型的PACF拖尾,但衰减的起始位置不同,它是从开始衰减,而AR(1)模型是从开始衰减,而且。2) ARMA(p,q)模型形式为或其平稳性完全取决于自回归参数而与移动平均参数无关。ARMA模型的ACF和PACF都具有拖尾特性,但拖尾特征具有以下特点:其在个初始值后,其的拖尾特征和AR(p)的特征相同。在个初始值后,其的拖尾特征和MA(q)的特征相同。总结一下:AR(p)MA(q)ARMA(p,q)ACF拖尾在q截尾拖尾PACF在p截尾拖尾拖尾2.5 ARMA建模一、 样本自相关SACF和偏自相关函数SPACFARMA建模的前提假设就是平稳性和遍历性。有了这两个条件之后,总体矩就可以利用样本矩来估计。均值、方差以及自相关函数的估计量分别为 ; ;SACF: SACF的检验统计量为: 其渐进分布服从自由度为的卡方X分布,即样本偏自相关的估计量为每个模型的最后一个系数。二、 模型的两种建立方法:1 B-J(Box-Jenkins)建模方法(eviews使用的建模思想) 将某个时间序列的SACF和SPACF的行为与各种理论ACF和PACF的行为匹配起来,挑选最佳匹配(或一组匹配的集合),估计模型的未知参数,并检查从模型拟和得到的残差,已发现可能的模型错误。2 在以考虑的最大可能范围的值和值的基础上,选择一组模型,估计可能的模型,并选择某个以拟合度为基础的选择标准最小化的模型。3 经典经济计量模型,时间序列模型,和动态经济计量建模的关系。4 选择模型的标准:(存在多个行为匹配的模型)1) AIC标准:(Akaike信息标准) 2) BIC标准 5 标准如何使用? 首先设定和的阶数上限,和,并规定和,则选择的阶数和由如下法则确定:或 。三、 在中的实现:(以序列index为例)1 通过自相关分析图判断平稳性:如果序列的自相关系数很快地趋于零,即落入随机区间,则时序是平稳的,否则是非平稳的。2 自相关图的实现:主菜单中选择quick/series Statisttics/correlogram,在对话框中输入分析的序列名称。如index,点击OK弹出相关图定义。选择之后,点击OK,从而得到时间序列的自相关和偏自相关分析图。3 根据相关图和偏自相关图判断自回归和移动平均的阶数。4 模型参数的估计方法: 在主窗口选择Quick/Estimate/Equation,输入index ar(1) ar(2) ar(p) ma(1) ma(2)ma(q) 点击OK进入。5 结果中要求AIC和BIC越小越好。而且最后两行的数值落在单位圆内。注释:1)见数据分析与Eviews应用第五章。 2)阶数一般选择不要超过2。 3)建立模型前,一般要进行单位根检验,从而采取方法消除季节性和趋势性对模型的影响。 6 模型的检验:1) 检验的主要方法就是对模型的残差序列进行白噪声检验。检验残差序列的样本自相关系数是否为零。检验的统计量为卡方检验。残差序列的自相关函数为 m为最大滞后期。一般取。检验统计量为在零假设下,服从卡方分布。给定置信度,如果则不能拒绝残差序列相互独立的原假设,通过检验。否则拒绝原假设。实现方法:直接对残差序列的检验,即分析残差序列的自相关图。2) 检查是否过度拟合。可以用高阶的模型进行拟合,并与原模型的结果进行比较。 2.6 非平稳过程和ARIMA模型本节考察非平稳情况下的ARMA建模:一、 方差的非平稳性假设时间序列可被分解为一个非随机的平均值水平和一个随机的误差:其中为随机误差项,为非随机均值。并且假设的方差和有下列函数关系为某个已知函数。现在求数据转化函数,的方差为常数。可以扩展成一阶泰勒级数:方差如果希望的方差为常数,则必须使。如果的标准差与成正比,即,则稳定方差意味着,也就是。因此,金融时间序列的对数变换,仅仅消除了与均值成正比的序列方差。二、 均值的非平稳性(一)第一种情况如果所以,此时系数恒定不变,所以称均值的这种趋势为确定趋势。现在考虑简单的,误差为白噪声序列的情形:进行一阶差分,得到此时可以看出既不平稳又不可逆。但可见是一个平稳但不可逆的MA过程。 对于一般情况下,如果趋势的多项式为次的,则(二) 第二种情况:ARMA模型的参数不满足平稳性条件。1) 时此时它的解为为在时间时的条件期望。在时间时的条件期望依赖于随机冲击。是时间的函数。方差为时间的增函数。当时,它发散。爆发性过程:均值和方差都含有时间趋势,就称为爆发性过程。2) 时 平稳过程3) 时 变为为随机游走模型。齐次非平稳过程:通过一次或多次差分就变成平稳过程的序列,就称为齐次非平稳过程。差分的次数就是齐次的阶数。我们遇到的大多数非平稳时间序列都具有这种特性。如果加入常数,则变为有漂移的随机游走模型。迭代它的特征为 其自相关函数,当时,所有的自相关系数都近似为1。也就是的序列非常平滑。随机游走模型是整过程(非平稳过程)的特例。3) 对于,可以记为随机游走模型进行一阶差分后,变成平稳过程。这就是ARIMA建模的基本原理。4) 通常一个序列需要经过次差分后,会得到平稳过程,但可能会呈现相关性,这就可以用ARMA进行模拟,而原始序列的模型形式为,称为过程,也被称为阶整过程。 对于所有。ARIMA过程的自相关也会接近于1。5) 可以记作,当时,为记整过程可以通过平稳过程的相加或“积分”次得到。6) 两个概念 对于,当时,模型表现的是随机趋势(一个时间的次多项式);当时,模型表现的是隐埋在非平稳噪音下的确定趋势。因此既可以拟合随机趋势,也能拟合确定趋势。2.8 ARMA模型的预测最小均方误差:选择预测,使得最小。我们可以证明均方误差最小预测就是的条件期望。(参见时间序列分析预测与控制)对于过程:令则其最小均方误差预测且因此,预测的做法是:用已知值代替历史期望值;用预测值代替未来期望值。起点为的步未来预测的误差为这里为的前个权重。预测误差是时间后进入系统的不可预见未来冲击的线性组合。方差为。而一步预测的误差为方差为例1 AR(2)过程的预测模型为即;当时,其预测值为。当时,其预测值为。当时,其预测值为另外一种表达方式为反复代换得到因为根据惯例,于是当时因此对于AR(2),大幅超前的预测最佳值为过程的平均值。其预测误差的方差收敛于一个有限值,它是过程在最终的预测值两侧的方差。例2 模型形式为,这里;当时,其预测值为。当时,其预测值为。当时,其预测值为。对于此过程来说,在起点的预测将是一条通过的直线。因为且所以步未来预测值记作也就是所有未来值的预测都是其现实值和历史值的指数加权平均。步未来预测的方差为例3 模型形式为,这里;当时,其预测值为。当时,其预测值为。当时,其预测值为。当时,其预测值为。对于此过程来说,在起点的预测将是一条通过和的直线。14
展开阅读全文