ARMA时间序列模型及其相关应用教材课件

Click to edit Master title style,Click to edit Master text styles,Second level,Third level,Fourth level,Fifth level,*,*,单击此处编辑母版标题样式,编辑母版文本样式,第二级,第三级,第四级,第五级,南方医科大学,Southern Medical University,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,ARMA,时间序列模型及其相关应用,段晓曼,吴艾茜,黄衍超,2017.12.07,ARMA时间序列模型及其相关应用段晓曼,1,提纲,时间序列模型的概念,模型的识别,模型阶数的确定,模型参数的估计,模型的检验,模型的应用,2,提纲时间序列模型的概念2,一、时间序列模型的概念,3,一、时间序列模型的概念3,时间序列的概念,时间序列是指将,同一统计,指标的数值按其发生的,时间先后顺序排列,而成的序列。,时间序列分析的主要目的是根据已有的历史数据对未来进行,预测,。,2000-2013,年我国,GDP,增长图,*,公开数据整理,4,时间序列的概念时间序列是指将同一统计指标的数值按其发生的时间,ARMA,模型的概念,ARMA,模型（,自回归滑动平均,模型，,Auto-Regressive and Moving Average Model,）是研究时间序列的重要方法。,1976,年，英国统计学家,G.E.P.Box,和英国统计学家,G.M.Jenkins,联合出版了,时间序列分析,预测和控制,一书，在总结前人的研究的基础上，系统地阐述了,ARMA,模型的,识别、估计、检验及预测,的原理和方法，成为时间序列分析的核心，故,ARMA,模型也称为,Box-Jenkins,模型。,5,ARMA模型的概念ARMA 模型（自回归滑动平均模型，Aut,ARMA,模型的概念,ARMA,是一种,单变量、同方差,的线性模型，对于满足有限参数线形模型的,平稳时间序列,，主要有以下三种基本形式：,自回归模型（,AR : Auto-regressive,）,移动平均模型（,MA : Moving-Average,）,混合模型（,ARMA : Auto-regressive Moving-Average,）,平稳时间序列：统计量的统计规律不随时间变化。,6,ARMA模型的概念ARMA 是一种单变量、同方差的线性模型，,设 为,零均值,的实平稳时间序列，阶数为,p,的自回归模型定义为：,AR,模型,模型简记为 ，是时间序列 自身回归的表达式，所以称为自回归模型。,其中， 是独立同分布的随机变量序列，且满足 ， 也称白噪声序列。,为了方便表示，引进延迟算子的概念。令：,则自回归模型可写为：,其中：,7,设 为零均值的实平稳时间序列，阶数为p的自回归,对于模型：,AR,模型,若满足条件： 的根全在单位圆外，即所有根的模都大于,1,，则称此条件为,AR(,p,),模型的,平稳性条件,。,当模型满足平稳性条件时，,存在,且一般是,B,的幂级数，于是模型又可写为：,8,对于模型：AR模型若满足条件： 的根全在单位圆外,设 为,零均值,的实平稳时间序列，阶数为,q,的滑动平均模型定义为：,模型简记为 。同样为了方便表示，引进延迟算子的概念。令：,则滑动平均模型可写为：,其中：,MA,模型,若满足条件： 的根全在单位圆外，则称此条件为,MA(,q,),模型的,可逆性条件,，此时,存在且一般是,B,的幂级数，于是模型又可写为：,9,设 为零均值的实平稳时间序列，阶数为q的滑动平均模型定,AR,与,MA,模型的比较,自回归模型：,意义在于仅通过时间序列变量的,自身历史观测值,来反映有关因素对预测目标的影响和作用，不一定平稳。,滑动平均模型：,意义在于用过去,各个时期的随机干扰,（白噪声）或预测误差的线性组合来表达当前预测值，但具有不一定可逆性。,10,AR与MA模型的比较自回归模型：10,ARMA,模型,设 为零均值的实平稳时间序列，,p,阶自回归,q,阶滑动平均混合,模型,定义为：,=,模型简记为,ARMA(,p,q,).,显然，当,q,=0,时，,ARMA(,p,q,),模型就是,AR (,p,),模型；,显然，当,p,=0,时，,ARMA(,p,q,),模型就是,MA (,q,),模型；,ARMA(,p,q,),模型的平稳性只依赖于,AR,部分；,ARMA(,p,q,),模型的可逆性只依赖于,MA,部分；,11,ARMA模型设 为零均值的实平稳时间序列，p阶自回归q,二、模型的识别,12,二、模型的识别12,MA,模型的自相关函数,阶数为,q,的滑动平均模型定义为：,根据自相关函数的定义：,因为,所以自相关函数变为三项：,13,MA模型的自相关函数阶数为q的滑动平均模型定义为：根据自相关,MA,模型的自相关函数,对于：,分以下几种情况讨论：,1,）当,k,=0,时，有,2,）当,时，有,3,）当,kq,时，有,从上述性质可以看出，,MA(,q,),序列的自相关系数 在,kq,时全为,0.,这种性质称为,q,步截尾性,，表明序列只有,q,步相关性。,14,MA模型的自相关函数对于：分以下几种情况讨论：2）当,AR,模型的自相关函数,阶数为,q,的自相关模型定义为：,根据自相关函数的定义：,令,k=,1,2,p,得自相关系数：,从上述性质可以看出，,AR(q),序列的自相关系数 随着,k,的增大始终不为,0,.,这种性质称为,拖尾性,，并且是呈负指数衰减。,15,AR模型的自相关函数阶数为q的自相关模型定义为：根据自相关函,ARMA,模型的自相关函数,ARMA(,p,q,),模型的自相关系数，可以看做,AR(,p,),模型的自相关函数和,MA(,q,),模型的自相关系数的混合物。,当,p,=0,时，它具有截尾性质；,当,q,=0,时，它具有拖尾性质；,当,p,，,q,均不为,0,时，如果当,p,q,均大于或者等于,2,，其自相关函数的表现形式比较复杂，有可能呈现出指数衰减、正弦衰减或者二者的混合衰减，但通常都具有,拖尾性质,。,16,ARMA模型的自相关函数ARMA(p, q)模型的自相关系数,偏相关函数,从上面的讨论可知，对于自相关函数，只有,MA(,q,),模型是,截尾,的，,AR(,p,),和,ARMA(,p,q,),模型是,拖尾,的。为了进一步区分,AR(,p,),模型和,ARMA(,p,q,),模型，我们引入了偏相关函数的概念。,对于,零均值的平稳时间序列,中，,给定,，则 之间的偏相关函数定义为：,注意：此时的期望指的是条件期望。,17,偏相关函数从上面的讨论可知，对于自相关函数，只有MA(q)模,AR,模型偏相关函数,设 为,零均值,的实平稳时间序列，设它满足,AR(,p,),模型：,用 乘上式两边，当给定 时，取条件期望得：,因为,k0,时， ，且有,故,显然 即为,AR(,p,),序列的偏相关函数，同时它又是,AR(,p,),模型的最后一个回归系数。当,kp,时，有 ，也即是,截尾,的。,18,AR模型偏相关函数设 为零均值的实平稳时间序列，,ARMA,模型偏相关函数,ARMA,模型的偏相关函数求解方法和上述略有不同，考虑用,对 做,最小方差估计,来求,ARMA(,p,q,),序列,(,把,MA(,q,),看作是,p,=0,的特例,),的偏相关函数 ，同时推出偏相关函数与自相关函数的关系。,当,k,p,时，,即,ARMA,模型和,MA,模型都是拖尾的,。,19,ARMA模型偏相关函数ARMA模型的偏相关函数求解方法和上述,平稳时间序列的类型识别,类别,模型,AR(,p,),MA(,q,),ARMA(,p,q,),模型方程,平稳条件,的根全在单位圆外,无条件平稳,的根全在单位圆外,自相关函数,拖尾,截尾,拖尾,偏相关函数,截尾,拖尾,拖尾,20,平稳时间序列的类型识别类别模型AR(p)MA(q)ARMA(,三、模型阶数的确定,21,三、模型阶数的确定21,讨论：,如何用样本自相关函数来推断模型的阶。,模型阶数的确定,22,讨论：模型阶数的确定22,样本的自相关函数,样本自相关函数定义为：,模型阶数的确定,（式,1,）,由样本值求出样本自相关函数,23,样本的自相关函数样本自相关函数定义为：模型阶数的确定（式1,由正态分布的性质知，,或,在实际应用中，因为,q,一般不是很大，而,N,很大，此时常取,或,24,由正态分布的性质知，或在实际应用中，因为q一般不是很大，而,或,（,3,）,ARMA(,p,q,),模型,的阶数,p,和,q,难于确定，一般采用由低阶到高阶逐个试探，如取,(,p,q,),为,(1,1),，,(1,2),，,(2,1),，,直到经验证认为模型合适为止。,25,或（3）ARMA(p, q)模型的阶数p和q难于确定，,四、模型参数的估计,26,四、模型参数的估计26,当选定模型及确定阶数后，进一步地问题是要估计出模型的未知参数。参数估计方法有,矩法,、最小二乘法、极大似然法等。,模型参数的估计,27,当选定模型及确定阶数后，进一步地问题是要估计出模型的,模型参数的估计,写成矩阵式为,（式,2,）,（式,3,）,推导见课本,P135,AR(,p,),模型的参数估计,28,模型参数的估计写成矩阵式为（式2）（式3）推导见课本P1,利用,(,式,2),，,(,式,3),将参数换成它们的估计，,模型参数的估计,AR(,p,),模型的参数估计,29,利用(式2)，(式3) 将参数换成它们的估计，模型参数的估计,模型参数的估计,将参数换成它们的估计，,可直接求解，也可迭代求解。,MA(,q,),模型的参数估计,MA(,q,),序列,的协方差函数表达式,30,模型参数的估计将参数换成它们的估计，可直接求解，也可迭代,模型参数的估计,首先，利用（式,4,），将参数换成它们的估计,（式,4,）,ARMA(,p,q,),模型的参数估计,31,模型参数的估计首先，利用（式4），将参数换成它们的估计（,然后，令,模型参数的估计,ARMA(,p,q,),模型的参数估计,32,然后，令模型参数的估计ARMA(p, q)模型的参数,五、模型的检验,33,五、模型的检验33,模型的检验,34,模型的检验34,模型的检验,M,取,N/10,左右,35,模型的检验M取N/10左右35,六、模型的应用,36,六、模型的应用36,时间序列或动态数据是依,时间顺序,先后排列的，各有其大小的一列数据。这种有序性和大小反映了数据内部的相互联系和变化规律，蕴含着产生这列数据的现象、过程或系统的有关特性，有关的信息。,研究、分析与处理动态数据，正是为了揭示数据本身的结构与规律，了解系统的特性，明了系统与外界的联系，推断数据与系统的未来情况。,但是，通常人们获得的实测数据总是有限而非无限的，所以时间序列分析就是在有限个样本数据总量的情况下，建立,相对准确的数学模型,，从而获得具有一定精度的统计特性，进而达到预判经济形势、规避风险等目的。,时间序列分析,37,时间序列或动态数据是依时间顺序先后排列的，各有其大小,某商品月销售额,时间,1991,年,1992,年,1993,年,1994,年,1995,年,1996,年,1,月份,603.2225,612.8499,620.2722,629.6026,640.5817,649.4008,2,月份,636.8149,645.9645,655.7020,663.0500,672.2036,681.6999,3,月份,707.1452,715.9899,723.8026,733.8552,743.0334,752.3501,4,月份,638.0379,646.1702,654.8081,664.6104,675.1520,684.5226,5,月份,620.6295,628.2095,636.0499,645.5190,655.5609,663.9633,6,月份,707.2703,717.1703,725.7692,735.4458,741.9791,753.3347,7,月份,539.0789,549.4425,557.4150,566.1298,573.6024,583.9347,8,月份,252.8602,259.8826,270.9799,279.3648,288.2158,297.6162,9,月份,591.7836,601.1425,611.3857,620.6696,627.7034,639.4998,10,月份,626.9935,637.4908,646.0962,654.9507,663.0892,672.4449,11,月份,582.6923,592.8298,602.6265,611.4662,620.7718,629.9501,12,月份,611.3965,620.8653,630.0778,637.0239,647.4319,655.4984,构建模型的数据（,67,个数据，,5,个测试数据）,构建时间序列模型,38,某商品月销售额时间1991年1992年1993年1994年1,使用,SPSS,画出时间序列的序列图,序列特点：,1.,序列具有周期性，且周期为,12,个月。,2.,序列具有上升趋势。,3.,序列不平稳。,构建时间序列模型,39,使用SPSS画出时间序列的序列图序列特点：构建时间序列模型3,RA,、,MA,、,RAMA,模型，只适用于平稳时间序列，但是通过前面的分析，该时间序列的模型符合以下特征：,其中 是,趋势项,， 是,周期项,， 则是,平稳序列,。,只要能将平稳序列 从原始具有趋势的非平稳序列 中提取出来，就可以对提取出来的序列进行上述平稳序列的分析。,而一个具有趋势项的非平稳序列，总是可以在,经过若干次差分后,变为平稳序列。当然，具有周期性的序列也可以通过季节性的差分提取平稳序列。,如果序列蕴含着显著的线性趋势，,一阶差分就可以实现趋势平稳,；如果序列蕴含着曲线趋势，,通常低阶（二阶或三阶）差分就可以提取出曲线趋势的影响,；对于蕴含着固定周期的序列进行步长为周期长度的差分运算，通常可以较好的提取周期信息。,构建时间序列模型,序列平稳化,40,RA 、MA 、RAMA模型，只适用于平稳时间,构建时间序列模型,序列平稳化,进行季节性差分，周期为,12,序列特点：,1.,周期性基本去除；,2.,序列仍然具有上升趋势。,41,构建时间序列模型序列平稳化进行季节性差分，周期为12序列,构建时间序列模型,序列平稳化,进行季节性差分以及一阶差分,序列特点：,1.,周期性基本去除；,2.,序列围绕着,0,波动，零均值。,3.,经过差分处理后为平稳的序列适用于,ARMA,模型时，称这种模型为,ARIMA(p,d,q)(P,D,Q),42,构建时间序列模型序列平稳化进行季节性差分以及一阶差分序列,构建时间序列模型,相关性分析,自相关函数,特性：,1.,自相关函数在一阶滞后的函数值基本都落入置信区间。,2.,在,12,阶滞后时自相关系数超出置信区间，周期性趋势仍存在。,3.,自相关函数拖尾，无截断。,43,构建时间序列模型相关性分析自相关函数特性：43,特性：,1.,偏相关函数在二阶滞后的函数值基本都落入置信区间；,2.,偏相关函数拖尾，无截断,差分处理后的模型适用于,ARMA,模型，因此对原序列采用,ARIMA,模型分析。,3.,根据偏相关函数：初步定阶为：非周期性滞后偏相关阶数,p,= 2,，周期性滞后偏相关阶数,P=0,；,4.,根据相关函数，,初步定阶为：非周期性滞后相关阶数q =1，周期性滞后相关阶数Q=,1,；,构建时间序列模型,相关性分析,偏相关函数,44,特性：构建时间序列模型相关性分析偏相关函数44,构建时间序列模型,确定模型,构建模型：,1.,选择销售额作为因变量输入。,2.,在方法中选择使用,ARIMA,模型，阶数为,(2,1,1)(0,1,1),前面的括号表示非周期性滞后阶数变量，其中,p,=2,，,d,=1,，,q,=1,，,d,表示的是差分的阶数；后面的括号表示的是季节性滞后阶数变量，其中,D,=1,表示进行,1,次季节性差分。,45,构建时间序列模型确定模型构建模型：45,构建时间序列模型,结果分析,当模型为,RAIMA(2,1,1)(0,1,1),时,Ljung-Box,检验的显著性水平为,0.264 0.05,接受原假设：即真实值与预测值的残差是白噪声，说明模型可行。,预测结果,时间,1996年8月,1996年9月,1996年10月,1996年11月,1996年12月,预测值,297.,5634,637.7872,672.8924,629.6920,656.5378,真实值,297.6162,639.4998,672.4449,629.9501,655.4984,差值,-0.0528,-1.7126,0.4475,-0.2581,1.0394,预测结果与真实值的差别不大，模型具有较好的预测能力。,46,构建时间序列模型结果分析当模型为RAIMA(2,1,1),构建时间序列模型,结果分析,预测结果时间序列,47,构建时间序列模型结果分析预测结果时间序列47,总结,1.,本次试验仅仅对销售额做了简单的时间序列的拟合与预测，但往往数据的影响因素是多样的，如果在建立模型时考虑多种因素，那么模型的准确度更高。,2.,时间序列在金融、自然灾害等预测方面应用广泛，且在,SPSS,下操作简单，构造模型具有一定的准确性。,3.,目前对于预测未来趋势的相关研究，多转入了机器学习的研究。,48,总结1.本次试验仅仅对销售额做了简单的时间序列的拟合与预测，,谢谢！,49,谢谢！49,激励学生学习的名言格言,220,、每一个成功者都有一个开始。勇于开始，才能找到成功的路。,221,、世界会向那些有目标和远见的人让路（冯两努,香港著名推销商）,222,、绊脚石乃是进身之阶。,223,、销售世界上第一号的产品,不是汽车，而是自己。在你成功地把自己推销给别人之前，你必须百分之百的把自己推销给自己。,224,、即使爬到最高的山上，一次也只能脚踏实地地迈一步。,225,、积极思考造成积极人生，消极思考造成消极人生。,226,、人之所以有一张嘴，而有两只耳朵，原因是听的要比说的多一倍。,227,、别想一下造出大海，必须先由小河川开始。,228,、有事者，事竟成；破釜沉舟，百二秦关终归楚；苦心人，天不负；卧薪尝胆，三千越甲可吞吴。,229,、以诚感人者，人亦诚而应。,230,、积极的人在每一次忧患中都看到一个机会，而消极的人则在每个机会都看到某种忧患。,231,、出门走好路，出口说好话，出手做好事。,232,、旁观者的姓名永远爬不到比赛的计分板上。,233,、怠惰是贫穷的制造厂。,234,、莫找借口失败，只找理由成功。（不为失败找理由，要为成功找方法）,235,、如果我们想要更多的玫瑰花，就必须种植更多的玫瑰树。,236,、伟人之所以伟大，是因为他与别人共处逆境时，别人失去了信心，他却下决心实现自己的目标。,237,、世上没有绝望的处境，只有对处境绝望的人。,238,、回避现实的人，未来将更不理想。,239,、当你感到悲哀痛苦时，最好是去学些什么东西。学习会使你永远立于不败之地。,240,、伟人所达到并保持着的高处，并不是一飞就到的，而是他们在同伴们都睡着的时候，一步步艰辛地向上爬,241,、世界上那些最容易的事情中，拖延时间最不费力。,242,、坚韧是成功的一大要素，只要在门上敲得够久、够大声，终会把人唤醒的。,243,、人之所以能，是相信能。,244,、没有口水与汗水，就没有成功的泪水。,245,、一个有信念者所开发出的力量，大于,99,个只有兴趣者。,246,、环境不会改变，解决之道在于改变自己。,247,、两粒种子，一片森林。,248,、每一发奋努力的背后，必有加倍的赏赐。,249,、如果你希望成功，以恒心为良友，以经验为参谋，以小心为兄弟，以希望为哨兵。,250,、大多数人想要改造这个世界，但却罕有人想改造自己。,激励学生学习的名言格言,50,