平稳时序模型ARMA课件

2.32.3 时间序列模型时间序列模型Stochastic Time Serial ModelStochastic Time Serial Model一、一、时间序列模型概述时间序列模型概述 二、二、平稳时间序列模型的平稳性条件模型的平稳性条件三、三、时间序列模型的识别时间序列模型的识别四、四、时间序列模型的估计时间序列模型的估计五、五、时间序列模型的检验时间序列模型的检验六、六、ARIMA模型案例案例说明说明严格从理论体系讲，本节内容属于时间序列分严格从理论体系讲，本节内容属于时间序列分析，但不属于我们所定义的狭义的计量经济学。析，但不属于我们所定义的狭义的计量经济学。本节内容一般不纳入计量经济学的课堂教学内本节内容一般不纳入计量经济学的课堂教学内容，供没有学习过应用数理统计或者经济预测容，供没有学习过应用数理统计或者经济预测课程的同学自学。课程的同学自学。课件只提供一个简单的思路。课件只提供一个简单的思路。一、一、时间序列模型概述时间序列模型概述1、时间序列模型、时间序列模型两类时间序列模型两类时间序列模型时间序列结构模型：时间序列结构模型：通过协整分析，建立反映不同时间通过协整分析，建立反映不同时间序列之间结构关系的模型，揭示了不同时间序列在每个序列之间结构关系的模型，揭示了不同时间序列在每个时点上都存在的结构关系。时点上都存在的结构关系。随机时间序列模型：随机时间序列模型：揭示时间序列不同时点观测值之间揭示时间序列不同时点观测值之间的关系，也称为的关系，也称为无条件预测模型。无条件预测模型。平稳时间序列模型包括：平稳时间序列模型包括：AR(p)、MA(q)、ARMA(p,q)。平稳时间序列模型并不属于现代计量经济学。平稳时间序列模型并不属于现代计量经济学。2、随机时间序列模型的适用性、随机时间序列模型的适用性用于无条件预测用于无条件预测结构模型用于预测的条件：建立正确的结构模型，给定结构模型用于预测的条件：建立正确的结构模型，给定外生变量的预测值。外生变量的预测值。无条件预测模型的优点。无条件预测模型的优点。结构模型的简化形式结构模型的简化形式结构模型经常可以通过约化和简化，变换为随及时间序结构模型经常可以通过约化和简化，变换为随及时间序列模型。列模型。二、随机时间序列模型的平稳性条件二、随机时间序列模型的平稳性条件1 1、AR(p)AR(p)模型的平稳性条件模型的平稳性条件随随机机时时间间序序列列模模型型的的平平稳稳性性，可可通通过过它它所所生生成成的随机时间序列的平稳性来判断。的随机时间序列的平稳性来判断。如如果果一一个个p p阶阶自自回回归归模模型型AR(p)AR(p)生生成成的的时时间间序序列列是是平平稳稳的的，就就说说该该AR(p)AR(p)模模型型是是平平稳稳的的；否则，就说该否则，就说该AR(p)AR(p)模型是非平稳的。模型是非平稳的。考虑考虑p p阶自回归模型阶自回归模型AR(p)AR(p)AR(AR(p p)的特征方程的特征方程 可以证明，如果该特征方程的可以证明，如果该特征方程的所有根在单位圆所有根在单位圆外外（根的模大于（根的模大于1），则），则AR(p)模型是平稳的。模型是平稳的。容易得到如下平稳性条件容易得到如下平稳性条件必要条件 充分条件 2 2、MA(q)MA(q)模型的平稳性模型的平稳性有限阶移动平均模型总是平稳的。有限阶移动平均模型总是平稳的。当滞后期大于q时，X的自协方差系数为0。3、ARMA(p,q)模型的平稳性模型的平稳性ARMA(p,q)平稳性取决于平稳性取决于AR(p)的平稳性。的平稳性。当当AR(p)AR(p)部分平稳时，则该部分平稳时，则该ARMA(p,q)ARMA(p,q)模型是平模型是平稳的，否则，不是平稳的。稳的，否则，不是平稳的。4 4、总结、总结一个平稳的时间序列总可以找到生成它的平稳一个平稳的时间序列总可以找到生成它的平稳的随机过程或模型。的随机过程或模型。一个非平稳的随机时间序列通常可以通过差分一个非平稳的随机时间序列通常可以通过差分的方法将它变换为平稳的，对差分后平稳的时的方法将它变换为平稳的，对差分后平稳的时间序列也可找出对应的平稳随机过程或模型。间序列也可找出对应的平稳随机过程或模型。如果将一个非平稳时间序列通过如果将一个非平稳时间序列通过d d次差分，将次差分，将它变为平稳的，然后用一个平稳的它变为平稳的，然后用一个平稳的ARMA(p,q)ARMA(p,q)模型作为它的生成模型，则该原始时间序列是模型作为它的生成模型，则该原始时间序列是一个一个自回归单整移动平均（自回归单整移动平均（autoregressive autoregressive integrated moving averageintegrated moving average）时间序列，记）时间序列，记为为ARIMA(p,d,q)ARIMA(p,d,q)。三、随机时间序列模型的识别三、随机时间序列模型的识别所所谓谓随随机机时时间间序序列列模模型型的的识识别别，就就是是对对于于一一个个平平稳稳的的随随机机时时间间序序列列，找找出出生生成成它它的的合合适适的的随随机机过过程程或或模模型型，即即判判断断该该时时间间序序列列是是遵遵循循一一纯纯ARAR过程、还是遵循一纯过程、还是遵循一纯MAMA过程或过程或ARMAARMA过程。过程。所所使使用用的的工工具具主主要要是是时时间间序序列列的的自自相相关关函函数数（autocorrelation autocorrelation functionfunction，ACFACF）及及偏偏自自相相 关关 函函 数数（partial partial autocorrelation autocorrelation functionfunction，PACF PACF）。）。1 1、AR(p)AR(p)过程过程自相关函数自相关函数ACFACFk期滞后自协方差 k阶自相关函数 可见，无论可见，无论k k有多大，有多大，k k的计算均与其到的计算均与其到p p阶滞后的自阶滞后的自相关函数有关，因此呈拖尾状。相关函数有关，因此呈拖尾状。如果如果AR(p)AR(p)是平稳的，则是平稳的，则|k k|递减且趋于零递减且趋于零（可作为平稳性判断方法）（可作为平稳性判断方法）。偏自相关函数偏自相关函数 自相关函数自相关函数ACF(k)ACF(k)给出了给出了X Xt t与与X Xt-1t-1的总体相关性，的总体相关性，但总体相关性可能掩盖了变量间完全不同的隐但总体相关性可能掩盖了变量间完全不同的隐含关系。含关系。与之相反，与之相反，X Xt t与与X Xt-kt-k间的间的偏自相关函数偏自相关函数(partial(partial autocorrelationautocorrelation，简记为，简记为PACF)PACF)则是消除了中则是消除了中间变量间变量X Xt-1t-1，X Xt-k+1t-k+1 带来的间接相关后的直带来的间接相关后的直接相关性，它是在已知序列值接相关性，它是在已知序列值X Xt-1t-1，X Xt-k+1t-k+1的的条件下，条件下，X Xt t与与X Xt-kt-k间关系的度量。间关系的度量。AR(p)AR(p)的一个主要特征是的一个主要特征是:kp:kp时，时，k k*=Corr(*=Corr(X Xt t,X,Xt-kt-k)=0)=0 ，即即 k k*在在p p以后是截尾的。以后是截尾的。随机时间序列随机时间序列AR(p)AR(p)的识别原则：的识别原则：若若XtXt的的偏偏自自相相关关函函数数在在p p以以后后截截尾尾，即即kp时时，k*=0=0，而而它它的的自自相相关关函函数数 k是是拖拖尾尾的的，则则此此序列是自回归序列是自回归AR(p)AR(p)序列。序列。AR(p)模型的自相关函数和偏自相关函数的计算看起来较为复杂，但是计量经济学软件都有自相关和偏相关函数的菜单，使用起来非常方便。以Eviews软件为例，我们来看AR(p)模型的自相关函数和偏自相关函数。18AR(1)模型模型xt=0.7xt-1+ut的自相关图和偏自相关图的自相关图和偏自相关图自相关图呈现出拖尾特征拖尾特征 偏自相关图在1阶以后呈现出截尾特征截尾特征192 2、MA(q)MA(q)过程过程MA(q)模型的识别规则：模型的识别规则：若随机序列的自相关若随机序列的自相关函数截尾，即自函数截尾，即自q q以后，以后，k k=0=0（kqkq）；而它的）；而它的偏自相关函数是拖尾的，则此序列是滑动平均偏自相关函数是拖尾的，则此序列是滑动平均MA(q)MA(q)序列。序列。MA(1)模型模型xt=ut+0.8ut-1的自相关图和偏自相关图的自相关图和偏自相关图偏自相关图呈现出拖尾特征拖尾特征 自相关图在1阶以后呈现出截尾特征截尾特征213 3、ARMA(p,q)ARMA(p,q)过程过程ARMA(p,q)ARMA(p,q)模型的识别规则：模型的识别规则：若随机序列的自若随机序列的自相关函数和偏自相关函数都是拖尾的，则此序相关函数和偏自相关函数都是拖尾的，则此序列是列是ARMA(p,q)ARMA(p,q)序列。序列。实际上，实际上，ARMA(p,q)ARMA(p,q)过程的偏自相关函数，可过程的偏自相关函数，可能在能在p p阶滞后前有几项明显的尖柱（阶滞后前有几项明显的尖柱（spikesspikes），），但从但从p p阶滞后项开始逐渐趋向于零；而它的自阶滞后项开始逐渐趋向于零；而它的自相关函数则是在相关函数则是在q q阶滞后前有几项明显的尖柱，阶滞后前有几项明显的尖柱，从从q q阶滞后项开始逐渐趋向于零。阶滞后项开始逐渐趋向于零。ARMA(1,1)模型模型xt=0.8xt-1+ut-0.3ut-1的自相关图和偏自相关图的自相关图和偏自相关图可以看出，可以看出，ARMA(1,1)模型的自相关图和偏自相关图均是模型的自相关图和偏自相关图均是在在k=1达到峰值后呈现出按指数衰减的拖尾特征达到峰值后呈现出按指数衰减的拖尾特征。23ARMA(2,2)模型模型xt=0.8xt-1-0.3xt-2+ut-0.5ut-1+0.7ut-2的自相关图和偏自相关图的自相关图和偏自相关图可以看出，可以看出，ARMA(2,2)模型的自相关图和偏自相关图在模型的自相关图和偏自相关图在k=1、2达到两个峰值后达到两个峰值后按指数或正弦衰减按指数或正弦衰减。24ARMA模型的识别原则的识别原则ARMAARMAACF拖尾q阶截尾拖尾PACFp阶截尾拖尾拖尾至于模型中的p和q阶具体取什么值，则要从低阶开始逐步试探，直到合适的模型为止。四、随机时间序列模型的估计四、随机时间序列模型的估计AR(p)AR(p)、MA(q)MA(q)、ARMA(p,q)ARMA(p,q)模模型型的的估估计计方方法法较较多，多，大体上分为大体上分为3 3类：类：最小二乘估计；最小二乘估计；矩估计；矩估计；利用自相关函数的直接估计利用自相关函数的直接估计。下面有选择地加以介绍。下面有选择地加以介绍。AR(p)AR(p)模型的模型的Yule WalkerYule Walker方程估计方程估计k=-k此方程组被称为此方程组被称为Yule WalkerYule Walker方程组。该方程方程组。该方程组建立了组建立了AR(p)AR(p)模型的模型参数模型的模型参数 1 1,2 2,p p与自相关函数与自相关函数 1 1,2 2,p p的关系。的关系。MA(q)MA(q)模型的矩估计模型的矩估计将将MA(q)模型的自协方差函数中的各个量用估计模型的自协方差函数中的各个量用估计量代替，得到：量代替，得到：非线性方程组，用直接法非线性方程组，用直接法或迭代法求解。常用的迭或迭代法求解。常用的迭代方法有线性迭代法和代方法有线性迭代法和Newton-RaphsanNewton-Raphsan迭代法。迭代法。ARMA(p,q)ARMA(p,q)模型的矩估计模型的矩估计 在在 ARMA(p,q)中中 共共 有有(p+q+1)个个 待待 估估 参参 数数 1,2,p与与 1,2,q以以及及 2，其其估估计计量量计计算步骤及公式如下：算步骤及公式如下：第一步第一步，估计，估计 1,2,p 第二步，第二步，改写模型，求改写模型，求 1,2,q以及以及 2的估计的估计值值 构成一个构成一个MAMA模型。按照估计模型。按照估计MAMA模型参数的方法，模型参数的方法，可以得到可以得到 1 1,2 2,q q以及以及 2 2的估计值。的估计值。AR(p)AR(p)的最小二乘估计的最小二乘估计解该方程组，就可得到待估参数的估计值。解该方程组，就可得到待估参数的估计值。五、模型的检验五、模型的检验1 1、残差项的白噪声检验、残差项的白噪声检验由于由于ARMA(p,q)ARMA(p,q)模型的识别与估计是在假设随模型的识别与估计是在假设随机扰动项是一白噪声的基础上进行的，因此，机扰动项是一白噪声的基础上进行的，因此，如果估计的模型确认正确的话，残差应代表一如果估计的模型确认正确的话，残差应代表一白噪声序列。白噪声序列。如果通过所估计的模型计算的样本残差不代表如果通过所估计的模型计算的样本残差不代表一白噪声，则说明模型的识别与估计有误，需一白噪声，则说明模型的识别与估计有误，需重新识别与估计。重新识别与估计。在实际检验时，主要检验残差序列是否存在自在实际检验时，主要检验残差序列是否存在自相关。相关。可用可用Q QLBLB统计量进行统计量进行 2 2检验：在给定显著性水平检验：在给定显著性水平下，可计算不同滞后期的下，可计算不同滞后期的Q QLBLB值，通过与值，通过与 2 2分布分布表中的相应临界值比较，来检验是否拒绝残差表中的相应临界值比较，来检验是否拒绝残差序列为白噪声的假设。若大于相应临界值，则序列为白噪声的假设。若大于相应临界值，则应拒绝所估计的模型，需重新识别与估计。应拒绝所估计的模型，需重新识别与估计。2 2、AICAIC与与SBCSBC模型选择标准模型选择标准在多组通过识别检验的（在多组通过识别检验的（p,qp,q）值选择最适当）值选择最适当的模型。的模型。常用的模型选择的判别标准有：常用的模型选择的判别标准有：赤池信息法赤池信息法（Akaike information criterion，简记为，简记为AICAIC）与施瓦兹贝叶斯法（与施瓦兹贝叶斯法（Schwartz Bayesian criterion，简记为，简记为SBCSBC）：）：在选择可能的模型时，在选择可能的模型时，AICAIC与与SBCSBC越小越好。越小越好。六、六、ARIMA模型案例案例如何使用ARMA模型来考察非平稳单位根过程数据的动态性呢？一种简单的方法就是：首先对单位根变量(比如)进行差分，使之变为平稳数据，然后对差分后的平稳数据使用ARMA模型进行分析。这种情形下的ARMA模型就成为ARIMA模型。如：ARIMA(2,1,3)，其中2表示自回归的阶数，3表示移动平均的阶数，1则表示差分的数次。为说明如何使用ARIMA模型考察时间序列数据的动态调整过程，我们来看一下我国通货膨胀的动态调整行为。以年度商品零售价格指数()表示通胀率，数据来源于新中国60周年统计资料汇编，见图2.3.1：图2.3.1：我国年度通胀率从数据波动特征看，我国的通胀率没有明显上升趋势，也没有明显的下降趋势，意味着数据生成过程中不包括确定性趋势，因此，我们使用不含漂移项和时间趋势项的单位根检验，使用AIC准则确定滞后期，检验结果为：t=(-0.175)(0.736)(-2.79)输出结果：可以判定为 考察 的自相关图（AC）和偏自相关图（PAC）它们具有一定“拖尾”的特征，因此使用ARMA模型分析。结合最小AIC准则，最终确定的短期动态调整行为由ARIMA(2,1,2)所表述即：t=(0.54)(0.54)(2.82)(-2.08)(-7.05)输出结果：