《随机过程》PPT课件

1 随机过程 2 在概率论与数理统计中的讨论的随机现象，通常 有一个或有穷多个随机变量去描述，所考虑到的试 验结果，一般地可用于一个或有穷多个数来表示。 许多随机现象仅研究一个或有求多个随机变量， 不能揭示有些随机现象的全部统计规律。因为在研 究这些现象时，必须考虑变化过程，它所考虑的实 验结果要用一个函数或有穷多个数来表示，随机过 程的诞生和发展，就是适应这一客观需要的。 鞅也是现代金融理论的一个核心工具。 引言 3 随机过程的定义 随机过程的分类 按统计特性是否变化分为平稳随机过程和非平稳随机过程 按照是否具有记忆性分为纯粹随机过程、 Markov过程、独立增量过 程 按照一阶变差是否有限分类：若随机过程 tt0的一阶变差有限， 称为有界变差过程。 按照二阶矩是否有限分类：若随机过程的均值和方差都有限，称为二 阶矩过程，例如前面提到的宽平稳过程。 按照概率分布特征分类：如 Weiner过程， Poission过程等。 最常见的随机过程或随机模型 主要内容 4 概率空间 (, F， Ft t ,P)上的一簇在 Rn中取值的随 机变量 t, t 就称为随机过程，其中 t : Rn , t 通常理解为时间， 为 0,+ )或其中的子集， Ft为 F上的 子 代数，且当 ts时， Ft Fs ，于是称 Ft t 为 F 中 的 代数流， (, F， Ft t ,P)也常被称为是带 代 数流的概率空间。若 为 0,+ )中的连续区间，即时间参 数属于 0,+ )中的连续区间，则称 t, t 是连续时间 的随机过程；若 t=0,1,2, ，则称为离散时间的随机过程。 显然，随机过程的随机性既与时间有关，又与由 决定 的不确定性有关。另外，我们会经常用到由随机过程 t 产生的 代数流，其中，即是由 t时刻以前的 t产生的 代数，也是使得 t可测的最小的 代数。 随机过程的定义 5 按统计特性是否变化分为平稳随机过程和 非平稳随机过程 统计特性不随时间变化而变化的随机过程，称 为平稳过程，否则，统计特性随时间变化而变化的 随机过程，称为非平稳过程。 平稳过程的严格定义为：对于时间 t 的 n个任 意的时刻 t1,t2,t n 和任意实数 C，若随机过程 t t0的分布函数满足 Fn(x1,x2,x n; t1,t2,t n)= Fn(x1,x2,x n; t1+C,t2+C,t n+C)， 则称为平稳过程。 随机过程的分类 平稳随机过程 6 平稳随机过程在实际应用中有诸多不便 ， 于是人 们又提出了宽平稳随机过程：若随机过程 t t0 的均值和协方差存在 ， 且对任意 t 0， s 0， 都有 Et =a, Cov(t , t+s )=R(s)， 则称为宽平稳过程 或二阶平稳过程 。 宽平稳的不变性表现在统计平均的一 、 二阶矩上 ， 而平稳过程的不变性表现在统计平均的概率分布上 ， 所以二者不同 ， 并且不能由平稳随机过程得到宽平 稳随机过程 。 二阶矩存在的平稳随机过程一定是宽 平稳随机过程 。 7 3.1 时间序列的平稳性及其检验 一、问题的引出：非平稳变量与经典回归 模型 二、时间序列数据的平稳性 三、平稳性的单位根检验 四、单整、趋势平稳与差分平稳随机过程 8 一、问题的引出：非平稳变量与经典 回归模型 9 常见的数据类型 到目前为止，经典计量经济模型常用到的数据有： 时间序列数据 （ time-series data)； 截面数据 (cross-sectional data) 混合截面数据 （ pooled cross-section data） 面板数据 （ panel data) 时间序列数据是最常见，也是最常用到的数据 。 10 经典回归模型与数据的平稳性 经典回归分析暗含着一个重要假设： 数据是平稳的。 数据非平稳 ， 大样本下的统计推断基础 “一致 性 ” 要求 被破怀。 经典回归分析的假设之一：解释变量 X是非随机变 量 放宽该假设： X是随机变量，则需进一步要求： (1)X与随机扰动项 不相关 Cov(X,)=0 nXX i /)( 2 QnXXP in )/)( 2l i m依概率收敛： (2) 11 第（ 2）条是为了满足统计推断中大样本下的 “ 一致 性 ” 特性： )(lim n P nx nux x ux i ii i ii / / 22 QnxP nuxP P i ii n 0 /lim /lim lim 2 第（ 1）条是 OLS估计的需要 如果 X是非平稳数据（如表现出向上的趋势）， 则（ 2）不成立，回归估计量不满足“一致性”，基 于大样本的统计推断也就遇到麻烦。 因此： 注意： 在双变量模型中： 12 表现在 :两个本来没有任何因果关系的变量，却 有很高的相关性 （有较高的 R2)： 例如： 如果有两列时间序列数据表现出一致的变 化趋势（非平稳的），即使它们没有任何有意义的 关系，但进行回归也可表现出较高的可决系数。 在现实经济生活中 ： 情况往往是 实际的时间序列数据是非平稳的 ，而 且主要的经济变量如消费、收入、价格往往表现为 一致的上升或下降。这样， 仍然通过经典的因果关 系模型进行分析，一般不会得到有意义的结果。 数据非平稳，往往导致出现 “ 虚假回归 ” 问题 13 时间序列分析 模型方法 就是在这样的情况下， 以通过揭示时间序列自身的变化规律为主线而发 展起来的全新的计量经济学方法论 。 时间序列分析 已组成现代计量经济学的重要内 容，并广泛应用于经济分析与预测当中 。 14 二、时间序列数据的平稳性 15 时间序列分析中 首先遇到的问题 是关于时间序列 数据的 平稳性 问题。 假定某个时间序列是由某一随机过程 （ stochastic process）生成的，即假定时间序列 Xt（ t=1, 2, ）的每一个数值都是从一个概率分 布中随机得到，如果满足下列条件： 1）均值 E(Xt)=是 与时间 t 无关的常数； 2）方差 Var(Xt)=2是 与时间 t 无关的常数； 3）协方差 Cov(Xt,Xt+k)=k 是 只与时期间隔 k有关， 与时间 t 无关的常数； 则称该随机时间序列是平稳的（ stationary)，而 该随机过程是一平稳随机过程（ stationary stochastic process）。 16 例 3.1.1 一个最简单的随机时间序列是一具有 零均值同方差的独立分布序列： Xt=t ， tN(0,2) 例 3.1.2 另一个简单的随机时间列序被称为 随机 游走 （ random walk） ， 该序列由如下随机过程生成： Xt=Xt-1+t 这里 ， t是一个白噪声 。 该序列常被称为是一个 白噪声（ white noise） 。 由于 Xt具有相同的均值与方差，且协方差为零 ,由 定义 ,一个白噪声序列是平稳的 。 17 为了检验该序列是否具有相同的方差，可假设 Xt的 初值为 X0，则易知 X1=X0+1 X2=X1+2=X0+1+2 Xt=X0+1+2+ +t 由于 X0为常数， t是一个白噪声，因此 Var(Xt)=t2 即 Xt的方差与时间 t有关而非常数 ， 它是一非平稳序 列 。 容易知道该序列有相同的 均值 ： E(Xt)=E(Xt-1) 18 然而，对 X取 一阶差分 （ first difference） : Xt=Xt-Xt-1=t 由于 t是一个白噪声，则序列 Xt是平稳的。 后面将会看到 :如果一个时间序列是非平稳的， 它常常可通过取差分的方法而形成平稳序列 。 事实上 ， 随机游走过程是下面我们称之为 1阶自回 归 AR(1)过程的特例 Xt=Xt-1+t 不难验证 :1)|1时 ， 该随机过程生成的时间序列是 发散的 ， 表现为持续上升 (1)或持续下降 (-1)， 因此是非平稳的； 19 可以证明 :只有当 -11或 =1时，时间序 列是非平稳的 ; 对应于（ *）式，则是 0或 =0。 24 因此，针对式 Xt=+Xt-1+t 我们关心的检验为： 零假设 H0： =0。 备择假设 H1： 0 上述检验可通过 OLS法下的 t检验完成 。 然而 ， 在零假设 （ 序列非平稳 ） 下 ， 即使在大样 本下 t统计量也是有偏误的 ， 通常的 t 检验无法使用 。 Dicky和 Fuller于 1976年提出了这一情形下 t统计量 服从的分布 （ 这时的 t统计量称为 统计量 ） ， 即 DF 分布 （ 见表 3.1.3） 。 由于 t统计量的向下偏倚性 ， 它呈现围绕小于零值 的偏态分布 。 25 因此，可通过 OLS法估计 Xt=+Xt-1+t 并计算 t统计量的值，与 DF分布表中给定显著性水 平下的临界值比较： 如果： t临界值，则拒绝零假设 H0： =0， 认为时间序列不存在单位根，是平稳的。 表 9 . 1 . 3 DF 分布临界值表 样 本 容 量 显著性水平 25 50 100 500 t 分布临界值 （ n= ） 0.01 - 3.75 - 3.58 - 3.51 - 3.44 - 3.43 - 2.33 0.05 - 3.00 - 2.93 - 2.89 - 2.87 - 2.86 - 1.65 0.10 - 2.63 - 2.60 - 2.58 - 2.57 - 2.57 - 1.28 26 注意：在不同的教科书上有不同的描述，但是 结果是相同的。 例如： “ 如果计算得到的 t统计量的绝对值大于 临界值的绝对值，则拒绝 =0”的假设，原序 列不存在单位根，为平稳序列。 27 进一步的问题 ： 在上述使用 Xt=+Xt-1+t 对时间序列进行平稳性检验中 ， 实际上 假定了时间序列是 由具有白噪声随机误差项的一阶自回归过程 AR(1)生成的 。 但在实际检验中 ， 时间序列可能由更高阶的自回归过 程生成的 ， 或者随机误差项并非是白噪声 ， 这样用 OLS法 进 行 估 计 均 会 表 现 出 随 机 误 差 项 出 现 自 相 关 （ autocorrelation） ， 导致 DF检验无效 。 另外 ， 如果时间序列包含有明显的随时间变化的某种 趋势 （ 如上升或下降 ） ， 则也容易导致上述检验中的 自相 关随机误差项问题 。 为了保证 DF检验中随机误差项的白噪声特性 ， Dicky 和 Fuller对 DF检验进行了扩充 ， 形成了 ADF（ Augment Dickey-Fuller ） 检验 。 2、 ADF检验 28 ADF检验是通过下面三个模型完成的： 模型 3 中的 t是时间变量 ， 代表了时间序列随 时间变化的某种趋势 （ 如果有的话 ） 。 检验的假设都是：针对 H1: 500 -2.58 -2.23 -1.95 -1.61 25 -3.75 -3.33 -3.00 -2.62 50 -3.58 -3.22 -2.93 -2.60 100 -3.51 -3.17 -2.89 -2.58 250 -3.46 -3.14 -2.88 -2.57 500 -3.44 -3.13 -2.87 -2.57 500 -3.43 -3.12 -2.86 -2.57 25 3.41 2.97 2.61 2.20 50 3.28 2.89 2.56 2.18 100 3.22 2.86 2.54 2.17 250 3.19 2.84 2.53 2.16 500 3.18 2.83 2.52 2.16 2 500 3.18 2.83 2.52 2.16 25 -4.38 -3.95 -3.60 -3.24 50 -4.15 -3.80 -3.50 -3.18 100 -4.04 -3.73 -3.45 -3.15 250 -3.99 -3.69 -3.43 -3.13 500 -3.98 -3.68 -3.42 -3.13 500 -3.96 -3.66 -3.41 -3.12 25 4.05 3.59 3.20 2.77 50 3.87 3.47 3.14 2.75 100 3.78 3.42 3.11 2.73 250 3.74 3.39 3.09 2.73 500 3.72 3.38 3.08 2.72 500 3.71 3.38 3.08 2.72 25 3.74 3.25 2.85 2.39 50 3.60 3.18 2.81 2.38 100 3.53 3.14 2.79 2.38 250 3.49 3.12 2.79 2.38 500 3.48 3.11 2.78 2.38 3 500 3.46 3.11 2.78 2.38 31 同时估计出上述三个模型的适当形式 ， 然后通过 ADF临界值表检验 零假设 H0： =0。 1） 只要其中有一个模型的检验结果拒绝了零假设 ， 就可以认为时间序列是平稳的； 2） 当三个模型的检验结果都不能拒绝零假设时 ， 则认为时间序列是非平稳的 。 这里所谓 模型适当的形式 就是在每个模型中选取适 当的滞后差分项 ， 以使模型的残差项是一个白噪声 （ 主要保证不存在自相关 ） 。 一个简单的检验过程： 32 四、单整、趋势平稳与差分平稳随机 过程 33 随机游走序列 Xt=Xt-1+t 经差分后等价地变形为 Xt=t 由于 t是一个白噪声 ， 因此 差分后的序列 Xt 是平稳的 。 单整 34 一般地，如果一个时间序列经过 d次差分后变成平稳序 列，则称原序列是 d 阶单整（ integrated of d）序列，记 为 I(d)。 显然， I(0)代表一平稳时间序列 。 现实经济生活中 : 1)只有少数经济指标的时间序列表现为平稳的 ， 如利率等 ; 2)大多数指标的时间序列是非平稳的 ， 如一些价格指数常 常是 2阶单整的 ， 以不变价格表示的消费额 、 收入等常表 现为 1阶单整 。 大多数非平稳的时间序列一般可通过一次或多次差分的形 式变为平稳的 。 但也有一些时间序列 ， 无论经过多少次差分 ， 都不能变为 平稳的 。 这种序列被称为 非单整的 （ non-integrated） 。 如果一个时间序列经过一次差分变成平稳的，就称原 序列是 一阶单整（ integrated of 1）序列 ，记为 I(1)。 35 例 3.1.8 中国支出法 GDP的单整性 。 经过试算 ， 发现 中国支出法 GDP是 1阶单整的 ， 适当的检验模型为 1 2 1 2 966.0495.025.26108.1174 ttt GDPGDPtGDP ( - 1 . 9 9 ) ( 4 . 2 3 ) （ - 5 . 1 8 ） ( 6 . 4 2 ) 2R = 0 . 7 5 0 1 L M ( 1 ) = 0 . 4 0 L M ( 2 ) = 1 . 2 9 36 例 3.1.9 中国人均居民消费与人均国内生产总值 的单整性 。 经过试算 ， 发现 中国人均国内生产总值 GDPPC是 2阶单 整的 ， 适当的检验模型为 1 23 60.0 tt GDP P CGDP P C （ - 2 . 1 7 ） 2R = 0 . 2 7 7 8 ， L M ( 1 ) = 0 . 3 1 L M ( 2 ) = 0 . 5 4 同样地 ， CPC也是 2阶单整的 ， 适当的检验模型为 123 67.0 tt C P CC P C （ - 2 . 0 8 ） 2R = 0 . 2 5 1 5 L M ( 1 ) = 1 . 9 9 L M ( 2 ) = 2 . 3 6 37 趋势平稳与差分平稳随机过程 前文已指出 ， 一些非平稳的经济时间序列往往表 现出共同的变化趋势 ， 而这些序列间本身不一定有 直接的关联关系 ， 这时对这些数据进行回归 ， 尽管 有较高的 R2， 但其结果是没有任何实际意义的 。 这 种现象我们称之为 虚假回归 或 伪回归 （ spurious regression） 。 如：用中国的劳动力时间序列数据与美国 GDP 时间序列作回归 ， 会得到较高的 R2 ， 但不能认为两 者有直接的关联关系 ， 而只不过它们有共同的趋势 罢了 ， 这种回归结果我们认为是虚假的 。 38 为了避免这种虚假回归的产生 ， 通常的做法是 引 入作为趋势变量的时间 ， 这样包含有时间趋势变 量的回归 ， 可以消除这种趋势性的影响 。 然而这种做法 ， 只有当趋势性变量是 确定性的 （ deterministic） 而非 随机性的 （ stochastic） ， 才会是有效的 。 换言之 ， 如果一个包含有某种确定性趋势的非 平稳时间序列 ， 可以通过引入表示这一确定性趋 势的趋势变量 ， 而将确定性趋势分离出来 。 39 1)如果 =1， =0， 则 （ *） 式成为 一带位移的 随机游走过程 ： Xt=+Xt-1+t （ *） 根据 的正负 ， Xt表现出明显的上升或下降趋势 。 这种趋势称为 随机性趋势 （ stochastic trend） 。 2)如果 =0， 0， 则 （ *） 式成为一带时间趋 势的随机变化过程： Xt=+t+t （ *） 根据 的正负 ， Xt表现出明显的上升或下降趋势 。 这 种 趋 势 称 为 确 定 性 趋 势 （ deterministic trend） 。 考虑如下的含有一阶自回归的随机过程： Xt=+t+Xt-1+t （ *） 其中 :t是一白噪声 ， t为一时间趋势 。 40 3) 如果 =1， 0，则 Xt包含有 确定性与随机 性两种趋势。 判断一个非平稳的时间序列 ， 它的趋势是随机性 的还是确定性的 ， 可通过 ADF检验中所用的第 3个 模型进行 。 该模型中已引入了表示确定性趋势的时间变量 t， 即分离出了确定性趋势的影响 。 因此 ， (1)如果检验结果表明所给时间序列有单位 根 ， 且时间变量前的参数显著为零 ， 则该序列显 示出随机性趋势 ; (2)如果没有单位根 ， 且时间变量前的参数 显著地异于零 ， 则该序列显示出确定性趋势 。 41 随机性趋势可通过差分的方法消除 如：对式 Xt=+Xt-1+t 可通过差分变换为 Xt= +t 该时间序列称为 差分平稳过程（ difference stationary process） ； 42 确定性趋势无法通过差分的方法消除，而只能 通过除去趋势项消除， 如：对式 Xt=+t+t 可通过除去 t变换为 Xt - t =+t 该时间序列是平稳的，因此称为 趋势平稳过程 （ trend stationary process） 。 最后需要说明的是， 趋势平稳过程代表了一 个时间序列长期稳定的变化过程，因而用于进行 长期预测则是更为可靠的。