时间序列-AR模型.ppt

1 自回归模型 一 自回归模型的定义 二 中心化模型 三 平稳AR p 模型的平稳解 2 自回归模型 四 自回归模型的阶数的估计 五 自回归模型的参数的估计 六 自回归模型的检验 七 自回归模型的预报 3 时间序列分析最重要的应用是分析和表征观察值之间的相互依赖性与相关性 若对这种相关性进行量化处理 那么就可以方便地从系统的过去值预测将来的值 在数理统计中讨论的数据的线性回归模型 很好地表示了因变量yt的观察值对自变量观测值xt1 xt2 xtp的相关性 解决了他们之间的相关性问题 但是 对一组随机观测数据 即一个时间序列内部的相关关系它却描述不出来 即它不能描述数据内部之间的相互依赖关系 4 另一方面 某些随机过程与另一些变量取值之间的随机关系 往往根本无法用任何函数关系式来描述 这时就需要采用这个时间序列本身的观测数据之间的依赖关系来揭示这个时序的规律性 5 一 自回归模型的定义 定义2 1设 xt t 0 1 2 为时间序列 白噪声序列为 t t 0 1 2 且对任意的s t E xs t 0 则称满足等式 的时间序列为p阶自回归 Autoregression 序列 上式为p阶自回归模型 记作AR p 易见 此自回归模型描述了数据序列内部的递推的线性回归关系 6 例1 1单摆现象 单摆在第t个摆动周期中最大摆幅记为xt 由于阻尼作用 在第t 1个摆动周期中 其最大振幅为 其中 为阻尼系数 若再受到外界干扰 t的影响 则实际上的最大振幅为 易见 此例即为一个一阶自回归模型AR 1 7 一般的 在AR p 模型中的系数多项式 称为AR p 模型的自回归系数多项式 若 u 0的根都在单位圆外时 称此为平稳的AR p 模型 否则为非平稳的AR p 模型 或广义的AR p 模型 注 条件 u 0的根都在单位圆外 称为平稳性条件 8 例1 2如果时间序列xt满足 试问此xt是否为平稳的序列模型 解 因为其自回归系数多项式为 易见 u 0的根为3 2 1 所以这是平稳的AR 1 模型 9 例1 3如果时间序列xt满足 试问此xt是否为平稳的序列模型 解 由于其自回归系数多项式为 的根为u1 2 1与u2 1 2 1 故知其根不都在单位圆外 所以这是非平稳的AR 2 序列模型 10 自回归模型是描述系统内部的回归关系 故称为自回归 与通常的线性回归性质是不一样的 11 二 中心化AR p 模型 设 xt 为平稳序列 且有 则对上式两端同取数学期望 即得 由于 xt 为平稳序列 故 12 即得 则可得一个均值为0的新序列 此时wt称为xt的平稳中心化序列 13 以后一般均讨论中心化的平稳模型或序列 14 三 平稳模型的平稳解 设平稳AR p 模型为 式中 t 为白噪声序列 系数 1 2 p满足平稳条件 系数多项式 u 0的根都在单位圆外 15 1后移算子 若算子B满足等式 则称B为后移算子 即B作用xt后使其转化为xt 1 类似的 于是 AR p 模型可以表示为 16 即得一差分方程 其中 B 为后移算子多项式 即称为自回归算子 17 易见 滤波器成为一个对时间序列进行变换的实体 变换前的序列称为输入 经滤波器变换的得到的序列称为输出 差分方程式可用框图表示 设想有一个滤波器 输入的是某种平稳序列 而输出的则是白噪声序列 即 18 2AR p 序列的平稳域与允许域 定义2 2AR p 序列的平稳域为其系数取值的集合 其允许域为其自相关函数的前p个值的集合 其中矩阵 p与Rp 向量 b与d分别为 19 20 例如一阶自回归模型AR 1 21 注 实际上由平稳AR p 模型 22 再对两端取数学期望 并由性质 23 类似的 在平稳AR p 模型两端分别同乘以 24 再对两端取数学期望 并由上述性质可得 25 其次 由于自相关系数等于 26 27 3AR 1 序列平稳解与自相关函数 进行反复的迭代运算 则对任何自然数n 有 28 于是对于平稳时间序列 如果有 1 则 29 即它是满足AR 1 模型平稳解 若用算子表示式 称为线性转移函数 30 注意到麦克劳林展开式 可知线性转移函数是一阶自回归算子的逆算子 故当k 0时 其自相关函数 31 32 类似的 当k 0时 其自相关函数为 33 特别地 AR 1 序列的方差函数为 其自相关系数为 因为 1 故相关系数依指数规律向零衰减 34 例2 1试求AR 1 序列 的平稳解与自相关函数 的系数多项式为 故得其平稳解为 而自相关系数为 35 4 AR 2 序列的平稳解与自相关函数 因此 求AR 2 模型的平稳解 即化为求线性转移函数的权系数问题 36 1 线性转移函数的权系数求法 对比上述等式两端B的同次幂的系数 可得系数方程组 37 易见权系数满足二阶齐次线性差分方程组 38 分两种情形讨论 若自回归多项式有两个不等实根u1与u2时 AR 2 模型的一般解为 39 若自回归多项式有两相等实根u 则AR 2 模型的一般解为 2 AR 2 序列自相关函数的求法 由AR 2 模型的平稳解知 故当k 0时 其自相关函数为 40 综述为 用上式求得AR 2 序列的自相关函数是比较困难的 在实际中常采用另一种简便有效的方法 41 设h 0 因 t与xt互不相关 故用xt h乘以AR 2 模型等式两端 再取数学期望 即得 上述递推式称为AR 2 序列的Yule Walker方程 利用Yule Walker方程求AR 2 序列的自相关函数方法即称为尤尔 沃克法 42 注 由于此处均值函数为0 其自相关函数与自协方差函数相等 为分析简单起见 我们将自相关函数作为自协方差函数 即表示为 而将自相关系数 称为自相关函数 因此 由Yule Walker方程可得 43 其初值为 下面分三种情况讨论在上述给定初始条件下 自相关函数的差分方程的解 44 再根据初值条件 自回归系数方程的根与系数的关系得 即得 45 由上式可看出 当自回归系数方程的根的两实根都在单位圆外部时 k 随k的增大 向零衰减 若两实根中至少有一个在单位圆内部时 则 k 发散 46 AR 2 序列的平稳域 平稳域图形见下图 47 再根据初值条件 自回归系数方程的根与系数的关系得 即得 48 3 AR 2 序列的允许域 49 允许域图形如下图所示 50 5 一般AR p 序列的平稳解与自相关函数 1 AR p 模型的平稳解 定理2 1 1设AR p 序列的系数多项式 的所有根均在单位圆外部 即满足平稳条件 且 p 0 若存在实数列 j j 0 1 2 满足p阶齐次线性差分方程 51 及初值条件 52 则均方极限存在 且几乎必然对一切t 0 1 2 此式为AR p 模型的平稳解 2 AR p 模型的自相关函数 定理2 1 2设xt是AR p 序列 其自回归算子的所有根都在单位圆外部 则其自协方差函数C k 满足p阶齐次差分方程 Yule Walker方程 53 及初值条件 54 若在上式两端同除以C 0 Dx 即得自相关函数满足的Yule Walker方程 即 及初始条件 55 时间序列的自相关函数刻划了随机序列各时刻间的线性相关程度 实际中常用自相关函数的图形 相关图来分析 反映时间序列各时刻间的线性相关性 56 6 AR p 序列偏相关函数 对于任意平稳序列 若其自协方差函数C k 满足以下条件 即对任意k 1 1 i j k k为正定矩阵 57 再将向量的分量记为 称为上述平稳序列的偏相关函数 58 可以利用以下递推公式计算偏相关函数 一般来说 偏相关函数的意义由下述定理给出 59 定理2 1 3对于零均值的平稳序列xt而言 以下两条是相互等价的 1 xt满足平稳序列AR p 模型 2 xt的偏相关函数列满足条件 此定理表明偏相关函数列的截尾性质是平稳自回归序列独有的特征 利用此定理 可以通过检查xt的偏相关函数列的p阶截尾性质来识别AR p 模型 60 四 自回归模型的阶数的估计 1 利用偏相关函数的截尾性质确定阶数 因为AR p 的偏相关函数在p后截尾 所以利用样本自相关函数与尤尔 沃克方程递推求得偏相关函数的值 或用软件求出 61 递推求得偏相关函数的值 62 从序列的自相关与偏样本偏相关函数值列表观察 如果样本偏相关函数值在p以后截尾 而样本偏相关函数值明显拖尾 则可认定序列为AR p 模型 63 例如 序列的自相关与偏样本偏相关函数值如下 64 样本偏相关函数值折线图 可认为样本偏相关函数值在p 2以后截尾 即在p 2以后样本偏相关函数值波动幅度很小 65 样本自相关函数值折线图 可认为样本自相关函数值单调下降 有拖尾趋势 故此模型可取为AR 2