应用随机过程课件.ppt

应用随机过程 ApplicationofStochasticProcesses 范爱华 数理科学与工程学院应用数学系 成功的道路并不拥挤 的人并不是很多 因为坚持到最后 教材 应用随机过程 主要教学参考书 张波张景肖编中国人民大学出版社 参考书 第1章预备知识 1 1概率空间 在自然界和人类的活动中经常遇到各种各样的现象 大体上分为两类 必然现象和随机现象 具有随机性的现象 随机现象 对随机现象的观察或为观察而进行的实验 随机试验 随机试验的结果 基本事件或样本点 所有可能的结果称为样本空间 A称为事件 有3个特征 事件的性质假设A B C是任意事件 则他们满足 1 交换律 2 结合律 3 分配律 4 对偶原则 DeMorgan律 定义1 1 性质假 例1 1 例1 2 例1 3 随机试验 掷一枚骰子 观察出现的点数 思考题 定义1 2 结论 定义1 3 定义1 4 例1 1 概率的基本性质 单调性 次可列可加性 事件列极限1 结论 定理 具体情况 事件列极限2 定义1 5 的下极限 的上极限 例1 2 关系 含义 例1 3 1 2随机变量和分布函数 随机变量 用实数来表示随机实验的各种结果 定义1 6 关于随机变量的几点说明 定理1 1 定义1 7 分布函数的含义 分布函数的性质 随机变量的类型 离散型 连续型 多维随机变量 d维随机向量 多维随机变量联合分布函数 性质 一些常见的分布 1 离散均匀分布 分布列 2 二项分布 分布列 3 几何分布 分布列 4 Poisson分布 分布列 参数为的Poisson分布 5 均匀分布 6 正态分布 7 分布 函数的性质 8 指数分布 9 分布 10 d维正态分布 略 1 3数字特征 矩母函数与特征函数 一 数字特征 定义1 8 X的一阶矩 二 Rieman Stieltjes积分 Rieman Stieltjes积分 注 R S积分性质 可加性 注 四 矩母函数与特征函数 1 矩母函数 momentgeneratingfunction 定义1 9 矩母函数的性质 2 特征函数 characteristicfunction 复随机变量 定义1 10 复随机变量的数学期望 特征函数的性质 有界性 共轭对称性 例3 1 例3 2 例3 3 例3 4 例3 5 作业题 1 4条件概率条件期望独立性 一 条件概率 1 定义 1 基本公式 定理1 乘法公式 定理2 全概率公式 定理3 Bayes公式 二 独立性 1 定义 注1 两两独立并不包含独立性 例 注2 我们有 2 独立性的性质 定理4 推论1 推论2 定理5 定理6 四 条件期望 1 边缘分布 称X Y独立 2 条件分布函数 3 条件数学期望 异同 定义 定理 例2 五 独立随机变量和的分布 卷积公式 称为的卷积 注 结合律 分配律 第2章随机过程的基本概念和基本类型 2 1基本概念 在概率论中 我们研究了随机变量 维随机向量 在极限定理中 我们研究了无穷多个随机变量 但局限 在它们相互独立的情形 将上述情形加以推广 即研究 一族无穷多个 相互有关的随机变量 这就是随机过程 定义2 1 设 是一概率空间 对每一个参数 是一定义在概率空间 上的随机 变量 则称随机变量族 为该概率 空间上的一随机过程 称为参数集 随机过程的两种描述方法 用映射表示 即 是一定义在 上的二元单值函数 固定 是一定义在样本空间 上的函数 即为一随机变量 对于固定的 是一个 关于参数 的函数 或称随机 过程的一次实现 记号 通常称为样本函数 有时记为 或简记为 参数 一般表示时间或空间 参数常用的一般有 1 2 3 当参数取可列集时 一般称随机过程为随机序列 随机过程 可能取值的全体所构成的集合 称为此随机过程的状态空间 记作S S中的元素 称为状态 状态空间可以由复数 实数或更一般的 抽象空间构成 随机过程分为以下四类 1 离散参数离散型随机过程 2 连续参数离散型随机过程 3 连续参数连续型随机过程 4 离散参数连续型随机过程 以随机过程的统计特征或概率特征的分类 一般有 独立增量过程 Markov过程 二阶矩过程 平稳过程 更新过程 Poission过程 维纳过程 鞅 随机过程举例 例2 1 例2 2 抛掷一枚硬币 样本空间为 定义 随机过程 例2 3 2 2有限维分布与Kolmogvrov定理 一 随机过程的分布函数 1 一维分布函数 2 二维分布函数 3 n维分布函数 4 有限维分布族 称为有限维分布族 5 有限维分布族的性质 1 对称性 2 相容性 注1 随机过程的统计特性完全由它的有限维分布族决定 注2 有限维分布族与有限维特征函数族相互唯一确定 问题 一个随机过程 是否描述了该过程的全部概率特性 的有限维分布族 定理 Kolmogorov存在性定理 设分布函数族 满足以上提到的对称性和相容性 则必有一随机过程 恰好是 的有限维分布族 即 定理说明 的有限维分布族包含了 的所有概率信息 例2 4 例2 5 二 随机过程的数字特征 1 均值函数 随机过程 假设是存在的 的均值函数定义为 2 方差函数 随机过程 的方差函数定义为 3 自 协方差函数 4 自 相关函数 5 互 协方差函数 6 互相关函数 7 互不相关 8 特征函数 为随机过程 的有限维特征函数族 记 例2 6 例2 7 作业1 2 3随机过程的基本类型 一 严平稳过程 定义1 二 严平稳过程的特点 则 三 宽平稳过程 简称平稳过程 定义2 注1 注2 例2 8 例2 9 四 平稳过程相关函数的性质 性质1 性质2 结论 性质3 性质4 注 定义 注 性质5 性质6 性质7 性质8 性质9 例2 10 五 独立增量过程 定义1 例2 11 定义2 六 遍历性定理 定义1 定义2 例2 12 例2 13 定理2 2 均值遍历性定理 推论2 1 推论2 2 定理2 2 协方差函数遍历性定理 作业1 作业2 书第二章习题2 6 作业3 第3章Poisson过程 3 1Poisson过程 定义3 1 Poission过程是计数过程 而且是一类最重要 应用广泛的计数过程 它最早于1837年由法国数学家Poission引入 定义3 2 例3 1 解 见板书 定义3 2 一计数过程 是独立增量及平稳增量过程 即任取 相互独立 定义3 2 的解释 定理3 1 由增量平稳性 记 I 情形 因为 我们有 另一方面 代入上式 我们有 令 我们有 II 情形 因为 故有 化简并令 得 两边同乘以 移项后有 当 时 有 由归纳法可得 注意 因此 代表单位时间内事件 出现的平均次数 由归纳法可得 注意 因此 代表单位时间内事件 出现的平均次数 例3 2 例3 3 例3 4 作业1 作业2 书第三章习题3 5 3 6 3 10 3 2Poisson过程相联系的若干分布 复习 1 指数分布 2 无记忆性 定理3 2 结论 定义3 3 注 例3 5 见书例3 4 例3 6 定理3 3 证明 见板书 引理 原因 注 定理3 4 例3 7 见书例3 5 例3 8 见书例3 6 3 3Poisson过程的推广 一 非齐次Poisson过程 定义3 4 过程有独立增量 定义3 5 注2 定义3 4与定义3 5是等价的 注1 我们称m t 为非齐次poisson过程的均值或强度 定理3 5 注3 用此定理可以简化非齐次Poisson过程的问题到齐次Poisson过程中进行讨论 另一方面也可以进行反方向的操作 即从一个参数为的Poisson构造一个强度函数为的非齐次Poisson过程 定理3 5 一般了解 例3 9 见书例3 7 二 复合Poisson过程 定义3 6 物理意义 如 表示粒子流 例3 10 见书例3 8 例3 11 见书例3 9顾客成批到达的排队系统 定理3 6 例3 12 见书例3 10 作业1 作业2 参考例3 12 见书例3 10 作业3 见书习题3 12 第5章Markov过程 5 1基本概念 直观意义 1 Markov链的定义 定义5 1 定义5 2 定义5 3 2 转移概率 注 有定义5 1知 转移矩阵的性质 定义5 4 2 Markov链的例子 带有一个吸收壁的随机游动 特点 当 就停留在零状态 此时 是一齐次马氏链 其状态空间为 一步转移概率为 注意 状态为马氏链的吸收状态的充要条件是 例5 1 带有两个吸收壁的随机游动 此时 是一齐次马氏链 状态空间为 为两个吸收状态 它的一步转移 概率为 例5 2 它的一步转移概率矩阵为 特点 概率为 例5 3 带有一个反射壁的随机游动 一旦质点进入零状态 下一步它以概率 向右移动一格 以概率 停留在零状态 此时的状态空间为 它的一步转移 例5 4 例5 5 4 n步转移概率C K方程 定义5 5 n步转移概率 定理5 1 Chapman Kolmogorov方程 简称C K方程 例5 6 例5 7 隐Markov模型 或者为正面或者为反面 在任何给定时刻只有一枚硬 呈现 但是有时硬币可能被替换而不改变其正反面 硬币M和W分别具有转移概率 在任何给定时刻硬币被替换的概率为30 替换完成时 硬币的状态不变 这一Markov链有4个状态 分别记为1 UM 2 DM 3 UW 4 DW 状态1 3表示正面U 状态2 4表示反面D转移矩阵为4X4的矩阵 我们 可以计算转移概率 比如 首先 无转移 而后 无转移 因此转移概率为 其他转移概率类似可得 转移方式为 转移概率矩阵为 例5 8 例5 9 带有两个反射壁的随机游动 此时 是一齐次马氏链 状态空间为 为两个反射状态 求它的一步转 移概率 作业1 作业2 5 3状态的分类及性质 引入 定义5 7 注 定理5 3 注 定义5 8 例1 定义5 9 周期性 规定 例2 书5 14 注1 注2 定理5 4 证明 板书 注 当两个状态的周期相同时 有时其状态之间有显著差异 如 定义5 10 常返性 注2 注3 注1 例3 定义5 11 例4 引理5 1 定理5 5 引理5 2 定理5 6 作业1 思考题 定理5 5 引理5 2 定理5 6 闭集及状态空间的分解定理 闭集 相关性质 任何两个状态均互通 所有常返态构成一个闭集 在不可约马氏链中 所有状态具有相同的状态类型 状态空间分解定理 定理5 7 例5 例6 作业1 周期链分解定理 定理5 8 例7 5 4极限理论与不变分布 5 4 1极限理论 例8 书例5 17 0 1传输系统 211 212 对d的非整数倍数的n i是零常返的 213 2 i是遍历的 d 1 i 子序列 所以d 1 从而i为非周期的 i是遍历的 定理5 10 结论 a 所有非常返状态组成的集合不可能是闭集 b 没有零常返状态 c 必有正常返状态 d 不可约有限马氏链只有正常返态 e 状态空间可以分解为 其中 每个 均是由正常返状态 组成的有限不可约闭集 是非常返态集 217 注1 有限状态的马氏链 不可能全是非常返状态 也不可能含有零常返状态 从而不可约的有限状态的马氏链必为正常返的 证设S 0 1 N 如S全是非常返状态 则对任意i j I 知 故 矛盾 如S含有零常返状态i 则C j i j 是有限不可约闭集 由定理知 C中均为零常返状态 知 218 由引理知 所以 219 注2 如马氏链有一个零常返状态 则必有无限多个 证设i为零常返状态 则C j i j 是不可约闭集 C 中均为零常返状态 故C不能是有限集 否则 零常返状态 220 称概率分布 j j I 为马尔可夫链 的平稳分布 不变分布 若 5 4 2平稳分布 不变分布 与极限分布 定义5 12 一 平稳分布 不变分布 221 注 1 若初始概率分布 pj j I 是平稳分布 则 2 对平稳分布 j j I 有 矩阵形式 其中 j pj pj 1 pj 2 pj n 222 二 遍历性的概念与极限分布 对于一般的两个状态的马氏链 由上节内容可知 意义 对固定的状态j 不管链在某一时刻的什么状 态i出发 通过长时间的转移到达状态j的概率都趋 定义5 13 224 或定义 则称此链具有遍历性 定理5 13 226 定理不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布 且此平稳分布就是极限分布 227 推论3若 j j I 是马尔可夫链的平稳分布 则 所取的值与初始状态的分布无关 证 由于 故 228 即 经过无穷次转移后处于 状态的概率与初始 状态无关 与初始状态的分布也无关 229 解因为马尔可夫链是不可约非周期有限 状态的 所以平稳分布存在 设 则 P 1 2 3 1 即 各状态的平均返回时间为 1 2 3 230 例2设马尔可夫链转移概率矩阵为 求每一个不可约闭集的平稳分布 231 解从状态转移图看出 状态空间可分解为 两个不可约常返闭集C1 2 3 4 和C2 5 6 7 一个非常返集N 1 在常返集上求平稳分布 232 在C1上 对应的转移概率矩阵为 C1上的平稳分布为 0 0 4 0 2 0 4 0 0 0 同理可求得C2上的平稳分布为 0 0 0 0 1 3 1 3 1 3 233 三 有限链 遍历性的充分条件 234 说明 2 极限分布转化为了求解方程组 3 在定理的条件下马氏链的极限分布是平稳分布 235 试说明带有两个反射壁的随机游动是遍历的 并求其极限分布 平稳分布 解 例3 四 应用举例 236 无零元 链是遍历的 237 代入最后一个方程 归一条件 得唯一解 238 所以极限分布为 这个分布表明 经过长时间游动之后 醉汉Q位于点2 或3或4 的概率约为3 11 位于点1 或5 的概率约为1 11 239 设一马氏链的一步转移概率阵为 试讨论它的遍历性 解 例4 240 表明 此链不具遍历性 241 五 小结 遍历性的概念 则称此链具有遍历性 242 有限链 遍历性的充分条件 作业1 作业2 书习题5 7 244 第七节连续时间马尔可夫链 定义7 1设随机过程 X t t 0 状态空间 及非负整数i1 i2 in 1 有 P X tn 1 in 1 X t1 i1 X t2 i2 X tn in 则称 X t t 0 为连续时间马尔可夫链 I 0 1 2 若对任意 0 t1 t2 tn 1 P X tn 1 in 1 X tn in 245 转移概率 在s时刻处于状态i 经过时间t后 转移到状态j的概率 pij s t P X s t j X s i 定义7 2齐次转移概率 与起始时刻s无关 只 与时间间隔t有关 pij s t pij t 此时有转移概率矩阵P t pij t i j I t 0 246 记 i为过程在状态转移之前停留在状态i的时间 则对s t 0有 1 2 i服从指数分布 证 1 事实上 247 248 2 设 i的分布函数为F x x 0 则生存函数 由此可推出G x 为指数函数 G x e x 则F x 1 G x 1 e x为指数分布函数 G x 1 F x 249 过程在状态转移之前处于状态i的时间 i服从指数分布 1 当 i 时 状态i的停留时间 i超过x的概率为0 则称状态i为瞬时状态 2 当 i 0时 状态i的停留时间 i超过x的概率为1 则称状态i为吸收状态 250 定理7 1齐次马尔可夫过程的转移概率具有下列性质 1 pij t 0 2 3 证由概率的定义 1 2 显然成立 下证 3 251 252 注 此为转移概率的正则性条件 253 例1证明泊松过程 X t t 0 为连续时间齐次马尔可夫链 证先证泊松过程的马尔可夫性 泊松过程是独立增量过程 且X 0 0 对任意0 t1 t2 tn tn 1有 254 另一方面 即泊松过程是一个连续时间马尔可夫链 255 再证齐次性 当j i时 当j i时 因增量只取非负整数值 故pij s t 0 所以转移概率与s无关 泊松过程具有齐次性 第六节马氏链模型 6 1基本应用实例6 2健康与疾病6 3钢琴销售的存储策略 马氏链模型 系统在每个时期所处的状态是随机的 从一时期到下时期的状态按一定概率转移 下时期状态只取决于本时期状态和转移概率已知现在 将来与过去无关 无后效性 描述一类重要的随机动态系统 过程 的模型 马氏链 MarkovChain 时间 状态均为离散的随机转移过程 258 某计算机房的一台计算机经常出故障 研究者每隔15分钟观察一次计算机运行状态 收集了24小时的数据 共作97次观察 用1表示正常状态 用0表示不正常状态 所得的数据序列如下 试求一步转移概率矩阵 1110010011111110011110111111001111111110001101101 分析 状态空间 I 0 1 例1 111011011010111101110111101111110011011111100111 6 1基本应用实例 259 96次状态转移的情况 因此 一步转移概率可用频率近似地表示为 260 特点 用行向量表示为 一维分布由初始分布和转移概率矩阵决定 261 由以上讨论知 转移概率决定了马氏链的运动的统计规律 因此 确定马氏链的任意n步转移概率成为马氏链理论中的重要问题之一 262 设每一级的传真率为p 误码率为q 1 p 设一个单位时间传输一级 只传输数字0和1的串联系统 传输系统 如图 分析 例2 263 而与时刻n以前所处的状态无关 所以它是一个马氏链 且是齐次的 一步转移概率 一步转移概率矩阵 264 在传输系统中 传输后的误码率 系统经n级传输后输出为1 问原发字符也是1的概率是多少 265 解 先求出n步转移概率矩阵 有相异的特征值 所以可将P表示成对角阵 266 传输后的误码率分别为 267 2 根据贝叶斯公式 当系统经n级传输后输出为1 原发字符也是1的概率为 268 说明 n步转移概率矩阵为 矩阵一般可表示为 对于只有两个状态的马氏链 一步转移概率 通过有实际背景的例子介绍马氏链的基本概念和性质 例1 人的健康状况分为健康和疾病两种状态 设对特定年龄段的人 今年健康 明年保持健康状态的概率为0 8 而今年患病 明年转为健康状态的概率为0 7 6 2健康与疾病 人的健康状态随着时间的推移会随机地发生转变 保险公司要对投保人未来的健康状态作出估计 以制订保险金和理赔金的数额 若某人投保时健康 问10年后他仍处于健康状态的概率 Xn 1只取决于Xn和pij 与Xn 1 无关 状态与状态转移 状态转移具有无后效性 设投保时健康 给定a 0 预测a n n 1 2 设投保时疾病 n 时状态概率趋于稳定值 稳定值与初始状态无关 状态与状态转移 例2 健康和疾病状态同上 Xn 1 健康 Xn 2 疾病 p11 0 8 p12 0 18 p13 0 02 死亡为第3种状态 记Xn 3 健康与疾病 p21 0 65 p22 0 25 p23 0 1 p31 0 p32 0 p33 1 设投保时处于健康状态 预测a n n 1 2 不论初始状态如何 最终都要转到状态3 一旦a1 k a2 k 0 a3 k 1 则对于n k a1 n 0 a2 n 0 a3 n 1 即从状态3不会转移到其它状态 状态与状态转移 马氏链的基本方程 基本方程 马氏链的两个重要类型 1 正则链 从任一状态出发经有限次转移能以正概率到达另外任一状态 如例1 w 稳态概率 马氏链的两个重要类型 2 吸收链 存在吸收状态 一旦到达就不会离开的状态i pii 1 且从任一非吸收状态出发经有限次转移能以正概率到达吸收状态 如例2 6 3钢琴销售的存贮策略 钢琴销售量很小 商店的库存量不大以免积压资金 一家商店根据经验估计 平均每周的钢琴需求为1架 存贮策略 每周末检查库存量 仅当库存量为零时 才订购3架供下周销售 否则 不订购 估计在这种策略下失去销售机会的可能性有多大 以及每周的平均销售量是多少 背景与问题 问题分析 顾客的到来相互独立 需求量近似服从波松分布 其参数由需求均值为每周1架确定 由此计算需求概率 存贮策略是周末库存量为零时订购3架 周末的库存量可能是0 1 2 3 周初的库存量可能是1 2 3 用马氏链描述不同需求导致的周初库存状态的变化 动态过程中每周销售量不同 失去销售机会 需求超过库存 的概率不同 可按稳态情况 时间充分长以后 计算失去销售机会的概率和每周的平均销售量 模型假设 钢琴每周需求量服从波松分布 均值为每周1架 存贮策略 当周末库存量为零时 订购3架 周初到货 否则 不订购 以每周初的库存量作为状态变量 状态转移具有无后效性 在稳态情况下计算该存贮策略失去销售机会的概率 和每周的平均销售量 模型建立 Dn 第n周需求量 均值为1的波松分布 Sn 第n周初库存量 状态变量 状态转移规律 状态转移阵 模型建立 状态概率 马氏链的基本方程 已知初始状态 可预测第n周初库存量Sn i的概率 n 状态概率 第n周失去销售机会的概率 n充分大时 模型求解 从长期看 失去销售机会的可能性大约10 1 估计在这种策略下失去销售机会的可能性 模型求解 第n周平均售量 从长期看 每周的平均销售量为0 857 架 n充分大时 思考 为什么这个数值略小于每周平均需求量1 架 2 估计这种策略下每周的平均销售量 敏感性分析 当平均需求在每周1 架 附近波动时 最终结果有多大变化 设Dn服从均值为 的波松分布 状态转移阵 第n周 n充分大 失去销售机会的概率 当平均需求增长 或减少 10 时 失去销售机会的概率将增长 或减少 约12 期末复习要点 1 上极限 下极限的定义及含义 理解事件序列的极限的表达方式 2 熟悉常见的分布函数 3 掌握矩母函数与特征函数的定义和性质 会求一些函数的矩母函数和特征函数 4 条件概率与条件期望的求法及性质 如 EX E E X Y E X X X 第一章 期末复习要点 1 理解会求随机过程的均值函数 方差函数 自 协方差函数 自 相关函数 互协方差函数 互相关函数 2 理解 严 宽 平稳过程的定义 会判断随机过程是否为平稳过程 3 会用定义判定平稳过程是否有遍历性 均值遍历性及协方差遍历性 第二章 期末复习要点 1 Poisson过程的定义 理解其含义 2 会求Poisson过程的一些相关的概率 3 理解Poisson过程时间间隔序列Xn 第n次事件发生的时刻Tn相关定理 4 非齐次Poisson过程与齐次Poisson的关系定理 非齐次Poisson的相关概率计算 第三章 期末复习要点 1 理解Markov链的定义 理解其数学含义 会求相应的概率 2 会求一步转移概率及一步转移概率矩阵 3 会求n步转移概率 会证明C K方程 离散时间及连续时间 4 会求状态的周期 会判定状态的常返性 正常反 零常返和非常返 方法1 方法2 第五章 法2 法1 期末复习要点 5 理解的关系 6 会将状态进行分类7 会判别平稳分布 不变分布 会求平稳分布 及Markov链的遍历性 第五章