《概率论与数理统计》经典课件 随机过程

2021-5-26 1 概 率 论 与 数 理 统 计 3 关 键 词 ： 随 机 过 程 状 态 和 状 态 空 间 样 本 函 数 有 限 维 分 布 函 数 均 值 函 数 方 差 函 数 自 相 关 函 数 自 协 方 差 函 数 互 相 关 函 数 互 协 方 差 函 数 正 态 过 程 独 立 增 量 过 程 泊 松 过 程 维 纳 过 程第 十 章 随 机 过 程 及 其 统 计 描 述 4 1 随 机 过 程 的 概 念 随 机 过 程 被 认 为 是 概 率 论 的 “ 动 力 学 ” 部 分 ， 即 它的 研 究 对 象 是 随 时 间 演 变 的 随 机 现 象 ， 它 是 从 多 维 随 机变 量 向 一 族 (无 限 多 个 )随 机 变 量 的 推 广 。 给 定 一 随 机 试 验 E， 其 样 本 空 间 S=e， 将 样 本 空 间中 的 每 一 元 作 如 下 对 应 ， 便 得 到 一 系 列 结 果 ：( ( ), ( ),e X e Y e 1 2( ( ), ( ), ( ),ne X e X e X e 1 2( ( ), ( ), ),e X e X e ( ),e X e( ( , ) ( , ),e X e t t X 一 维即 随 机 变 量( , )X Y即 二 维 随 机 变 量1 2( , , )X X 即 随 机 序 列1 2( , , , )nX X X n 维即 随 机 变 量( ( ), ( , )X t t 即 随 机 过 程 5 一 维 、 二 维 或 一 般 的 多 维 随 机 变 量 的 研 究 是 概 率 论 的 研 究 内 容 ， 而随 机 序 列 、 随 机 过 程 则 是 随 机 过 程 学 科 的 研 究 内 容 。 从 前 面 的 描 述 中 看到 ， 它 的 每 一 样 本 点 所 对 应 的 ， 是 一 个 数 列 或 是 一 个 关 于 t的 函 数 。 ( , ), , ,( , ), ,T X e t e S t T e tS T t T X e tX e t e S t T 设 是 一 无 限 实 数 集 ， 是 对 应 于 和 的 实 数 ， 即 为 定 义 在 和 上 的 二 元 函 数 。 若 此 函 数 对 任 意 固 定 的 是 一 个 随 机 变 量 ， 定 义 ： 则 称 是 随 机 过 程 ；, ( , )T e t X e t为 参 数 集 ， 对 固 过 程定 的 和 称 为 的 状 态 ； ( , )X e t 所 有 可 能 的 值 状的 全 体 称 为 态 空 间 ；( , ) ( )X e t X t今 后 将 简 记 为 ( , ), ,t X e t e S t T e 对 于 随 机 过 程 进 行 一 次 试 验 ， 即 给 定 ，它 是 的 函 数 ， 称 为 随 机 过 程 的 样 本 函 数 。 6 例 1： 抛 掷 一 枚 硬 币 的 试 验 ， 样 本 空 间 是 S=H,T， 现 定 义 ： 1( ) , ( ) ( ) 2 ( ), ,cos t HX t t P H P Tt TX t t 当 出 现 ， 其 中当 出 现则 是 一 随 机 过 程 。, ( )t X t cos t t解 ： 对 任 意 固 定 的 是 随 机 变 量 ， 取 值 为 和 1 2 3 4( )X t 1( )X t2( )X t t1( ( ) ) ( ( ) ) 2P X t cos t P X t t 1 2( ) , ( )X t cos t X t t 此 随 机 过 程 的 样 本 函 数 只 有 两 个 ， 即 7 2 ( ) ( ), , ,(0,2 ), ( ) ( ) ,(0,2 ) ,( ) ( ), X t cos t tt X t cos tx t cos t 例 ： 考 虑 式 中 和 是 正 常 数 , 是 在 上 服 从 均 匀 分 布 的 随 机 变 量 , 这 是 一 个 随 机 过 程 。 对 每 一 固 定 的 时 刻 是 随 机 变 量 的 函 数 ,从 而 也 是 随 机 变 量 。 它 的 状 态 空 间 是 - . 在 内 随 机 取 一 数 相 应 的 就 得 到 一 个 样 本 函 数这 族 样 本 函 数 的 差 异 在 于 它 们 相 位 的 不 同 , 故 这 一 过 程 称 为 随 机 相 位 正 弦 波 。 8 3 ( ) , 0,1 ( ) ( ) 0,1( ) .X t Vcos t tV X tt X t Vcos t Vcos t vx t vcos t 例 ： 设 其 中 是 常 数 ；在 上 服 从 均 匀 分 布 ,则 是 一 个 随 机 过 程 。对 每 一 固 定 的 ， 是 随 机 变 量 乘 以 常数 ， 故 也 是 随 机 变 量 ,对 上 随 机 变 量 取 一 值 , 就 得 到 相 应 的 一 个 样 本 函 数 9 4 120( ) 0, 0 ( )( ), 00,1,2, .X t t t X tX t t 例 ： 设 某 城 市 的 急 救 中 心 电 话 台 迟 早 会 接 到 用 户 的 呼 叫 。 以 表 示 时 间 间 隔 内 接 到 的 呼 叫 次 数 ， 它 是 一 个 随 机 变 量 ， 且 对 于 不 同 的 ， 是 不 同 的 随 机 变 量 ， 于 是 是 一 随 机 过 程 ， 且 它 的 状 态 空 间 是 1t 2t 3t 4t1t 2t 4t3t1423 1( )x t2( )x t( )x t t 例 5： 考 虑 抛 掷 一 颗 骰 子 的 试 验 ： 16(1) ( 1) 1,2, ( ) , 1,2,3,4,5,6, 1nn nnX n n nX P X i iX n 设 是 第 次 抛 掷 的 点 数 ， 对 于 的 不 同 值 ，是 随 机 变 量 ， 服 从 相 同 的 分 布 ， 因 而 构 成 一 随 机 过 程 ， 称 为 伯 努 利 过 程 或 伯 努 利 随 机 序 列 , 它 的 状 态 空 间 为 1,2,3,4,5,6 。 (2) , 11,2,3,4,5,6n nY n Y n设 是 前 次 抛 掷 中 出 现 的 最 大 点 数 , 也 是 一 随 机 过 程 ， 它 的 状 态 空 间 仍 是 。 下 面 分 别 给 出 它 们 的 一 条 样 本 函 数 ： n87654321nx321654 nx(1) (2) n87654321ny321654 ny 11 随 机 过 程 的 分 类 ： 随 机 过 程 可 根 据 参 数 集 T和 任 一 时 刻 的 状 态 分 为 四 类 ， 参 数 集 T可 分 为 离 散 集 和 连 续 集 两 种 情 况 ， 任 一 时 刻 的 状 态 分 别 为 离 散 型 随机 变 量 和 连 续 型 随 机 变 量 两 种 ：1. 连 续 参 数 连 续 型 的 随 机 过 程 ， 如 例 2， 例 32. 连 续 参 数 离 散 型 的 随 机 过 程 ， 如 例 1， 例 43. 离 散 参 数 离 散 型 的 随 机 过 程 ， 如 例 54. 离 散 参 数 连 续 型 的 随 机 过 程 ， 1 2 ,2 , , ( ), , , , , ( )n nT t t n t X tX X X X X n t 对 于 随 机 相 位 正 弦 波 ， 若 只 在 时 间 集 上 观 察 ， 就 得 到 例 子 随 机 序 列 是 连 续 型 随如 下 ： 机 变 量 。 12 2 随 机 过 程 的 统 计 描 述 分 布 函 数两 种 描 述 特 征 数( ) 一 随 机 过 程 的 分 布 函 数 族 1 2 1 2 1 21 1 11 2 2 222 1( , , , , ) ( ) , ( )( 2,3, ) , ,( ), ( ), ( ) , 1,2,( ),( , , ; , , ) ( ), , ( )X n n nn iX n n n niF x x x t t t P X t x X t x X tn n t t t Tn X t X t X t x R i nX t t TF x x x t t t t T X t tn xnT 一 般 地 ， 对 任 意 个 不 同 的 时 刻 ，维 随 机 变 量 的 分 布 函 数 ：称 为 随 机 变 ； ，量 的 称 为 的维 分 布 函 数 维 分 布 函 数 族 1 2 1 2( , , ; , , ), 1,2, ( ),X n n iF x x x t t t n t TX t t T 有 限 维 分 布一 般 地 ，称 为 随 机 过 程 的它 完 全 确 定 了 随 机 过 程 函 数 族的 统 计 特 性 ( ), , , ( ),( , ) ),( , ) (X XF x t P X t x x RX t t T t T X t t TF x t t T 设 随 机 ，过 程 对 每 一 固 定 的称 为 随 机 一过 程 的称 维 分 布 函 数一为 ，维 分 布 函 数 族 13 例 1： 抛 掷 一 枚 硬 币 的 试 验 ， 定 义 一 随 机 过 程 ： 1 2cos 1( ) , ( ) ( ) ,2 ( ) (1) ( ;0) ( ;1); (2) ( , ;0,1);t HX t t P H P Tt TX t F x F xF x x 出 现 ， 设出 现试 确 定 的 ： 一 维 分 布 函 数 ，二 维 分 布 函 数 1 (0) 0 HX T 出 现解 ： 出 现 0 01( ;0) 0 12 1 1xF x xx 故1 (1) 1 HX T 出 现出 现 0 11( ;1) 1 12 1 1xF x xx 故 14 例 1： 抛 掷 一 枚 硬 币 的 试 验 ， 定 义 一 随 机 过 程 ： 1 2cos 1( ) , ( ) ( ) ,2 ( ) (1) ( ;0) ( ;1); (2) ( , ;0,1);t HX t t P H P Tt TX t F x F xF x x 出 现 ， 设出 现试 确 定 的 ： 一 维 分 布 函 数 ，二 维 分 布 函 数 1, 1 (0), (1) 0, 1 HX X T 出 现出 现 1 21 21 2 1 2120 1 1 1 0( , ;0,1) 1 1 1x xx xF x x x x 且 或故 且 其 他 1 2 3 4( )X t 1( )X t2( )X t t1x2x 15 2 ( ) , , 0,130, , , , ( )4 4 2X t Vcos t t Vt X t 例 ： 设 随 机 过 程 ， 在 上 均 匀 分 布 求 在 时 的 密 度 函 数 。 , 0,t cos t a cos t 解 ： 对 给 定 的 若 记 ， ( )X t aV则 的 密 度 函 数 为 ： 1 0 11 ; 0 X V xx aaf x t f a a 其 他0 1a cos 1 0 1;0 0 X xf x 于 是 其 他2 ,4 2a cos 22 0; 24 0 X xf x 其 他23 ,4 2a cos 22 03; 24 0 X xf x 其 他1,a cos 1 1 0; 0 X xf x 其 他0,2a cos 0 12P X 16 2 22 22 ( ), ,( ) ( ) ( ) ( )( ) ( ) ( ) ( )( ) ( ) X XX X XX X X t t Tt E X t t E X tt D t E X t tt t 均 值 函 数 均 方 值 函给 定 随 机 过 程 - 数方 差 函 数标 准 差 函 数-各 数 字 特 征 之 间 的 关 系 如 下 ：(二 ) 随 机 过 程 的 数 字 特 征 1 21 2 1 2 1 2 1 21 1 2 2,( , ) ( ) ( )( , ) ( ), ( ) ( ) ( ) ( ) ( ) ( ) ( )XXXX X Xt t TR t t E X t X tC t t Cov X t X tE X t t X t t 又 设 任 自 相 关 函 数 自 协意 方 差 函 数 2 ,X Xt R t t 1 2 1 2 1 2, ,X X X XC t t R t t t t 2 2, ,X X X Xt C t t R t t t 17 2( ), , ( )( ) X t t T t T E X tX t 随 机 过 程 ， 如 果 对 每 一 都 存 在 ， 则 称 是 ， 二 阶 矩 过 程 的 均 值 函 数 和 相 关二 阶 函 数定 总义 ： 是程 矩 过 存 在 的 。 1 2 1 2( ), 1 , , , ( ), ( ), ( )( ), nnX t t T n t t t TX t X t X t nX t t T 是 一 随 机 过 程 ， 若 它 的 每 一 个 有 限 维 分 布 都 是 正 态 分 布 ， 即 对 任 意 整 数 及 任 意服 从 维 正 态 分 布 ， 则 称 是正 态 过 程 的 全 部 统 计 特 性 完 全 由 它 的 均 值 函 数 和 自 协 方 差正 函定 义 ： 态 过 程 数 所 确 定 。 18 3 , ( ) 3 , , , 1,4 , 0,2 ,( )A BX t At B t TA B A N B UX t 例 ： 设 是 两 个 随 机 变 量 ， 试 求 随 机 过 程 :的 均 值 函 数 和 自 相 关 函 数 。如 果 相 互 独 立 ， 且问 的 均 值 函 数 和 自 相 关 函 数 又 是 怎 样 的 ？ ( ) ( )X t E X t 解 ： ( ) 3 ( )tE A E B 1 2 1 2( , ) ( ) ( )XR t t E X t X t 2 21 2 1 2 1 2( ) 3( ) ( ) 9 ( ) ,t t E A t t E AB E B t t T 1,4 , 0,2A N B U当 时 ， 2 2 4( ) 1, ( ) 5, ( ) 1, ( ) 3E A E A E B E B ,A B又 因 为 独 立 ， ( ) ( ) ( ) 1E AB E A E B 故1 2 1 2 1 2 1 2( ) 3, ( , ) 5 3( ) 12 ,X Xt t R t t t t t t t t T 19 ( ) ( ) , (0,2 ) X t acos t t 例 4： 求 随 机 相 位 正 弦 波在 上 均 匀 分 布 的 均 值 函 数 、 方 差 函 数 和 自 相 关 函 数 。 解 ： 由 假 设 的 概 率 密 度 为 ：1 2 1 2( , ) ( ) ( )XR t t E X t X t 1 0 22 0 f 其 他( ) ( )X t E X t 于 是 E acos t 20 1 02acos t d 2 1 2 ( ) ( )E a cos t cos t 2 2 1( )2a cos t t 22 1 20 1( ) ( ) 2a cos t cos t d 2 1 22t t a cos 2 2( ) ( , ) ( )X X Xt R t t t 2( , ) 2X aR t t 20 2 25 ( ) , , , , ,(0, )( )X t A Bt Ct t A B CNX t 例 ： 设 其 中 是相 互 独 立 ,且 都 服 从 正 态 分 布 的 随 机 变 量 ， 试 证 明 是 正 态 过 程 ,并 求 它 的 均 值 函 数 和 自 相 关 函 数 。 ( )X t解 ： 是 正 态 过 程 1 2 1 1 2 2, , , ( ) ( ) ( )n n nu u u u X t u X t u X t 对 任 意 一 组 数 服 从 一 维 正 态 分 布 21 1 2 2 1 1 1( ) ( ) ( ) n n nn n i i i i ii i iu X t u X t u X t A u B ut C ut 而 , , ( , , )A B C A B C因 为 是 相 互 独 立 的 正 态 变 量 ， 故 是 三 维 正 态 变 量 ，( )X t所 以 是 正 态 过 程 1 2 1 2, , , ( ), ( ), ( )n nt t t T X t X t X t n 对 任 意 一 组 实 数 服 从 维 正 态 分 布21 1 1 , ,n n ni i i i ii i iA u B ut ut A B C C 是 的 线 性 组 合 ，因 此 它 服 从 一 维 正 态 分 布 ， 续 21 下 面 计 算 均 值 函 数 和 自 相 关 函 数 :( ) ( ) ( ) ( ) ( ) ( ) 0,E A E B E C E AB E AC E BC 因 为 2 2 2 2( ) ( ) ( )E A E B E C 2( )X t E A Bt Ct 故 2( ) ( ) ( ) 0E A E B t E C t 1 2 1 2( , ) ( , )X XC t t R t t 2 21 1 2 2( )( )E A Bt Ct A Bt Ct 2 2 21 2 1 2(1 )t t t t 22 ( ), ( ), ( ), ( )( ), ( ) X t Y t t Tt T X t Y tX t Y t t T 设 是 依 赖 于 同 一 参 数 的 随 机 过 程 ，对 于 不 同 的 ( )是 不 同 的 二 维 随二 机 变 量 ，称 为 维 随 机 过 程(三 ) 二 维 随 机 过 程 的 分 布 函 数 和 数 字 特 征 1 2 1 1 1 2 1 2 1 2 1 2 1 2 1 2( ), ( ) , , ; , ,( ), ( ), ( ); ( ), ( ), ( )( , , ; , , ; , , ; , , )n mn mn n m mX t Y t t T t t t t t t Tn m X t X t X t Y t Y t Y tF x x x t t t y y y tm tn t 给 定 二 维 随 机 过 程 ， 是 中 任 意 两 组 实 数 ，则 维 随 机 变 量 的分 布 函 数 ：称 为 二 维 随 机 过 程 的 维 分 布 函 数 1 2 1 1 1 2 1 2( ), ( ) , , , ; , ,( ), ( ), ( ) ( ), ( ), ( )( ) ( ) n mn mX t Y t t Tn m t t t T t t t Tn X t X t X t m Y t Y t Y tX t Y t 给 定 二 维 随 机 过 程对 任 意 的 正 整 数 ， 任 意 的 数 组维 随 机 变 量 与 维 随 机 变 量相 互 独 立 ， 称 随 机 变 量 和 是 相 互 独 立 的 23 ( ), ( )X t Y t关 于 数 字 特 征 ， 除 了 各 自 的 均 值 函 数 和 自 相 关 函 数 ，还 有 如 下 两 个 数 字 特 征 : 1 21 2 ( ), ( ) , ,( , ) 0, ( ) ( )XY X t Y t t t TC t t X t Y t 如 果 二 维 随 机 过 程 对 任 意 的恒 有 称 和 是 不 相 关 的 。 1 2 1 2 1 21 2 1 2 1 2( , ) ( ) ( ) ,( , ) ( ) ( ) ,XYYXR t t E X t Y t t t TR t t E Y t X t t t T 互 相 关 函 数 1 2 1 1 2 21 2 1 2 1 21 2 1 2 1 2 1 2( , ) ( ) ( ) ( ) ( ) ( , ) ( ) ( ) ,( , ) ( , ) ( ) ( ) ,XY X YXY X YYX YX Y XC t t E X t t Y t tR t t t t t t TC t t R t t t t t t T 互 协 方 差 函 数 24 1 2 1 2 1 21 2 1 2 1 2 1 2( ) ( ), ( ), ( )( ), ( ), ( ), ( , ), ( , ), ( , ), ( , ), ( , ), ( , ) ( ), ( , ).X Y Z X Y ZXY YZ ZX W WW t X t Y t Z tt t t R t t R t t R t tR t t R t t R t t t R t t 例 6： 随 机 过 程 是 三 个 随 机 过 程 之 和 ， 已 知 ， 求 ( ) ( ) ( ) ( )W t X t Y t Z t 解 ： ( ) ( ) ( ) ( )W X Y Zt t t t 1 2 1 2 1 2 1 2( , ) ( , ) ( , ) ( , )W X Y ZR t t R t t R t t R t t 1 2 1 2 1 2( , ) ( , ) ( , )XY YX XZR t t R t t R t t 1 2 1 2 1 2( , ) ( , ) ( , )ZX YZ ZYR t t R t t R t t 1 2 1 2 1 2 1 2( , ) ( , ) ( , ) ( , )W X Y ZR t t R t t R t t R t t 则 ( ) ( ) ( ) 0X Y Zt t t 若特 ，别 的 ， ( ), ( ), ( )X t Y t Z t 两 两 不 相 关1 2 1 2( , ) ( ) ( ) 0,XY X YR t t t t 即 1 2 1 2( , ) 0, ( , ) 0XZ YZR t t R t t 25 3 泊 松 过 程 及 维 纳 过 程 0 11 0 2 1 1( ), 0 , 0( ) ( ) 0 ,( ) ( ), ( ) ( ), ( ) ( ),( ), 0 nn nX t t s t s tX t X sn t t tn X t X t X t X t X t X tX t s tt 给 定 二 阶 矩 过 程 ， 对 ， 上 的 增 量 ；独 立 的 增 量 过 若称 随 机 变 量 为 随 机 过 程 在 区 间对 任 意 选 定 的 正 整 数 和 任 意 选 定 的个 增 量 相 互 独 立 ，称 为 ；它 具 有 “ 在 互 不 重 叠 的 区 间 上 ， 状 态 的 增 量 是 相 互 独 立 ”的 程这直 观 地 说 ，一 特 征 ； 0 , ( ) ( ) ( ) ( ) ( ) ()(0 ) ) 0, (X t Xh s X t s Xs h t hX t h X s h X t X st s s t t s 若 对 任 意 的 实 数 和与 具 有 相 同 的 分 布 ， 称 ；这 时 ， 增 量 的 分 布 函 数 与 的 分 布 函 数 相 同 ，即 只 依 赖 于 时 间 差 而 不 依 赖 于 和 本 身 ，当 增 量 具 有 平 稳 性 时 ， 称 相 应 的 独 立 增 量 过 增 量程 是 具 有 平 稳 性齐 次 的 ； 26 独 立 增 量 过 程 的 性 质 ： ( ), 0 (0) 0,X t t X 若 是 独 立 增 量 过 程 ， 且 则 ：( ) ( ) ( ) (0 )1. X t X t X s s t 的 有 限 维 分 布 函 数 族 可 以 由 增 量 的 分 布 所 确 定 ； 1 2 1 21 21 2 1 1 111 21 2 1 1, , ( ), ( ), ( )( ) (0), ( ) ( ) ( ) (0),., ( ) ( )( ), ( ), ( )( ) (0), ( ) ( ), , ( ) ( ) n nn n i iin n nn t t t t t tX t X t X tX t X X t X t X t X X t X tX t X t X tX t X X t X t X t X t 事 实 上 ， 对 任 意 的 及 任 意 的 ， 不 妨 设 ,则 ：即 的 分 布 函 数 可 由 ： 的 分 布 函 数 确 定 27 ( ) ( , ) ( ,2. ) X X XD t C s t D min s t设 已 知 ， 则( ) ( ) ( ) ( )XY t X t t X t 证 明 ： 记 ， 则 当 具 有 独 立 增 量 性 时 ，(0) 0, ( ) 0, ( ) ( )Y XY E Y t D t D t 且( )Y t 也 具 有 独 立 增 量 性 ， 2 ( ) (0) ( ) ( ) ( ) (0)E Y s Y Y t Y s Y s Y , ( , ) ( ) ( )Xs t C s t E Y s Y t 设 则 2 ( ) (0) ( ) ( ) ( )E Y s Y Y t Y s E Y s 2( ) (0) ( ) ( ) ( ) ( )XE Y s Y E Y t Y s E Y s D s , ( , ) ( )X Xt s C s t D t 同 理 当 时 可 证 得 28 (一 ) 泊 松 分 布 ( ) 0 0,( ), 0N t t tN t t 以 表 示 在 时 间 间 隔 内 出 现 得 质 点 数 ，是 一 状 态 取 非 负 整 数 、 时 间 连 续 的 随 机 过 程 ，称 为 计 数 过 程 。 0 0 000 0( , ) ( ) ( ) 0,( , ) ( , ) 0,1,2k N t t N t N t t tt tP t t P N t t k k 记它 表 示 时 间 间 隔 内 出 现 的 质 点 数 ，其 概 率 记 为 ： 5t4t3t2t1t()N t等间隔的 不 等 间 隔 的 29 ( )N t 计 数 过 程 满 足 如 下 条 强 度 为定 义 的 泊件： ， 称 作 松 过 程 。1. 在 不 相 重 叠 的 区 间 上 的 增 量 具 有 独 立 性 12. , ( , ) ( , ) 1 ( ) , ( )t P t t t P N t t t t o tN t 对 于 充 分 小 的其 中 常 数 称 为 常 数 的 强 度 2 2 3. ( , ) , ( )jj jt P t t t P N t t t j o t 对 于 充 分 小 的 ，4. (0) 0N 30 0 0 0 0, , 0P t t t P N t t t 证 明 ： 0( )00 00 0( ) ( )( , ) , 0,1,2,!, ( ) k t tkN t t t eP t t P N t t k kkN t t t t 若 是 强 度 为 的 泊 松 过 程 ，则 ：即 0 0 0, ,P t t P t t t条 件 1 0 0, , 0P N t t N t t t 0 0 0 0 0 0, , ,P t t t P t t P t t t o t 即 0 0, 0, , 0P N t t N t t t 2 3 0 0, 1P t t t o t 条 件 ， 0 0 0 0, ,dP t t P t tdt 0 0 0 0 0( , ) 0 ( , ) 1,N t t P t t 由 即 为 初 始 条 件0( )0 0 0( , ) t tP t t e t t 解 得 ： 0t t 等 式 两 边 除 以 ， 令 ， 得 ： 续 31证 毕 0( , ) 1kP t t k 再 来 计 算 0 0( , ) , ,k kP t t t P N t t N t t t k 00 , ,kj P N t t t j P N t t k j 0 0 0 1 0( , ) ( , ) , ,k k k kP t t t P t t P t t P t t t o t 00 0 ( )0 0 02,3, , ( ), , , 0,1,2! k t tk kt t k t tP t t P N t t k e t t kk 如 此 重 复 ， 即 逐 次 令 就 可 求 得 ：在 内 出 现 个 质 点 的 概 率 为 ： 0 0 1 1 0 02, , , , , ,kk k j k jjP t t t P t t P t t t P t t P t t t P t t 0 1 01 , ,k kt o t P t t t o t P t t o t 0t t 两 边 除 以 ， 令 ， 得 ： 0 0 1 0 0, , , k k kdP t t P t t P t t t tdt 0 0, 0 1kP t t k 初 始 条 件 ， 01 0 0 01, , t tk P t t t t e t t 令 即 可 解 得 32 0 00 ( , )N t t t tt t ， 增 量 的 概 率 分 布 是 参 数 为 ( )的 泊 松 分 布由 ，且 只 与 时 间 差 有 关 ， 所 以 强 度 为 的 泊 松 过 程 是 一 齐 次 的 独 立此 可 见 增量 过 程 。 0 0 0( ), 0 2. 0, ( ) ( ) 3. (0) 0( ), 0 N t tt t N t N t t tNN t t 若 计 数 过 程 满 足 下 列 三 个 条 件 ：1. 它 是泊 松 过 程 也 可 用 另 一 形 式 定 义独 立 增 量 过 程对 任 意 的 增 量则 称 是 强 度 为 的 ：一 泊 松 过 程 33 强 度 为 的 泊 松 过 程 的 数 字 特 征 ： 0 0 01. ,E N t t E N t N t t t 0 0 002. , 0 0 0 ,N ND N t t D N t N t t tt Nt E N t t D t D N t t 特 别 地 ， ， 由 假 设 ， 可 得 ： 3. , , , , 0 N NC s t D min s t min s t s t 24. , , , , 0N N N NR s t C s t s t min s t st s t 34 ( ), 0 (5) 4; (5) 4, (7.5) 6, (12) 9; (12) 9 (5) 4;(4) (5), (5), (5), (12).N t tP NP N N NP N NE N D N Cov N N 例 7： 设 服 从 强 度 为 的 泊 松 过 程 ， 求(1) (2) (3) 4 5(1) P 5 4 (5 ) 4!N e 解 ： (4) EN(5)=5 , 5 5 , (5), (12) 5 5 .D NCov N N D N 4 5 2 2.5 3 4.5(2) P 5 4, (7.5) 6, (12) 9P 5 4, (7.5) (5) 2, (12) (7.5) 3(5 ) 4!(2.5 ) 2!(4.5 ) 3!N N NN N N N Ne e e 5 7(3) (12) 9 (5) 4 (12) (5) 5 (5) 4 (12) (5) 5 (7 ) 5!P N NP N N NP N N e (5) 4 (12) 9P N N 问 题 ： 求 4 9 449 5 51 .12 12C 答 案 ： 35 N t 设 是 强 度 为 的 泊 松 过 程 1 ,nn n WW n W f t是 第 个 质 点 出 现 的 等 待 时 间 ， 下 面 给 出 的 概 率 密 度 0,nn W nW F t P W t P N t nn t t n 的 分 布 函 数 即 第 个 质 点 出 现 的 时 间 内 至 少 个 质 点 出 现 0!0 0 n k tW k n k n tP N t k e tF t k t 于 是 11 1 0! ! 1 !0 0nn n nk k k kW t t tk n k nW W dF t tk t te e e tdt k kf t n t 因 此 ， 的 概 率 密 度 为 ： ,nW n 即 服 从 分 布 。 1 1 00 0tW We tf t t 特 别 地 ， 质 点 首 次 出 现 地 等 待 时 间 服 从 指 数 分 布 ： 36 11 11 01 1 1 0 0 2 1,2, 0 1 i i ii i ti i i iT T i tP T t P N t t N t e tF tT W W i Wi i 。 下 面 来 求 的 分 布 ， 设 第 个 质 点 出 现 的 时 刻 为 ，记 称 为 相 继 出 现 的 第 个 质 点 和 第 点 间 间 距 个 质 点 的 则 , 1,2 , 0 00 0 ii ti TT i te tT f t t 即 于 是 的 概 率 密 度 为 ： 点 间 间 距 序 列 服 从 同 一 个 指 数 分 布 。 37 定 理 一 ： 强 度 为 的 泊 松 流 (泊 松 过 程 )的 点 间 间 距 是 相 互 独 立 的 随 机 变 量 ， 且 服 从 同 一 指 数 分 布 定 理 二 ： 如 果 任 意 相 继 出 现 的 两 个 质 点 的 点 间 间 距 是 相 互 独 立 ， 且 服 从 同 一 个 指 数 分 布 ： 这 两 个 定 理 刻 画 出 了 泊 松 过 程 的 特 征 ， 定 理 二 告 诉 我们 ， 要 确 定 一 个 计 数 过 程 是 不 是 泊 松 过 程 ， 只 要 用 统 计 方法 检 验 点 间 间 距 是 否 独 立 ， 且 服 从 同 一 个 指 数 分 布 。 00 0te tf t t 则 质 点 流 构 成 强 度 为 的 泊 松 过 程 38 (二 ) 维 纳 过 程维 纳 过 程 是 布 朗 运 动 的 数 学 模 型 以 W(t)表 示 运 动 中 一 微 粒 从 时 刻 t=0到 时 刻 t0的 位 移的 横 坐 标 ， 且 设 W(0)=0。 由 于 微 粒 的 运 动 是 受 到 大 量 随 机的 、 相 互 独 立 的 分 子 碰 撞 的 结 果 ， 于 是 :(1) 粒 子 在 时 段 (s,t上 的 位 移 可 看 作 是 许 多 微 小 位 移 的 和 ， 根 据 中 心 极 限 定 理 ， 假 设 位 移 W(t)-W(s)服 从 正态 分 布 是 合 理 的 。(2) 由 于 粒 子 的 运 动 完 全 由 液 体 分 子 不 规 则 碰 撞 而 引 起的 ， 这 样 ， 在 不 相 重 叠 的 时 间 间 隔 内 ， 碰 撞 的 次 数 、大 小 和 方 向 可 假 设 相 互 独 立 ， 即 W(t)具 有 独 立 增 量 ，同 时 W(t)的 增 量 具 有 平 稳 性 。 39 2( ), 0 1. 2. 0 0, 0 3. (0) 0 W t tt s W t W s N t sW 给 定 二 阶 矩 过 程 ， 如 果 它 满 足 ：具 有 独 立 增 量对 任 意 ， 增 量 且 称 此 过 程 为定 义 ： 维 纳 过 程 40 维 纳 过 程 的 性 质 ：1. 维 纳 过 程 是 齐 次 的 独 立 增 量 过 程2. ( )维 纳 过 程 是 正 态 过 程 ， 因 此 其 分 布 完 全 由 它 的 均 值 函 数 和 自 协 方 差 函 数 即 自 相 关 函 数 所 确 定 2 23. ( ) 0 ( ) , , , , , 0WWW W Wt E W tD t D W t tC s t R s t D min s t min s t s t 维 纳 过 程 的 数 字 特 征 : 41 ( ), 0( ) ( 1) ( )W t tX t W t W t例 8： 设 是 一 个 维 纳 过 程 ，求 + - 的 均 值 函 数 和 相 关 函 数 。( ) ( ) ( 1) ( ) 0X t E X t E W t E W t 解 ： + -( , ) ( 1) ( ) ( 1) ( )R s t E W s W s W t W t + + ( 1) ( 1) ( ) ( 1) ( 1) ( ) ( ) ( )E W s W t E W s W t E W s W t E W s W t + +(min( 1, 1) (min( , 1) (min( 1, ) (min( , )D s t D s t D s t D s t 2 222 2(min( 1, 1) ( 1), (min( , 1) ,( 1), 1(min( , ) , (min( 1, ) , 1s t D s t s D s t ss t sD s t s D s t t t s 设 ， 则 20, 1( , ) (1 ), 1t sR s t t s t s 于 是 ， 2 0, 1( , ) (1 ), 1s t t sR s t t s t s 类 似 讨 论 的 情 况 ， 合 起 来 有 42 关 键 词 ： 无 后 效 性 (马 尔 可 夫 性 ) 齐 次 马 尔 可 夫 链 n步 转 移 概 率 n步 转 移 概 率 矩 阵 C-K方 程 马 氏 链 的 有 限 维 分 布 律 遍 历 性 极 限 分 布 (平 稳 分 布 )第 十 一 章 马 尔 可 夫 链 1 马 尔 可 夫 过 程 及 其 概 率 分 布马 尔 可 夫 性 (无 后 效 性 ) 过 程 (或 系 统 )在 时 刻 t0所 处 的 状 态 为 已 知 的 条 件 下 ， 过程 在 时 刻 tt0所 处 状 态 的 条 件 分 布 与 过 程 在 时 刻 t0之 前 所 处的 状 态 无 关 。通 俗 地 说 ， 就 是 在 已 经 知 道 过 程 “ 现 在 ” 的 条 件 下 ， 其 “ 将来 ” 不 依 赖 于 “ 过 去 ” 。用 分 布 函 数 表 述 马 尔 可 夫 性 ： 1 2( ), , , 3,n iX t t T IT n t t t n t T 设 随 机 过 程 其 状 态 空 间 为对 参 数 集 中 任 意 个 数 值 1 1 1 1 1 1( ) | ( ) |n n n n n n n nP X t x X t x X t x P X t x X t x ( ),X t t T则 称 过 程 具 有 或 ，并 称 此 过 程 马 尔 可 夫 性 无 后 效 性马 尔为 可 夫 过 程 。 44 1 , 0 0 0, 0X t t XX t t 例 ： 设 是 独 立 增 量 过 程 ， 且 证 明 ： 是 一 个 马 尔 可 夫 过 程 。 1 2 1 ,n nT n t t t t 证 ： 对 中 任 意 个 数 值 1 1 1 1( ) | , ,n n n nP X t x X t x X t x 1 1 2 2 1 1 1 10 , 0 ,( ) , 0n n n n n nX t X x X t X xP X t X t x x X t X x 1 1 1 1( ) | 0n n n n n nP X t X t x x X t X x , 0X t t 由 定 义 知 ， 是 一 个 马 尔 可 夫 过 程 。 证 毕 ！ 1 1( ) |n n n nP X t x X t x 45 由 上 例 知 ， 泊 松 过 程 是 时 间 连 续 状 态 离 散 的 马 氏 过 程 ， 维 纳 过 程 是 时 间 状 态 都 连 续 的 马 氏 过 程 。时 间 和 状 态 都 离 散 的 马 尔 可 夫 过 程 称 为 马 尔 可 夫 链 ， 简 称 马 氏 链 ，记 为 ： Xn=X(n),n=0,1,2, ,参 数 集 T=0,1,2, ，记 链 的 状 态 空 间 为 ： 1 1 2 21 2, 0 ; , ,| , , , | , r rr im n j t i t i t i m im n j m i ijn r t t t m t m m n TP X a X a X a X a X aP X a X a P m m n 记 为马对 任 意 的 正 整 数 和 ，有 尔 可 夫 链 用 条 件 分 布 律 来 表 示 为： ： 1 2, , iI a a a R 46 , |ij m n j m iijP m m n P X a X am am n a 条 件 概 率 ： 称 为 马 氏 链 在 时 间 处 于 状 态 条 件 下 ，在 时 间 转 移 到 状 态 的 转 移 概 率 1 1 2, 1, 1,2, ,ijj iP m m n jm am n a a 这 是 因 为 链 在 时 刻 以 任 何 一 个 状 态 出 发 ，到 另 一 个 时 刻 必 然 转 移 到 诸 状转 移 概 率 性 质 ： 态 中 的 某 一 个 。 11 12 1321 22 2331 32 33, , , , , , , ,1P m m n P m m n P m m nP m m n P m m n P m m nP m m n P m m n P m m n P m m n 此 矩 阵 的 每 一转 移 概 率 矩 阵 ： 行 元 素 之 和 等 于 47 0, , | |ij ijij ij m n j m i n j iP m m n i j n P nP n P m m n P X a X a X a an P X 称 此 转 移 概 率 为 马 氏 链 的当 转 移 概 率当 只 与 及 有 关 时 ， 把具 有 这 种 平 稳 性 时 ， 它 记 为称 此 链步 转 是移 概 率 ； 齐 ，即 次 马 氏 链 。 11 12 13 21 22 2331 32 33 11 11 12 132 21 22 23 3 31 32 33 ( ) ( ) ( )( ) ( ) ( ) ( ) ( ) ( )1 |1 ij ij m j m inP n P n P nP n P n P nP n P n P n P nP P P X a X aa P P Pa P P PP P a P P P 在 齐 次 马 氏 链 中 ， 步 转 移 概 率 矩 阵 为 ：一 步 转 移 概 率 记 为 ：一 步 转 移 概 率 矩 阵 记 为 ： 的状态 Xm 1 2 3a a a Xm+1的 状 态 48 例 2： (0-1传 输 系 统 )如 图 所 示 ， 只 传 输 数 字 0和 1的 串 联 系 统 中 ， 设 每 一 级 的 传 真 率 为 p，误 码 率 为 q=1-p。 并 设 一 个 单 位 时 间 传 输 一 级 ， X0是 第 一 级 的 输 入 ，Xn是 第 n级 的 输 出 (n 1)， 那 么 Xn,n=0,1,2 是 一 随 机 过 程 ，状 态 空 间 I=0,1， 而 且 当 Xn=i为 已 知 时 ， Xn+1所 处 的 状 态 的 概 率 分 布只 与 Xn=i有 关 ， 而 与 时 刻 n以 前 所 处 的 状 态 无 关 ， 所 以 它 是 一 个 马 氏链 ， 而 且 还 是 齐 次 的 ， 它 的 一 步 转 移 概 率 和 一 步 转 移 概 率 矩 阵分 别 为 ： 1 | , 0,1 ij n n p j iP P X j X i i jq j i n21X0 X1 X2 XnXn-1p qP q p 49 例 3： 一 维 随 机 游 动 。 设 一 醉 汉 Q(或 看 作 一 随 机 游 动 的 质 点 )在 直 线 上 的 点 集 I=1,2,3,4,5作 随 机 游 动 ， 且 仅 在 1秒 、 2秒 等 时 刻 发 生 游 动 ， 游 动 的 概 率 规 则 是 ： 如 果 Q现 在 位 于 点 i(1i0)表 示 经 n次 交 换 后 甲 盒 中 的 红 球 数 . (1)求 此 马 氏 链 的 初 始 分 布 ; (2)求 一 步 转 移 概 率 矩 阵 ; (3)计 算 ; (4)判 断 此 链 是 否 具 有 遍 历 性 ， 若 有 ， 求 出 极 限 分 布 。 0 2 4 2( 1, 1, 0), ( 2)P X X X P X 0X 75 0 13 2 3 0(2) 1 2 9 5 9 2 9 ,2 0 2 3 13P 0 7 27 16 27 4 27(3) (2) 1 16 81 49 81 16 81 ,2 4 27 16 27 7 27P 3 3 1 2 30 4 6 0 2 4 62 1 30 2 4 6( 0) 15, ( 1) 3 5,( 2) 15,P X C C P X C C CP X C C C 解 :(1) 0 0 1 2 15 3 5 15X 即 :0 2 4( 1, 1, 0)P X X X 2 0 02 0 12 0 22( 2) ( 0) (2) ( 1) (2) ( 2) (2)P X P X P P X P P X P 3 5 49 81 16 81 2352 32805 0.072 0 11 10( 1) (2) (2)P X P P 15 4 27 3 5 16 81 15 7 27 15 0.2 76 0 13 2 3 0(4) 1 2 9 5 9 2 9 ,2 0 2 3 13P 由 定 理 知 ， 此 链 有 遍 历 性 ；1 2 3 952 23 9 32 19 3 1 0 0 11 0 1 22 1 20 1 2方 程 组 , , 0 1 2设 极 限 分 布 = ， 0 7 27 16 27 4 27(2) 1 16 81 49 81 16 81 ,2 4 27 16 27 7 27P 153515 012 77 关 键 词 ： (宽 )平 稳 过 程 时 间 均 值 时 间 相 关 函 数 各 态 历 经 性 谱 密 度第 十 二 章 平 稳 随 机 过 程 78 1 平 稳 随 机 过 程 的 概 念 , X t t T 是 一 随定 义 ： 机 过 程 ， 1 21,2, , , nn n t t t T h 对 任 意 的 ， 和 任 意 实 数1 2, , , ,nt h t h t h T 当 时 1 2 1 2, , , , ,n nX t X t X tX t h X t h X t h 和具 有 相 同 的 分 布 函 数 ， 1 2 1 21 2 1 2, , , ; , , , , ; , , ,n nn nF x x x t t tF x x x t h t h t hX t t T 平即 ： 则 称 随 机 过 程 具 有 ， 稳 性严 平 稳 随 机 过 程 称 此 过 程 为 ， 简 称 严 平 稳 过 程 79 , 00, 1, 2, , 0,1,2,T 平 稳 过 程 的 参 数 集 可 以 为 连 续 的 ,如 ， ， ， ； 可 以 为 离 散 的 ,如 1 2 1 22 1 2 1 2 1, 0 , 0 0,X XX X XX t t Tt E X t E XR t t E X t X tE X X t t R t t R t t 记 为 记 为 设 严 平 稳 过 程 是 二 阶 矩 过 程 则 常严 平 稳 过 程 的 数 字 数特 征 ： 80 1 2 1 2 11 2 2 12 10 , , 0 ,X t X t h h tX t XX t X t X t h X t h h tX t X t X X t tt t 事 实 上 , 与 同 分 布 ， 取 则 与