概率论与数理统计经典课件 随机过程

2022-1-211概率论与数理统计 3关键词： 随机过程 状态和状态空间 样本函数 有限维分布函数 均值函数 方差函数 自相关函数 自协方差函数 互相关函数 互协方差函数 正态过程 独立增量过程 泊松过程 维纳过程第十章 随机过程及其统计描述41 随机过程的概念 随机过程随机过程被认为是概率论的“动力学”部分，即它的研究对象是随时间演变的随机现象，它是从多维随机变量向一族(无限多个)随机变量的推广。 给定一随机试验E，其样本空间S=e，将样本空间中的每一元作如下对应，便得到一系列结果：( ), ( ),eX e Y e12( ),( ),( ),neX e XeXe12( ),( ),),eX e Xe( ),eX e( , ) (,),eX e tt X一维即随机变量(, )X Y即二维随机变量12(,)XX 即随机序列12(,)nXXXn维即随机变量( ),(,)X t t 即随机过程5 一维、二维或一般的多维随机变量的研究是概率论的研究内容，而随机序列、随机过程则是随机过程学科的研究内容。从前面的描述中看到，它的每一样本点所对应的，是一个数列或是一个关于t的函数。 ( , ),( , ),TX e t eS tTetSTtT X e tX e t eS tT设 是一无限实数集，是对应于 和 的实数， 即为定义在 和 上的二元函数。 若此函数对任意固定的是一个随机变量， 定义： 则称是随机过程；,( , )Tet X e t为参数集，对固过程定的 和称为的状态；( , )X e t 所有可能的值状的全体称为态空间；( , )( )X e tX t今后将简记为( , ),tX e t eS tTe对于随机过程进行一次试验，即 给定，它是 的函数，称为随机过程的样本函数。6 例1：抛掷一枚硬币的试验，样本空间是S=H,T，现定义： 1( ) ,()( )2 ( ),cos tHX ttP HP TtTX t t 当出现，其中当出现则是一随机过程。,( )t X tcos tt解：对任意固定的是随机变量，取值为和1234( )X t1( )X t2( )Xtt1( )( )2P X tcos tP X tt12( ),( )X tcos t Xtt此随机过程的样本函数只有两个，即72 ( )(),(0,2 ),( )(),(0,2 ),( )(), X tcosttt X tcostx tcost 例 ：考虑式中 和 是 正常数, 是在上服从均匀分布的随机变量, 这是一个随机过程。 对每一固定的时刻是随机变量 的函数,从而也是随机变量。它的状态空间是-. 在内随机取一数相应的就得到一个样本函数这族样本函数的差异在于它们相位 的不同, 故这一过程称为随机相位正弦波。 83( ) , 0,1( ) ( ) 0,1( ).X tVcos ttVX ttX tVcos tVcos tvx tvcos t 例 ：设其中 是常数；在上服从均匀分布,则是一个随机过程。对每一固定的 ，是随机变量 乘以常数，故也是随机变量,对上随机变量取一 值, 就得到相应的一个样本函数 94120( )0,0( )( ),00,1,2,.X tttX tX t t例 ：设某城市的急救中心电话台迟早会接到用户的呼叫。 以表示时间间隔内接到的呼叫次数， 它是一个随机变量，且对于不同的，是不同 的随机变量，于是是一随机过程，且它的 状态空间是1t2t3t4t1t2t4t3t14231( )x t2( )x t( )x tt 例5：考虑抛掷一颗骰子的试验：16(1)(1)1,2, (),1,2,3,4,5,6,1nnnnXnnnXP XiiXn 设是第 次抛掷的点数，对于的不同值，是随机变量，服从相同的分布， 因而构成一随机过程，称为伯努利过程或伯努利随机序列, 它的状态空间为 1,2,3,4,5,6 。(2) ,11,2,3,4,5,6nnYnY n设 是前 次抛掷中出现的最大点数,也是 一随机过程，它的状态空间仍是。 下面分别给出它们的一条样本函数：n87654321nx321654nx(1)(2)n87654321ny321654ny11随机过程的分类：随机过程的分类： 随机过程可根据参数集T和任一时刻的状态分为四类，参数集T可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随机变量和连续型随机变量两种：1. 连续参数连续型的随机过程，如例2，例32. 连续参数离散型的随机过程，如例1，例43. 离散参数离散型的随机过程，如例54. 离散参数连续型的随机过程，12,2,( ),()nnTttn tX tXXXXX n t对于随机相位正弦波， 若只在时间集上观察，就得到 例子 随机序列是连续型随如下：机变量。122 随机过程的统计描述分布函数两种描述特征数() 一随机过程的分布函数族1212121111222221( , ,)( ),( )(2,3,), ,( ),( ),( ),1,2,( ),( ,; , ,) ( ),( )XnnnniXnnnniFx xxt ttP X tx X txX tn nt ttTnX tX tX txR inX t tTFx xx t tttTX t tnxnT一般地，对任意个不同的时刻，维随机变量的分布函数：称为随机变；，量的称为的维分布函数维分布函数族1212( ,; , ,),1,2, ( ),XnniFx xx t ttntTX t tT有限维分布一般地，称为随机过程的它完全确定了随机过程函数族的统计特性( ),( ),( , ),( , )(XXFx tP X txxRX t tTtTX t tTFx t tT 设随机，过程对每一固定的称为随机一过程的称维分布函数一为，维分布函数族13 例1：抛掷一枚硬币的试验，定义一随机过程：12cos 1( ) ,()( ),2 ( )(1)( ;0)( ;1); (2) ( ,;0,1);tHX ttP HP TtTX tF xF xF x x 出现，设出现试确定的： 一维分布函数 ，二维分布函数 1 (0)0 HXT出现解：出现 0 01( ;0) 012 1 1xF xxx故1 (1)1 HXT出现出现 0 11( ;1) 112 1 1xF xxx 故14 例1：抛掷一枚硬币的试验，定义一随机过程：12cos 1( ) ,()( ),2 ( )(1)( ;0)( ;1); (2) ( ,;0,1);tHX ttP HP TtTX tF xF xF x x 出现，设出现试确定的： 一维分布函数 ，二维分布函数 1, 1 (0),(1)0, 1 HXXT出现出现12121212120 11 10( ,;0,1)1 11xxxxF x xxx 且或故且 其他1234( )X t1( )X t2( )Xtt1x2x152( ),0,130,( )442X tVcos t tVtX t 例 ：设随机过程， 在上均匀分布 求在时的密度函数。 ,0,tcos tacos t解：对给定的 若记，( )X taV则的密度函数为： 1 011 ;0 XVxxaafx tfaa其他01acos1 01;00 Xxfx于是 其他2,42acos22 0;240 Xxfx其他23,42acos 22 03;240 Xxfx其他1,acos 1 10;0 Xxfx 其他0,2acos012P X1622222( ),( )( )( )( )( )( )( )( )( )( ) XXXXXXXX t tTtE X ttE XttDtEX tttt均值函数均方值函给定随机过程-数方差函数标准差函数-各数字特征之间的关系如下：(二二) 随机过程的数字特征随机过程的数字特征12121212121122,( , )( )( )( , )( ),( ) ( )( )( )( )( )( )XXXXXXt tTRt tE X t X tCt tCov X tX tEX ttX tt又设任自相关函数自协意方差函数 2,XXtRt t 121212,XXXXCt tRt ttt 22,XXXXtCt tRt tt172( ), ( )( )X t tTtT E XtX t随机过程，如果对每一都存在， 则称是， 二阶矩过程的均值函数和相关二阶函数定总义：是程 矩过存在的。1212( ),1, , ( ),( ),( )( ),nnX t tTnt ttTX tX tX tnX t tT 是一随机过程，若它的每一个有限维分布 都是正态分布，即对任意整数及任意服从 维正态分布， 则称是正态过程的全部统计特性完全由它的均值函数和自协方差正函定义：态过程数所确定。183, ( )3 , ,1,4 ,0,2 ,( )A BX tAtB tTA BANBUX t 例 ：设是两个随机变量，试求随机过程:的均值函数和自相关函数。如果相互独立，且问的均值函数和自相关函数又是怎样的？ ( )( )XtE X t解： ( )3 ( )tE AE B1212( , )( )( )XRt tE X t X t221 21212()3() ()9 () ,t t E AttE ABE Bt tT1,4 ,0,2ANBU当时，224( )1,()5,( )1,()3E AE AE BE B,A B又因为独立，()( ) ( )1E ABE A E B故121 21212( )3,( , )53() 12 ,XXttRt tt tttt tT 19( )() , (0,2 )X tacostt 例4：求随机相位正弦波在上均匀分布 的均值函数、方差函数和自相关函数。 解：由假设 的概率密度为：1212( , )( )( )XRt tE X t X t 1 022 0 f 其他( )( )XtE X t于是E acost20102acostd212()()E a costcost221()2acostt221201()()2acostcostd2122ttacos22( )( , )( )XXXtRt tt2( , )2XaRt t20225( ), ,(0,)( )X tABtCttA B CNX t 例 ：设其中是相互独立,且都服从正态分布的随机变量， 试证明是正态过程,并求它的均值函数和自相关函数。 ( )X t解：是正态过程121122,( )( )( )nnnu uu u X tu X tu X t对任意一组数 服从一维正态分布21122111( )( )( )nnnnnii ii iiiiu X tu X tu X tAuButCut而, ,( , ,)A B CA B C因为是相互独立的正态变量，故是三维正态变量，( )X t所以是正态过程1212, ,( ),( ),( )nnt ttTX tX tX tn对任意一组实数服从 维正态分布2111, ,nnnii ii iiiiAuBututA B CC是的线性组合，因此它服从一维正态分布，续续21下面计算均值函数和自相关函数:( )( )( )()()()0,E AE BE CE ABE ACE BC因为2222()()()E AE BE C2( )XtE ABtCt故2( )( )( )0E AE B tE C t1212( , )( , )XXCt tRt t221122()()E ABtCtABtCt2221 212(1)t tt t22( ), ( ),( ), ( )( ), ( ) X t Y ttTtT X t Y tX t Y ttT 设是依赖于同一参数的随机过程，对于不同的()是不同的二维随二机变量，称为维随机过程(三三) 二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征1211121212121212( ), ( ) , ,; , ,( ),( ),( ); ( ), ( ),()( ,; , ,;,; , ,)nmnmnnmmX t Y ttTt tt t ttTnmX tX tX tY tY tY tF x xx t tty yytmtnt 给定二维随机过程，是 中任意两组实数，则维随机变量的分布函数：称为二维随机过程的维分布函数12111212( ), ( ) , ,; , ,( ),( ),( )( ), ( ),()( )( )nmnmX t Y ttTn mt ttT t ttTnX tX tX tmY tY tY tX tY t 给定二维随机过程对任意的正整数，任意的数组维随机变量与 维随机变量相互独立，称随机变量和是相互独立的23( ), ( )X t Y t关于数字特征，除了各自的均值函数和自相关函数，还有如下两个数字特征:1212( ), ( ),( , )0,( )( )XYX t Y tt tTCt tX tY t如果二维随机过程对任意的恒有称和是不相关的。121212121212( , )( ) ( ) ,( , ) ( )( ) ,XYYXRt tE X t Y tt tTRt tE Y t X tt tT互相关函数12112212121212121212( , )( )( ) ( )( ) ( , )( )( ) ,( , )( , )( )( ) ,XYXYXYXYYXYXYXCt tEX ttY ttRt tttt tTCt tRt tttt tT互协方差函数2412121212121212( )( ), ( ),( )( ),( ),( ),( , ),( , ),( , ), ( , ),( , ),( , )( ),( , ).XYZXYZXYYZZXWWW tX t Y t Z ttttRt tR t tRt tRt tRt tRt ttRt t例6：随机过程是三个随机过程之和， 已知，求 ( )( )( )( )W tX tY tZ t解：( )( )( )( )WXYZtttt12121212( , )( , )( , )( , )WXYZRt tRt tR t tRt t121212( , )( , )( , )XYYXXZRt tRt tRt t121212( , )( , )( , )ZXYZZYRt tRt tRt t12121212( , )( , )( , )( , )WXYZRt tRt tR t tRt t则( )( )( )0XYZttt若特，别的， ( ), ( ),( )X t Y t Z t 两两不相关1212( , )( )( )0,XYXYRt ttt即1212( , )0,( , )0XZYZRt tRt t253 泊松过程及维纳过程0110211( ),0,0( )( )0,( )( ),( )( ),( )(),( ),0nnnX t ts tstX tX sntttnX tX tX tX tX tX tX ts tt给定二阶矩过程，对，上的增量；独立的增量过若称随机变量为随机过程在区间对任意选定的正整数 和任意选定的个增量相互独立，称为；它具有“在互不重叠的区间上，状态的增量是相互独立”的程这直观地说，一特征；0,()()( )( )( )()(0)0,(X tXhsX tsXshthX thX shX tX stsstts 若对任意的实数和与具有相同的分布，称；这时，增量的分布函数与的分布函数相同，即只依赖于时间差而不依赖于 和 本身，当增量具有平稳性时，称相应的独立增量过增量程是具有平稳性齐次的；26 独立增量过程的性质：( ),0(0)0,X t tX若是独立增量过程，且则：( )( )( ) (0)1. X tX tX sst的有限维分布函数族可以由增量的 分布所确定；121212121111121211, , ( ),( ),( )( )(0),( )( )( )(0),.,( )()( ),( ),( )( )(0),( )( ),( )() nnnniiinnnnt tttttX tX tX tX tXX tX tX tXX tX tX tX tX tX tXX tX tX tX t事实上，对任意的 及任意的，不妨设,则：即的分布函数可由：的分布函数确定27( )( , )( ,2.) XXXDtCs tDmin s t设已知，则( )( )( )( )XY tX ttX t证明：记，则当具有独立增量性时，(0)0, ( )0,( )( )YXYE Y tD tDt且( )Y t 也具有独立增量性，2 ( )(0) ( )( ) ( )(0)E Y sYY tY sY sY,( , ) ( ) ( )XstCs tE Y s Y t设则 2 ( )(0) ( )( )( )E Y sYY tY sE Ys 2( )(0)( )( )( )( )XE Y sYE Y tY sE YsDs,( , )( )XXtsCs tDt同理当时 可证得28(一) 泊松分布( ) 00,( ),0N tttN t t以表示在时间间隔内出现得质点数，是一状态取非负整数、时间连续的随机过程，称为计数过程。000000( , )( )( ) 0,( , )( , ) 0,1,2kN t tN tN tttt tP t tP N t tkk记它表示时间间隔内出现的质点数，其概率记为：5t4t3t2t1t( )N t等间隔的不等间隔的29( )N t计数过程满足如下条强度为定义的泊件：，称作松过程。1. 在不相重叠的区间上的增量具有独立性12. ,( ,)( ,)1() ,( )t P t ttP N t tttotN t 对于充分小的其中常数称为常数的强度22 3. ( ,),()jjjtP t ttP N t ttjot对于充分小的，4. (0)0N300000,0P t ttP N t tt证明：0()00000( )()( , ), 0,1,2,!,()kt tkN ttteP t tP N t tkkkN t ttt 若是强度为 的泊松过程，则：即000,P t t P t tt条件100,0P N t tN t tt000000,P t ttP t tP t ttot 即00,0,0P N t tN t tt2 300,1P t ttot 条件 ，0000,dP t tP t tdt 00000( , )0( , )1,N t tP t t由即为初始条件0()000( , ) t tP t tett解得：0tt 等式两边除以，令，得：续续31证毕证毕0( , ) 1kP t tk 再来计算00( ,),kkP t ttPN t tN t ttk00,kjP N t ttj P N t tkj00010( ,)( , ),kkkkP t ttP t tP t tPt ttot 000()0002,3, ,(), , 0,1,2!kt tkkt tkttP t tP N t tkettkk如此重复，即逐次令就可求得：在内出现 个质点的概率为：0011002,kkkjkjjP t tt P t tP t tt Pt tP t tt Pt t0101,kktotP t ttotPt tot 0tt 两边除以，令，得：00100, kkkdP t tP t tPt tttdt 00,01kP t tk初始条件，010001, t tkP t tttett令即可解得32000( , )N t ttttt ，增量的概率分布是参数为 ()的泊松分布由，且只与时间差有关，所以强度为 的泊松过程是一齐次的独立此可见增量过程。000( ),0 2. 0,( )( ) 3. (0)0( ),0N t tttN tN tttNN t t 若计数过程满足下列三个条件：1. 它是泊松过程也可用另一形式定义独立增量过程对任意的增量则称是强度为 的：一泊松过程33强度为 的泊松过程的数字特征： 0001. ,E N t tE N tN ttt 00002. ,000 ,NND N t tD N tN ttttNtE N tt DtD N tt 特别地，由假设，可得：3. , ,0NNCs tDmin s tmin s ts t 24. , ,0NNNNRs tCs tstmin s tsts t34( ),0(5)4;(5)4,(7.5)6,(12)9;(12)9(5)4;(4)(5),(5),(5),(12).N t tP NP NNNP NNE ND NCov NN例7：设服从强度为 的泊松过程，求(1) (2) (3) 45(1) P54(5 )4!Ne解： (4) EN(5)=5 ,55 ,(5),(12)55 .D NCov NND N 4522.534.5(2) P54,(7.5)6,(12)9P54,(7.5)(5)2,(12)(7.5)3(5 )4!(2.5 )2!(4.5 )3!NNNNNNNNeee57(3) (12)9(5)4(12)(5)5(5)4(12)(5)5(7 )5!P NNP NNNP NNe(5)4(12)9P NN问题：求49 449551.1212C 答案：35 N t设是强度为 的泊松过程 1 ,nnnWWnWft是第 个质点出现的等待时间，下面给出的概率密度 0,nnWnWFtP WtP N tnnttn 的分布函数 即第 个质点出现的时间内至少 个质点出现 0!0 0nktWk nk ntP N tketFtkt于是 111 0! 1 !0 0nnnnk kkkWtttk nk nWWdFttktteeetdtkkftnt 因此，的概率密度为：,nWn即服从分布。 11 00 0tWWetftt特别地，质点首次出现地等待时间服从指数分布： 36 11110111 0 0 2 1,2, 0 1 iiiiitiiiiTTitP TtP N ttN tetFtTWWiWii 。 下面来求 的分布，设第个质点出现的时刻为，记 称为相继出现的第个质点和第点间间距 个质点的 则 ,1,2 , 0 00 0iitiTT itetTftt即 于是 的概率密度为： 点间间距序列服从同一个指 数分布。37 定理一：强度为的泊松流(泊松过程)的点间间距是相互独立的随 机变量，且服从同一指数分布 定理二：如果任意相继出现的两个质点的点间间距是相互独立， 且服从同一个指数分布： 这两个定理刻画出了泊松过程的特征，定理二告诉我们，要确定一个计数过程是不是泊松过程，只要用统计方法检验点间间距是否独立，且服从同一个指数分布。 00 0tetf tt则质点流构成强度为的泊松过程38(二) 维纳过程维纳过程维纳过程是布朗运动的数学模型 以W(t)表示运动中一微粒从时刻t=0到时刻t0的位移的横坐标，且设W(0)=0。由于微粒的运动是受到大量随机的、相互独立的分子碰撞的结果，于是:(1) 粒子在时段(s,t上的位移可看作是许多微小位移的 和，根据中心极限定理，假设位移W(t)-W(s)服从正态分布是合理的。(2) 由于粒子的运动完全由液体分子不规则碰撞而引起的，这样，在不相重叠的时间间隔内，碰撞的次数、大小和方向可假设相互独立，即W(t)具有独立增量，同时W(t)的增量具有平稳性。39 2( ),0 1. 2. 00,0 3. (0)0W t ttsW tW sNtsW给定二阶矩过程，如果它满足：具有独立增量对任意，增量 且 称此过程为定义：维纳过程40维纳过程的性质：1. 维纳过程是齐次的独立增量过程2. ()维纳过程是正态过程，因此其分布完全由它的均值 函数和自协方差函数 即自相关函数 所确定 223. ( )0 ( ) , ,0WWWWWtE W tDtD W ttCs tRs tDmin s tmin s ts t维纳过程的数字特征:41( ),0( )( 1)( )W t tX tW tW t例8：设是一个维纳过程，求+ -的均值函数和相关函数。( )( )( 1)( )0XtE X tE W tE W t解：+-( , )(1)( )( 1)( )R s tE W sW sW tW t+(1)(1)( )(1)(1)( )( )( )E W sW tE W s W tE W sW tE W s W t+(min(1,1)(min( ,1)(min(1, )(min( , )DstDs tDstDs t22222(min(1,1)(1),(min( ,1),(1),1(min( , ),(min(1, ),1stDstsDs tsstsDs ts Dsttts设，则20,1( , )(1),1tsR s tts ts 于是，20,1( , )(1),1sttsR s ttsts类似讨论的情况，合起来有42关键词： 无后效性(马尔可夫性) 齐次马尔可夫链 n步转移概率 n步转移概率矩阵 C-K方程 马氏链的有限维分布律 遍历性 极限分布(平稳分布)第十一章 马尔可夫链1 马尔可夫过程及其概率分布马尔可夫性(无后效性) 过程(或系统)在时刻t0所处的状态为已知的条件下，过程在时刻tt0所处状态的条件分布与过程在时刻t0之前所处的状态无关。通俗地说，通俗地说，就是在已经知道过程“现在”的条件下，其“将来”不依赖于“过去”。用分布函数表述马尔可夫性：12( ),3,niX t tTITnttt ntT设随机过程其状态空间为对参数集 中任意 个数值 111111( )|( )|nnnnnnnnP X txX txX txP X txX tx( ),X t tT则称过程具有或，并称此过程马尔可夫性无后效性马尔为可夫过程。44 1,000,0X ttXX tt例：设是独立增量过程，且 证明：是一个马尔可夫过程。 121,nnTntttt证：对 中任意 个数值 1111( )|,nnnnP X txX txX tx 112211110,0,( ),0nnnnnnX tXx X tXxP X tX txxX tXx 1111( )|0nnnnnnP X tX txxX tXx ,0X tt 由定义知，是一个马尔可夫过程。 证毕！证毕！11( )|nnnnP X txX tx45由上例知，泊松过程泊松过程是时间连续状态离散的马氏过程， 维纳过程维纳过程是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为马尔可夫链马尔可夫链，简称马氏链，记为：Xn=X(n),n=0,1,2,参数集T=0,1,2,，记链的状态空间为：112212,0; ,|, |,rrrim njtititimim njmiijn rtttm t m mnTP XaXaXaXaXaP XaXaP m mn记为马对任意的正整数和，有尔可夫链用条件分布律来表示为：12, iIa aaR46,|ijm njmiijP m mnP XaXamamna条件概率： 称为马氏链在时间 处于状态 条件下，在时间转移到状态 的转移概率112,1,1,2,ijjiP m mnjmamna a这是因为链在时刻 以任何一个状态 出发，到另一个时刻必然转移到诸状转移概率性质： 态中的某一个。111213212223313233,1Pm mnPm mnPm mnPm mnPm mnPm mnP m mnPm mnPm mnPm mn此矩阵的每一转移概率矩阵： 行元素之 和等于 47 0,|ijijijijm njminjiP m mni jnP nP nP m mnP XaXaXaanPX称此转移概率为马氏链的当转移概率当只与及 有关时，把具有这种平稳性时，它记为称此链步转是移概率；齐，即次马氏链。 1112132122233132331111121322122233313233( )( )( )( )( )( ) ( )( )( )1|1 ijijmjminP nPnPnPnPnPnP nPnPnPnPPP XaXaaPPPaPPPPPaPPP在齐次马氏链中， 步转移概率矩阵为：一步转移概率记为：一步转移概率矩阵记为：的状态Xm123aaaXm+1的状态48 例2：(0-1传输系统)如图所示，只传输数字0和1的串联系统中，设每一级的传真率为p，误码率为q=1-p。并设一个单位时间传输一级，X0是第一级的输入，Xn是第n级的输出(n1)，那么Xn,n=0,1,2是一随机过程，状态空间I=0,1，而且当Xn=i为已知时，Xn+1所处的状态的概率分布只与Xn=i有关，而与时刻n以前所处的状态无关，所以它是一个马氏链，而且还是齐次的，它的一步转移概率和一步转移概率矩阵分别为：1 | ,0,1 ijnnpjiPP Xj Xii jqjin21X0X1X2XnXn-1pqPqp49 例3：一维随机游动一维随机游动。设一醉汉Q(或看作一随机游动的 质点)在直线上的点集I=1,2,3,4,5作随机游动， 且仅在1秒、2秒等时刻发生游动，游动的概率规则 是：如果Q现在位于点i(1i0)表示经n次交换 后甲盒中的红球数. (1)求此马氏链的初始分布; (2)求一步转移概率矩阵; (3)计算 ; (4)判断此链是否具有遍历性，若有，求出极限分布。0242(1,1,0),(2)P XXXP X0X7501 32 30(2)1 2 95 92 9 ,202 31 3P07 2716 274 27(3) (2)1 16 8149 81 16 81 ,24 2716 277 27P3312304602462130246(0)1 5, (1)3 5,(2)1 5,P XCCP XC CCP XC CC解:(1)00121 53 51 5X即:024(1,1,0)P XXX2002012022(2)(0)(2)(1)(2)(2)(2)P XP XPP XPP XP3 5 49 81 16 812352 328050.07201110(1)(2)(2)P XPP1 5 4 273 5 16 81 1 5 7 271 50.27601 32 30(4)1 2 95 92 9 ,202 31 3P由定理知，此链有遍历性；1239522393219310011012212012方程组, 012设极限分布 =，07 2716 274 27(2)1 16 8149 81 16 81 ,24 2716 277 27P15351501277关键词： (宽)平稳过程 时间均值 时间相关函数 各态历经性 谱密度第十二章 平稳随机过程781 平稳随机过程的概念 , X ttT是一随定义：机过程，121,2, ,nn nt ttTh对任意的，和任意实数12, ,nth ththT当时 1212,nnX tX tX tX thX thX th和具有相同的分布函数， 12121212,; , ,;,nnnnF x xx t ttF x xx th ththX ttT平即： 则称随机过程具有， 稳性严平稳随机过程 称此过程为，简称严平稳过程79 ,00, 1, 2, 0,1,2,T 平稳过程的参数集 可以为连续的,如，； 可以为离散的,如 1212212121,0 ,00,XXXXXX ttTtE X tE XRt tE X tX tE XX ttRttRtt记为记为 设严平稳过程是二阶矩过程 则常严平稳过程的数字数特征：80 121211221210 ,0 ,X tX thhtX tXX tX tX thX thhtX tX tXX tttt 事实上,与同分布，取 则与同分布，从而有相同的数学期望与同分布，取 则与同分布，因此 自相关函数仅是时间差的函数 2200XXXXXXXCRDtCR从而协方差函数 方差函数 是常数由于要确定一个随机过程的分布函数，并进而判定其平稳性在实际中是不易办到的。因此，通常只在二阶矩过程范围内考虑宽平稳过程。81 , ,XXX ttTt tTE X tE X t X tRX ttT 给定二阶矩过程，如果对任意的常数 则称为宽平稳过程 严平稳过程二阶矩存在宽平稳过程；反之不一定成立. 今后，平稳过程均指宽平定义：稳过程。 ,XYXYXYX tY ttTRRt tE X t X tRX tY t和是两个平稳过程 如果它们的互相关函数也只是时间差的函数，记为 即 称和是， 或称这两个过程平是稳相关的联合定义：宽 平稳的8222 1,0, 1, 2,0,:,0, 1, 2,kkkkXkE XE XXk 例 ：设是互不相关的随机变量序列， 且.证明是宽平稳的随机序列. 2 :0,0 ,0, 1, 2,kXklkklE XRk lE X XklklXk 证明 即：相关函数只与有关， 所以它是宽平稳的随机序列，也称为离散白噪声。 注:如果又是独立同分布的，则它还是严平稳序列。83 00Nnkn kkE Ya E X证： 0012,0, 1, 2,1 0, 1, 2,0, 1, 2,kNnkn kkNnXkYa XnNa aaY n 例 ：设是例中的随机序列， 作，其中 是自然数，而是常数. 证明：是平稳序列,Ynn mRn nmE Y Y又相关系数00NNkn kjn mjkjEa Xa X00NNkjn kn mjkja a E XXnnY它与 无关，所以是平稳序列。2 00Nkm kkm k Na a 84 30,S tTTX tS t例 ：设是一周期为 的函数， 是在上服从均匀分布的随机变量， 称为随机相位周期过程，试讨论它的平稳性。 1 00 TTf解：由假设， 的概率密度为: 其他 ,XRt tE S tS t01TS tdT 1t TtSdT 01TSdT周期性常数所以随机相位周期过程是平稳的。 ,E X tE S t于是 1t TtSSdT 01TS tS tdT 01TXSSdRT周期性记为85 41 ,2, ,0,1,2,!0kX tIIP X tIt tN t tN t teP N t tkkkX t 例 ：考虑随机电报信号，信号由只取或的电流给出。而正负号在区间内变化的次数是随机的，且假设服从泊松分布，即： 其中是单位时间内变号次数的数学期望，试讨论的平稳性. t( )x t86 022IIE X tI P X tII P X tI 解： 2222I P X t X tII P X t X tI 0, ,XRt tE X t X t设 2,X t X tIt t事件等价于电流在内变号偶数次， 20,2kP X t X tIP N t tk因此202!kkek续续87221200,2!21 !kkXkkeeRt tIkk 所以2220!kkI eI ek 220,XtttRt tE X tX tI e 此结果与 无关，若只要令则有22,.XRt tI e综合得，仅与 有关，故是平稳过程。 20,21kP X t X tIP N t tk 同理21021 !kkek882 各态历经性 如何根据实验记录确定平稳过程的均值和自相关函数呢？ 按照数学期望和自相关函数的定义，需要时，一个平稳过程重复进行大量观察，获得一族样本函数用统计实验方法，均值和自相关函数近似地为： 121121111, NNXkXkkkkxtRttxtxtNN 12,nx txtxt89 平稳过程的统计特性不随时间的推移而变化，根据这一特点，能否通过在一个很长时间内观察得到的一个样本曲线来估计平稳过程的数字特征呢？ 本节给出的各态历经定理证实，只要满足某些条件，那么均值和自相关函数实际上可以用一个样本函数在整个时间轴上的平均值来代替。( )x tt90随机积分定义：两种定义下的随机变量在存在的情况下，以概率1相等 1. ,( ) , ,baX ttTx taX ta bbTYX t dt Y给定二阶矩过程，如果它的每一个样本函数在上的随机过程在上积分都存在，称， 的积分存 记为是一在随机变量； 012112012.,1,2,0,iniiiiiiniimax tia battttbttttt inYlimEYXtYX ta b 考虑内的一组分点： 且记 若存在随机变量 ，使 称 为在上的均方积分91 ,.babbXaabaX ttTRs tE YE X tdsdtdX ta bY YX ttdt 是二阶矩过程，若自相关函数的二重积分存在， 即存在，则在上均方积分存在 即存在随机变量且定理：92 12TTTX tX t X tlimX t X tdtT随机过程的时间相关函数：= 12TTTX tX tlimX t dtT随机过程的时间均值： 定 义：=93 1 X tacostX tX t X t。例：计算随机相位正弦波：的时间平均和 1 2TTTX tlimacostdtT 解：0Tacos sin TlimT2Ta sinTsinTlimT 将 看作一定值94 XXE X tX tRE X t X tX t X t 对照第十章计算过的均值函数和自相关函数，可知： 2 12TTTX t X tlima costcostdtT22acos2224TTTalimcostcosdtT 222222422TsinTsinTaa coslimT 951. ( )( )1( )XX tE X tX t如果以概率 成立， 均值具有 则各称过程的态历经性 X t设是定义：一平稳过程 2. ( )()( )()1( )0XX t X tE X t X tRX t如果对任意实数 ，以概率 成立， 则称过程的， 自相关函数具有各 特别当时，称态历经性均方值具有各态历经性( )3. ( )X tX t如果的均值和自相关函数都具有各态历经性， 是各态 则称历经过程96 12,12X tX tXP XX t 例 ：是随机变量， 试确定的均值是否具有各态历经性。 X tX解：是平稳过程， 1122TTTTTTX tlimX t dtlimXdtXTT时间均值 0XtE X tEX因为 X t由定义知，的均值不具有各态历经性 00XPX tP X即 2,1XRt tE X t X tE Xt与 无关11 1x t 2xt97( )() ,2 , 01,A ( ),0,(0,2 )X tAcosttxxAf x 例3：证明:正弦波其中 是常数与 相互独立其它在上均匀分布,是平稳过程;并判断其是否为各态历经过程. 1212( , )( )( )XRt tE X t X t:( )( )XtE X t证明E Acost( ) 0E A E cost212 ()()E A E costcost212111()cos.()44costttt221201()()2E Acostcostd( )X t所以,是平稳过程.98 1 2TTTX tlimAcostdtT 0( )TAcos sin TlimE X tT2TA sinTsinTlimT 将A, 看作定值( ).X t即的均值具有各态历经性99 .X tX t的相关函数不具有各态历经性所以,不是各态历经过程 2 12TTTX t X tlimA costcostdtT22Acos2224TTTAlimcostcosdtT 222222422TsinTsinTA cosAlimT 1cos( ,)4XRt t100 2201102TXXTX tlimRdTT均值各态历经定理 平稳过程的均值具有各态历经性 的充要条件是：定理一： 1,0XXX tPX tEX tDX tX t 的均值具有各态历经性的定义为思路:： 下面只要计算的均值与方差就可以了 12TTTE limX ttdtEXT 12TTTlimE X tdtT12TXXTTlimdtT 22XEXDXtt 2212TXTTElimX t dtT 21122214TTXTTTlim EX tdtX tdtT 21212214TTXTTTlimE X tX tdt dtT 22112214TTXXTTTlimRttdt dtT 续续10111222122221212022222212122202,12,111224ttttTTTXXXTTTTt tlimdRdRdT 雅可比式0222222222201224TXXXTTlimT RdTRdT22222222124XRTXXTTlimTRdT为偶函数 220112TXXTlimRdTT 220112TXXTlimRdTT 22010102TXXTDX tlimRdTT 即证毕！证毕！2t,T T1t,TT,T T,TT2t2 ,0T1t0, 2T0,2T2 ,0T102 222lim0XXXXXXXXXXXlimRlim Rlim Clim Clim Rlim CXRlim RtX t在存在的条件下， 若,则定理一条件成立，即 若,则定理一条件不成立,即注意： 均值具有各态历经性均值不具有因此在或存在条件下，均值各态历经性的条件为：，即当时间差 充分大时，和各态推历经性论：呈 Xlim R现不相对随机相位正弦波而言，不存在，但它的均值是各关性态历经的103 2211101111 102 XXTTX tRlimBRdTTBE X t X tX tX t自相关函数各态历经定理 平稳过程的自相关 函数具有各态历经性的充要条件是： 定理二 ： 其中 00001 ( ) 1 ( )() TTTTttX tlimX t dtTX t X tlimX t X tdtT 在实际应用中通常只考虑定义在上的平稳过程，此时上面的所有时间平均都应以上的时间平均来代替。即 X tX t X t在定理一的证明中，将换成，就可得到：而相应的各态历经定理可表示为下述形式： 见下页104 2011 10XTXXTPX tlimRdTT 三： 定理 2111011 10XTXTPX t X tRlimBRdTT定四： 理105 各态历经定理的重要价值在于它从理论上给出了如下保证：一个平稳过程X(t)，若0t+，只要它满足各态历经性条件，便可以根据“以概率1成立”的含义，从一次试验所得到的样本函数x(t)来确定该过程的均值和自相关函数。 000,1( )11( ) ()( ) () 0XXTXTTXx tTRx t dtTRx t x tdtx t x tdtTTT如果试验记录只在时间区间上给出，则相应的的无偏估计为： 0011 TxTTxTlimx t dtTlimx t x tdtRT即 1063 相关函数的性质 221. 00XXRE Xt , XYXYX tY tRRR 设和是平稳相关过程，和分别是它们的自相关函数和互相关函数。相关函数具有如下的性质： 2. , ,XXXXYYXRRRRR即是 的偶函数即互相关函数既不是奇函数，也不是偶函数 222.3. 0 ,00 00 ,00XXXXXXYXYXYXYRRCCRRRCCC 此不等式表明：自相关自协方差 函数在处取得最大值。 见下页107 1212,1 4. , ,0XnnnXijiji jRt ttTna aaRtta a是非负定的，即对任意数组和任意 个 不全为零的实数，都有： ,1,12,11 0nnXijijijiji ji jnnijijiii jiRtta aE X tX ta aEX tX ta aEX ta事实上， 自相关函数的非负定性是平稳过程最本质的特性， 因为任一连续函数，只要具有非负定性，那么该函数必是某平稳过程的 自相 关函数。 见下页108 001,X tP X tTXtTtX是平稳过程，若满足条件 则定义周期为 的：称为平稳过程。 005. X tTT是周期为 的平稳过程的充分必要条件是： 其自相关函数是周期为 的函数。 00:1.XXP X tTX tRTR即109 20000020220010,0. 0XXXXP X tTX tEX tTX tRTRE X t X tTE X t X tE X tX tTX tE X tX tTX tE XtEX tTX tRTR 周期平稳定义证明： 因为 要证只要证 也即 而 故 200200010020 2020 XXXXRXXP X tTX tEX tTX tEX tTX tRRTRRRT 为周期函数 要证要证 计算得证毕证毕柯西施瓦兹不等式110 应用：应用： 00,0XXNVSNVSX tX tlim RlimCV tS tN tV tS tN tS tN tE N tlim RV tRRRRRV t在实际中，各种具有零均值的非周期性噪声和干扰一般当值适当增大时，和呈现独立或不相关，即设接收机输出电压是周期信号和噪声电压之和，又设和是两个互不相关的各态历经过程，且则的自相关函数对于充分大的值，即如果将作为自相关分析仪的 SR输入，则对于充分大的 值，分析仪记录到的是函数的曲线。111 2222222 ,02002,220aSNNSaVVaRcosRb eaaRbRaaRcosb ecosR例：假设接收机输出电压中的信号和噪声过程的自相关函数分别为： 且噪声平均功率远大于信号平均功率 则当 充分大时 自相关分析仪记录到的，的图形， 当 充分大后应呈现正弦曲线， 亦即从强噪声中检测到微弱的正弦信号。 VRcos下面水平部分时为三角周期函数4 平稳过程的功率谱密度( (一一) ) 平稳过程的功率谱密度平稳过程的功率谱密度 1. ,x tt 确定性信号的功率谱密度 对确定性信号它是时间函数，现作频谱分析。 ,x tx t dt 设满足狄利克雷条件，且 i txFx t edtx t 则的傅里叶变换存在或者说具有频谱： 1 2i txx teFdt 且同时有傅里叶逆变换： i txx tFx t edt 对确定性信号的傅里叶变换： 1 2i txx teFdt 及傅里叶逆变换： *xxxFx tFF一般是复函数，称之为信号的频谱，其共轭函数 12i txx tFe说明信号可以表示成谐分量的无限叠加， 其中 称为圆频率114 22,12TTTxt dtlimxt dtT 但在工程技术中，通常总能量而平均功率为此利用傅里叶变换给出平均功率的谱表达式。 22212,xxxx tFParsevalxt dtFdx tF 在信号与之间成立有等式： 等式左边表示在上的总能量，而右边的被积函数在频率域中表示在圆频率 处的能谱密度。115 0 Tx ttTx txttT作的截尾函数： Txt 它在区间，上绝对可积，记的傅里叶变换为： ,Ti ti txTTFTxt edtx t edt 2221,2TTTxTxtParsevalxt dtxt dtFTd的等式为： 2 ,TTx t 两边除以再令得在，上的平均功率可表示为： 22211,2411 ,22TxTTTxTlimxt dtlimFTdTTlimFTdT 21lim,2xxTSFTTx t其中称为信号在 处的功率谱密度116 222. ,111 ,222,Ti tXTTXTX ttx tX tx tX tFTX t edtXt dtFTdTT 平稳过程的功率谱密度 设平稳过程前面讨论的可以看成它的样本函数， 于是对平稳过程作讨论，只要把换成即可， 即： 22111,222, TXTTTlim EXt dtlimFTdTTT 等式两边取数学期望，再让得： 22211 220TTTTTTXXX tlim EXt dtlimE XtdtTTR等式左边称为平稳过程的平均功率117 220 ,1 ,21 02XXXTXXXXRSlimE FTTSRdtSX在频率域中称之为平稳即平稳过程的平均功率等于该过程的均方值过程在 处的功率谱密或等式右边中的被积式记为：利用记号及简化结果得：度此式称为平稳过程的平均功率的谱表达式118( (二二) ) 谱密度的性质谱密度的性质 2. 12XXiiXXXXSRSRedRSed和自相关函数是一傅里叶变换对， 即 ； 它们统称为维纳辛钦公式 21. ,XXXXSFTFT FT是的实的、非负的偶函数 事实上，因为 是的实的、非负的偶函数，所以它的均值的极限 也必是实的、非负的偶函数 XS谱密度有以下重要性质：11912.1表列出了若干自相关函数以及对应的谱密度 1211221 2TTi ti tXTTTSlimEX tedtX tedtT证明：21211212TTittXTTTlimRttedt dtT 21121212TTittTTTlimE X tX tedt dtT XRdiXRed当时 112221=2212ttttTiXTTlimRedT XS