随机过程的一般概念.ppt

10.1 随机过程概念及统计特性,一、随机过程的定义,二、随机过程的分类,三、随机过程的概率分布,四、二维随机过程,随机过程,引言 现实世界中的许多现象是随时间的进展而变化与发展的，这些现象通常称为过程。可分为两类： (1)确定性的变化过程：例如 (2)不确定的变化过程：例如,如果质点在一个随机的力（它由各种随机因素形成）的作用下，那么质点运动的位置也是随机的。,如何描述这样的变化过程： 1. 如果对其变化过程的全过程做一次观察,得到一个位置与时间关系的函数x1(t ),若再次观察，又得到函数x2(t ), ,因而得到一族函数.,2. 如果在时刻t观察质点的位置x(t ),则x(t )是一个随机变量,这样对于每个时刻t便得到一个随机变量X(t ),于是我们就得到一族随机变量X(t),t0,（最初始时刻为t=0）,它描述了此随机的运动过程.,一、随机过程的定义 1.定义1 设E是一随机实验,样本空间为=，参数T(-,+),如果对每个 ,总有一个确定的时间函数X(,t)与之对应,这样对于所有的 ,就得到一族时间t的函数,我们称此时间t的函数族为随机过程,而族中每一个函数称为这个随机过程的样本函数。,我们称这种随时间的进展而变化与发展的随机现象为随机过程。,定义2：设E是一随机实验，样本空间为=，参数T(-,+),如果对任意t T ，有一定义在上的随机变量X(,t)与之对应,则称X(,t),t T为随机过程，简记为X(t),t T 或X(t),也可记为X(t).,注释：(1) 随机过程X(t),t T是定义在T上的二元函数，因此可以从两个角度去理解, 因而有如上的两个定义。,在理论分析往往用随机变量族的描述方式， 在实际测量和处理中往往采用样本函数族的描述方式。,(3)从定义2的角度上看，随机过程是有限维随机变量的推广.,(2)通常将随机过程X(t),t T 解释为一个物理系统， X(t)表示系统在时刻t所处的状态,X(t)的所有可能状态所构成的集合称为状态空间，记为I，对于给定的t0 T，及x I,X(t0)=x 说成是在时刻t0，系统处于状态x.,2.随机过程的例,（4）随机过程X(t),tT中参数t通常解释为时间集，便于理解，符合实际。但参数t可以表示为其它的量，例如序号，距离等等.,例2测量运动目标的距离.,测量存在随机误差.,例1:(分枝过程)两个个体（第0代）可能生产 0,1,2个子女形成第一代，每一个子女再生子女，他们合在一起形成第二代，等等，假定第n代的个体数目为Xn，则Xn, n=0,1,2.是随机过程。,例3某城市的120急救电话台接收呼叫.,例4抛掷一颗骰子的试验.,伯努利过程或伯努利随机序列,例5:(热噪声电压)电子元件或器件由于内部微观粒子（如电子）的随机热骚动所引起的端电压称为热噪声电压，在无线电通讯技术中，接收机在接收信号时，机内的热噪声电压要对信号产生持续的干扰，为要消除这种干扰（假设没有其他干扰因素），就必须考虑热噪声电压随时间变化的过程，现以电阻的热噪声电压为例说明这种变化过程的描述方法，我们通过某种装置对电阻两端的热噪声电压进行长时间的测量，并把结果记录下来，作为一次试验结果，便得到一个电压-时间函数（即电压关于时间t的函数）V1(t),如图.,它在任一确定时刻的 值是随机变量.,一次测得的电压时间 函数是一个样本函数.,二、随机过程的分类,1按状态和时间是可列集还是连续集分类： (1). 连续型随机过程:T是连续集,且tT,X(t)是连续型随机变量,则称过程X(t),tT为连续型随机过程. (2).离散型随机过程:T是连续集，且tT,X(t)是离散型随机变量，则称过程X(t),tT为离散型随机过程。 (3).连续型随机序列: T是可列集,且tT,X(t)是连续型随机变量，则称过程X(t),tT为连续型随机序列.,(4).离散型随机序列:T是可列集, 且tT, X(t)为离散型随机变量, 则称过程X(t),tT为离散型随机序列。通常T取为T =0,1,2或T =0, 1，2,此时随机序列常记成Xn,n=0,1,或Xn,n0。,2按分布特性分类： 依照过程在不同时刻状态的统计依赖关系分类。例如：独立增量过程，马尔可夫过程，平稳过程等。,1n维分布函数： 设X(t),tT是随机过程，对于任意整数n1及T中任意n个不同的参数t1,t2，tn，称随机向量（X(t1),X(t2),X(tn)）的分布函数,为随机过程X(t),tT的n维分布函数.,三、随机过程的概率分布,变化n及t1,t2，tn所得到的有限维分布函数的全体,称为X(t),tT的有限维分布函数族。,当n=1时,得到一维分布函数F(x;t)=PX(t)x, 一维分布函数的全体F(x;t), tT称为一维分布函数族.,2随机过程的数字特征, 函数,为X(t),tT的均方值函数.,为X(t),tT的方差函数.,为X(t),tT的协方差函数.,为X(t),tT的均值函数., Rx(s,t)=EX(s)X(t)为X(t),tT的自相关函数，简称相关函数,3.诸数字特征的关系：,例6: 设随机过程 X(t)=Ycost+Zsint,t0,其中Y,Z是相互独立的随机变量，且E(Y)=E(Z)=0,D(Y)=D(Z)= 2，求X(t),t0均值函数 x(t)和自相关函数Rx(s,t)。,解: x(t)=EX(t)=EYcost+Zsint,因为Y与Z相互独立,于是,=costE(Y)+sint E(Z)=0,解: 的概率密度为,于是,例7: 考虑随机过程 X(t)=acos(t+),t(-,+) 其中a和是常数，是在（0，2）上服从均匀分布的随机变量，通常称此随机过程为随机相位正弦波，求随机相位正弦波的均值函数，方差函数和自相关函数.,例8: 设随机过程X(t)=Y+Zt, tT=(-,+),其中Y，Z是相互独立的服从N(0,1)的随机变量，求 X(t),-t+的一，二维概率密度。,解: tT，由正态分布的性质知X(t)服从正态分布:,EX(t)=E(Y)+tE(Z)=0,DX(t)=D(Y)+t 2 D(Z)=1+t 2,所以一维概率密度为,又由正态分布的性质知，对于任意 s,tT， (X(s),X(t)服从二维正态分布而,EX(s)= EX(t)=0；DX(s)=1+s2 ,DX(t)=1+t2,所以二维概率密度为,其中=x(t1, t2).,四、二维随机过程 1定义： X(t)、Y(t)为定义在同一样本空间和同一参数集T上的随机过程，对于任意tT，若(X(t),Y(t)是二维随机变量，则称(X(t),Y(t),tT为二维随机过程。,2有限维分布函数和独立性 (1)(X(t),Y(t),tT为二维随机过程,对于任意的正整数n和m，以及任意的t1,t2,tn；t1, t2,tmT ，称n+m元函数,F(x1,x2,xn；y1,y2,ym；t1,t2,tn；t1,t2,tm) =PX(t1)x1, X(tn) xn；Y(t1) y1,Y(tm) ym为(X(t),Y(t),tT的n+m维分布函数， 类似的可定义有限维分布函数族。,（2）若对于任意的正整数n和m，以及任意的t1,t2,tn；t1, t2,tmT，任意的x1,x2,xn；y1,y2,ym R,有,F(x1,x2,xn；y1,y2,ym；t1,t2,tn；t1,t2,tm)=FXX(t1)x1, X(tn) xn FYY(t1) y1,Y(tm) ym,称X(t)与Y(t)相互独立，其中FX，FY分别为X(t)，Y(t)的有限维分布函数.,3二维随机过程的数字特征 (1) 互相关函数: 称 RXY(s,t)=EX(s)Y(t) 为(X(t),Y(t),tT的互相关函数.,若对于任意的s,tT, RXY(s,t)=0,称X(t)与Y(t)正交.,(2)互协方差函数：,称为(X(t),Y(t),tT的互协方差函数.,显然,若X(t),Y(t)相互独立，且二阶矩存在，则X(t),Y(t)不相关.,若对于任意的s,tT,有CXY(s,t)=0, 称X(t),Y(t)不相关.,例9: 设有两个随机过程X(t)=Ucost+Vsint和 Y(t)=Usint +Vcost，其中U和V独立,E(U)=E(V)=0,E(U2)=E(V2)=C2. 求互相关函数RXY(s，t)的表达式.,解:,例10: 设X(t)为信号过程,Y(t)为噪声过程，令W(t)=X(t)+Y(t)，则 (1) W(t)的均值函数为,注：两个随机过程的之和的自相关函数为各个随机过程的相关函数与它们的互相关函数之和。若两个随机过程的均值函数均恒为零，且互不相关时，有 RW(s,t)= Rx(s,t)+RY(s,t),W(t)= X(t)+ Y(t).,(2) 其自相关函数为,RW(s,t)=EX(s)+Y(s)X(t)+Y(t),=RX(s,t)+RXY(s,t)+RYX(s,t)+RY(s,t),五、复随机过程 1定义： X(t)、Y(t)为定义在同一样本空间和同一参数集T上的实随机过程，则称Z(t)=X(t)+iY(t)为复随机过程。,2随机过程的数字特征,为Z(t),tT的均值函数.,为均方值函数.,为方差函数.,为协方差函数.,为自相关函数，简称相关函数,10.2平稳过程的概念,一、严平稳随机过程,二、宽平稳随机过程,在实际中, 有相当多的随机过程, 不仅它现在的状态, 而且它过去的状态, 都对未来状态的发生有着很强的影响.,如果过程的统计特性不随时间的推移而变化,则称之为平稳随机过程.,1定义：设X(t),tT是随机过程,如果对于任意的常数h和任意正整数n,及任意的n维随机向量(X(t1),X(t2),X(tn)和(X(t1+h),X(t2+h),X(tn+h)具有相同的分布函数,则称随机过程X(t),tT具有平稳性,称此过程为严平稳过程 (或狭义平稳过程). 其中t1tn和t1+h,tn+h T,一、(严)平稳过程,平稳过程的参数集T,一般为(- ,+),0,+, 0,1,2,0,1,2,以下如无特殊说明，均认为参数集T=(-,+).,当定义在离散参数集上时,称过程Xn为严平稳时间序列。,说明,(1) 将随机过程划分为平稳过程和非平稳过程有重要的实际意义. 过程若是平稳的可使问题的分析尤为简化.,(2) 平稳过程的数字特征有很好的性质.,例1 设Xn,n0是独立同分布的随机变量序列,且XnU(0,1),n=1,2, 讨论Xn,n0是否为严平稳时间序列并求E(Xn)与E(Xn Xm),n、m=0,1,2,.,解：设U(0,1)的分布函数为F(x),则对任意h及正整数k,任意nk 维随机变量,的分布函数均为,故Xn,n0是严平稳时间序列。,因为XnU(0,1)，且相互独立，,所以 E(Xn)=1/2，,2严平稳过程的数字特征 定理 如果X(t),tT是严平稳过程，且对任意的tT，EX2(t)+,则有(1) X(t)=EX(t)=常数=X ，tT； (2)EX(s)X(t)只依赖于t-s,而与s,tT的具体取值无关。,(即与时间间隔有关，与时间具体取值无关).,进而，Cx()=EX(t)-xX(t+)-x=Rx()-x2只与有关； x2=Cx(0)=Rx(0)-x2 为常数.,说明,证：(1)由Cauchy-Schwarze不等式 EX(t)2EX2(t)+,所以EX(t)存在。,在严平稳过程的定义中，令h=-t,由定义X(t)与X(0)同分布，所以EX(t)= EX(0)为常数。一般记为X.,(2) 由Cauchy-Schwarze不等式 EX(s)X(t)2 EX2(s)EX2(t)+, 所以EX(s)X(t)存在。,在严平稳过程的定义中，令h=-s, 由定义(X(s),X(t)与(X(0),X(t-s)同分布，,即有EX(s)X(t)= EX(0)X(t-s),即Rx(s,t)=Rx(),所以，Rx(s,t)只依赖于t-s,而与s,tT的具体取值无关。,即Rx(s,t)=EX(s)X(t)=Rx(0,t-s),令t-s=,二、(弱)平稳过程 1 定义 设X(t),tT是二阶矩过程,如果 (1) EX(t)=x(常数)，tT； (2) 对任意的t,t+T, Rx()=EX(t)X(t+)只依赖于。则称X(t),tT为宽平稳过程,简称为平稳过程.,特别地，当T为离散参数集时，若随机序列Xn(t)满足E(Xn2)+,以及 (1) EXn=x(常数)，nT； (2) Rx(m)=EXnXn+m只与m有关。 称Xn为宽平稳随机序列或宽平稳时间序列。,要确定随机过程的分布函数判定其平稳性在实际中不易办到.,2严平稳和宽平稳的关系 (1)严平稳过程不一定是宽平稳过程,因为严平稳的过程不一定是二阶矩过程,但当严平稳过程是二阶矩过程时,则它一定是宽平稳过程。 (2)宽平稳过程不一定是严平稳过程,但对于正态过程,两者是等价的,例2: (白噪声过程)设Xn,n=0,1,是互不相关的随机序列,且EXn=0,D(Xn)=20,讨论其平稳性.,故其均值函数X(n)=0为常数,例3:随机相位正弦波X(t)=acos(0t+) ，a, 0为常数，是在(0,2)上服从均匀分布的随机变量,则X(t)是平稳过程，并求其自相关函数.,解: 因为EXn=0,解: 已知的概率密度为,自相关函数 RX(n,m)只与m-n有关,所以它是平稳时间序列。,于是,X(t)的均值函数为,与t无关，可见X(t)为平稳过程，其自相关函数为,一般地，设s(t)是一周期为T函数，U(0,T)称X(t)=s(t+)为随机相位周期过程，则其为平稳过程。,解,例4,例5,考虑随机电报信号，,是随机的,即事件,的概率为,解,则自相关函数:,其图形为:,结果与t 无关,证: Rx(0)=EX2(t)0,3自相关函数的性质,证： Rx(-)=EX(t)X(t-)= EX(t-)X(t)= Rx(),性质2. Rx()为偶函数，即Rx(-)=Rx(),性质3.|Rx()| Rx(0),证：由柯西-施瓦兹不等式,性质1.Rx(0)0；,性质4. Rx()非负定性.即对任意n, 任意实数a1,a2,an,任意t1,t2,tnT有,性质5.若平稳过程X(t)X(t+T),则称其为周期T的平稳周期过程,周期为T的平稳过程的自相关函数是以T为周期的周期函数。,证： Rx(T)=EX(t)X(tT)= EX(t）X(t)= Rx(),4平稳相关与互相关函数,（1）定义: 设X(t),Y(t),tT为两个平稳过程，如果它们的互相关函数RXY(t,t+)只是 的函数,即RXY(t,t+)=EX(t)Y(t+)= RXY(),则称X(t),Y(t)是平稳相关的，或称X(t)与Y(t)是联合平稳过程.并称 RXY()=EX(t)Y(t+) 为X(t)与Y(t)的互相关函数。,(2) 互相关函数的性质,例6: 如图所示，将两个平稳过程X(t)，Y(t)同时输入加法器中,加法器输出随机过程W(t)=X(t)+Y(t),若X(t)与Y(t)平稳相关，则W(t)为平稳过程,EW(t)W(t+)=EX(t)+Y(t)X(t+)+Y(t+),可见W(t)的自相关函数Rw(t,t+)只依赖于,所以w(t)为平稳过程.,=EX(t)X(t+)+EX(t)Y(t+)+EY(t)X(t+)+EY(t)Y(t+),=Rx()+RXY()+RXY(-)+RY(),例7: 设X(t)=Asin(t+)，Y(t)=Bsin(t+-),A,B, , 为常数，在(0,2)上服从均匀分布，求RXY()。,解: X(t),Y(t)均为平稳过程.,三、复平稳随机过程 1定义： Z(t)=X(t)+iY(t)为复随机过程满足：,则称Z(t)为复平稳随机过程,若X(t),Y(t)为联合平稳的实随机过程，则,Z(t)=X(t)+iY(t)为复平稳随机过程,2性质：,10.3随机分析,一、均方收敛及均方连续,二随机过程的均方导数,三随机过程的均方积分,一、均方收敛及均方连续 1.均方收敛的定义：设有二阶矩随机序列Xn,n=1,2,和随机变量X,E(X2)+,若有,则称Xn均方收敛于X,记作,2均方极限的性质,3.判别法,(3) 由柯西-施瓦兹不等式,4均方连续(1)设X(t),tT是随机过程,若对某t0T,有,称X(t),tT在t0均方连续，记为,证明:(1)由柯西-施瓦兹不等式,若对任意tT，X(t),tT均方连续，称X(t),tT在T上均方连续。,证明：,即Rx(s,t)在(t,t)处连续,(2)随机过程的均方连续性与它的均值函数连续性的关系 定理 设过程X(t)均方连续,则,(4)平稳过程均方连续性与其自相关函数的关系 定理 设平稳过程X(t),tT的自相关函数为Rx(),则下列条件等价：X(t),tT在T上均方连续； X(t),tT在t=0均方连续； Rx()在=0连续； Rx()在T上连续。,证明：，由定义显然成立； ：当h0时，,：当h0时，,：当h0时,定理 设平稳过程X(t),tT的自相关函数为Rx(),则下列条件等价：X(t),tT在T上均方连续； X(t),tT在T=0均方连续； Rx()在=0连续； Rx()在T上连续。,二随机过程的均方导数,1.设X(t),tT是随机过程,若对某t0T,有,称X(t),tT在t0均方可导，若对任意tT，X(t),tT均方可导，称X(t),tT在T上均方可导。记为,2.性质 1）设过程X(t)均方可导,则,3）均方可导必均方连续，反之不然。,3.判别法,定理 Rx(s,t)在(t,t)处及附近有二阶偏导数，,则X(t),tT 在t处均方可导。,性质证明：1）设过程X(t)均方可导,则,三随机过程的均方积分,1.定义 设二阶矩过程X(t),tT,a,bT,f(t)是a,b上的普通实值函数。对a,b的任一组分点:a=t0t1t2tn=b,记：tj=tj-tj- 1,tj-1ujtj, j=1,2,n,|=maxtj,1jn 若存在与及uj的取法无关的随机变量Y，使得,则称f(t)X(t)在a,b上均方可积，并称Y为f(t)X(t)在a,b上的均方积分，记作：,2.性质 定理： 设X(t)为一均方连续随机过程,f(t),g(t)是a,b上的实值连续函数，则,证明：（1）由定义,上式表明，随机过程积分运算与数学期望运算的次序可换。（2）类似可证。,注意：这个定理可推广到更一般的积分情况，例如，当f(t),g(t)是复值函数时，定理的（2）改为,式中,为g(t)的共轭。,3.判别法,若X(t),tT 均方连续，f(t)连续，,则X(t),tT 均方可积。,关于均方积分的定义可推广到如下的情况： （1）f(t)是a,b上普通的复值函数，(6.3.1)式改为：,式中|*|为复数的模。,（2）f(t)改为h(s,t),可定义,为一新的随机过程。,（3）积分区间a,b可改为a,+或-,+等，可定义,10.4平稳过程的遍历性,一、 平稳过程遍历性的定义：,二、平稳过程遍历性的充要条件,引言,如果我们能对过程X(t)进行多次重复观察从而得到多条样本曲线用统计方法可以估计其均值及自相关函数,在实际中,常用如下的方法确定x及Rx()：,其中T充分大，X(t)是X(t)的一个样本函数。即：统计平均（均值和自相关函数等）实际上可以用一个样本函数在整个时间轴上的平均值代替。这样节约了大量的工作量，本节就讨论这种方法的理论依据。,一、 平稳过程遍历性的定义： 首先引入平稳过程X(t)，-t+沿整个时间轴上的两种时间平均： 设X(t)为均方连续的平稳过程，且对固定的，X(t)X(t+)也是均方连续的平稳过程,时间相关函数：,时间均值：,由于所采用的极限(收敛)的标准不同得到的遍历性定理不同， 本节是对宽平稳过程在均方收敛的意义下的遍历性定理；,1定义 (1). 设X(t)为均方连续平稳过程，若=EX(t)=x 依概率1成立，即P=x=1,称X(t)关于均值具有均方遍历性。 (2)若，=EX(t)X(t+)=Rx()依概率1成立， 即P=Rx()=1，称X(t)关于自相关函数具有均方遍历性。 (3)若(1)(2)均成立，则称该过程具有均方遍历性，或称为遍历过程。,遍历性有时也称作各态历经性或埃尔古德性(ergodicity).,问题：有没有这种遍历过程？,解：已证此过程为平稳过程。,与第一节中统计平均得到的结果相同。即：用时间平均和统计平均算得的均值和自相关函数相同。,例1：计算随机相位正弦波 X(t)=acos(t+)的时间平均和.,并不是任意一个平稳过程都是遍历的.,说明,例2：过程X(t)=Y，Y是随机变量，E(Y)=,D(Y)= 2,此过程是否平稳？是否遍历?,那么，一个平稳过程满足何条件才是各态历经的呢？,二、平稳过程遍历性的充要条件： 1(均值遍历性定理)均方连续的平稳过程关于均值具有遍历性,所以过程平稳,所以过程非遍历,解：,证明：由遍历性定义，只须证：,与,其中，令,，则,等价。,推论1. 均方连续的平稳过程关于均值具有遍历性,推论2. 均方连续的平稳过程X(t)，若满足 ，则它关于平均值具有均方遍历性X=0。,证：因为,2(自相关函数遍历性定理) 均方连续的平稳过程X(t)，且对给定,X(t)X(t+)也是均方连续的平稳过程，则X(t)关于自相关函数具有遍历性,注1：在实际问题中，通常只考虑定义在0t+上的平稳过程，此时上两定理所有时间平均应以0t+上的平均代替，相应的各态历经性如下：,1）.X(t)关于均值具有遍历性,2）.X(t)关于自相关函数具有遍历性,注2：遍历性定理的重要价值在于： 一个平稳过程X(t)，只要满足上述两条件，便可以从一次试验所得到的样本函数x(t)来确定该过程的均值和自相关函数。即：,考虑随机电报信号X(t)，,例3,证明X(t)关于均值具有遍历性,证,说明,遍历性定理的条件是比较宽的, 工程中碰到的大多数平稳过程都能满足. 但要去验证它们是否成立却是十分困难的.,在实践中, 通常事先假定所研究的平稳过程具有各态历经性, 并从这个假定出发, 对由此而产生的各种资料进行分析处理, 看所得的结论是否与实际相符. 如果不符, 则要修改假设, 另作处理.,10.5 高斯过程（正态过程）,一、定义： 设X(t)为随机过程，如果对任意的正整数n及任意t1,t2,tnT，n 维随机变量(X(t1),X(t2),X(tn)服从n维正态分布，则称X(t)为正态过程。,二、正态过程的性质：对任意的正整数n及任意t1,t2,tnT，n 维随机变量(X(t1),X(t2),X(tn)的分布由其相应的均值及协方差矩阵完全确定，所以X(t)和CX(s,t)完全确定了X(t)的有限维分布，也就确定了它的全部统计特性。因而有：,正态过程是二阶矩过程。 记其均值函数为X(t),协方差函数为CX(s,t)。,1X(t),tT为正态过程，其统计特性由X(t)和CX(s,t)确定。,2X(t)为正态过程，则X(t)是严平稳过程X(t)是宽平稳过程。,证明：“” 因高斯过程是二阶矩过程，由严平稳过程性质，显然成立。 “”由已知：X(t)=X，Rx(t,t+)只与有关。 由严平稳过程定义，对任意的正整数n及任意t1,t2,tnT, t1+h,t2+h,tn+hT,要证：（X(t1),X(t2), X(tn)）与（X(t1+h),X(t2+h), X(tn+h)）同分布（*）。 而正态过程的分布由X及Rx(s,t)决定，X为常数。,即(*)式成立。,3 X(t)为正态过程它的任意有限多个随机变量的任意线性组合是正态随机变量。,4 X(t)为正态过程，S(t)非随机（为普通的确定信号），则Y(t)=X(t)+S(t) 是正态过程。,证明：任意aiR，t1,t2,tnT,a1Y(t1)+ a2Y(t2)+ +anY(tn) = a1X(t1)+ a2X(t2)+ anX(tn) + a1S(t1)+ a2S(t2)+ anS(tn),为一维正态随机变量。,由性质3：则Y(t)=X(t)+S(t) 是正态过程。,事实上，由多维正态的性质1， n维正态随机变量的充要条件是其任意一维线性组合为一维正态随机变量，显然成立。,5 X(t)，tT为正态过程且均方可微，则其导数 也是正态过程。,6 X(t)，tT为正态过程且均方可积，则 也是正态过程。,N（0，1/4),例2：设随机过程X(t)=Ucos0t+Vsin0t,t0. 0为常数，U,V是两个相互独立的正态随机变量，且E(U)=E(V)=0,E(U2)=E(V2)=2.试证：X(t)为正态过程，并求其一、二维概率密度. 解：（1）证X(t)为正态过程：只须证X(t)的任意有限多个随机变量的任意线性组合是一维正态随机变量。 对任意正整数n， 0t1t2tn, 及任意a1,a2,anR,即：W是两相互独立的正态随机变量的线性组合，所以W是一维正态随机变量，于是X(t)为正态过程。,（2）求一维概率密度. 对确定的t0,X(t)为正态随机变量且 EX(t)=E(U)cos0t+E(V)sin0t=0， DX(t)=D(U)(cos0t)2+D(V)(sin0t)2=2， 于是X(t)的一维概率密度为：,（3）求二维随机变量(X(t1),X(t2)概率密度. t1,t20, EX(t1)=EX(t2)=0， cov(X(t1),X(t2)=EX(t1),X(t2) =E(Ucos0t1+Vsin0t2)(Ucos0t1+Vsin0t2) =E(U2cos0t1cos0t2)+E(V2sin0t1sin0t2)+0 =2cos0(t2t1），,U,V相互独立，且E(U)=E(V)=0,E(U2)=E(V2)=2.,于是,二维正态随机变量(X(t1),X(t2)的均值和协方差矩阵分别为： =(0,0),具体写：,一、独立增量过程,二、泊松过程的数学模型,三、维纳过程的数学模型,10.6独立增量过程,一、独立增量过程 1定义 设X(t),t0为一随机过程,对于0st,称随机变量X(t)-X(s)为随机过程在区间s,t上的增量. 若对于任意的正整数n2及任意的0t0t1t2tn,n个增量 X(t1)-X(t0)，X(t2)-X(t1)，X(tn)-X(tn-1) 相互独立，称X(t),t0为独立增量过程。,2定义:若对于任意的实数s, t 和0s+ht+h, X(t+h)X(s+h)与X(t)X(s)具有相同的分布,(即X(t)X(s)的分布只与t-s有关）则称增量具有平稳性,并称相应的独立增量过程为齐次独立增量过程或时齐的。,证明: 记Y(t )=X(t)-X(t),当X(t)具有独立增量时， Y(t )也具有独立增量；,于是可知对于任意的s,t0,协方差函数可表示为：,同理，当0ts时，有,3独立增量过程的性质,独立增量过程X(t),t0在X(0)=0的条件下,X(t)的协 方差函数为,且Y(0)=0,EY(t )=0, DY(t)= EY2(t ).所以，当0st 时，有,1. 问题的提出,下列事件随时间的推移迟早会重复出现.,(1) 自电子管阴极发射的电子到达阳极; (2) 意外事故或意外差错的发生; (3) 要求服务的顾客到达服务站.,二、泊松过程,2. 问题的分析与求解,将电子、顾客等看作时间轴上的质点,电子到达阳极、顾客到达服务站等事件的发生相当于质点出现.因此研究的对象可以认为是随时间推移,陆续地出现在时间轴上的许多质点所构成的随机的质点流.,定义1: 过程N(t),t0 取非负整数，若它满足下列条件 (1) N(0)=0； (2) N(t)是独立增量过程； (3) 对任意0st, N(t)-N(s)服从参数为(t-s)的泊松分布,从条件(3)：泊松过程的均值函数为,表示单位时间内质点出现的平均个数,故称为此过程的强度。,称过程N(t),t0为具有参数0的泊松过程。,3泊松过程的数字特征 设N(t),t0是泊松过程,则 EN(t)=t；DN(t)=t；,证明：,例1.设X(t)是强度为的泊松过程，定义Y(t)=X(t+L)-X(t),其中L0为常数，求Y(t),RY(s,t).,解： Y(t)=EY(t)=,RY(s,t)=CY(s,t)+Y(s)Y(t), 对任意0st，有,EX(t+L)-X(t)=,(t+L)-t=L；,RY(s,t)=CY(s,t)+Y(s)Y(t),Y(t)= L,布朗运动计算机模拟,n=100,n=500,n=1000,n=5000,n=10000,n=50000,1. 布朗运动简介,英国植物学家布朗(Brown) 观察漂浮在平静的液面上的微小粒子,发现它们不断地进行着杂乱无章的运动,这种现象称为布朗运动.,爱因斯坦(Enisten)1905年提出一种理论,认为微粒的这种运动是由于受到大量随机的、相互独立的分子碰撞的结果.,三、维纳过程,由于粒子的运动完全是由液体分子的不规则 碰撞而引起的, 因此, 在不相重叠的时间间隔内, 碰撞的次数、大小和方向可假定是相互独立的.,1维纳过程的定义 给定过程W(t),t0，如果它满足 (1)具有平稳的独立增量； (2)W(0)=0. (3)对任意的ts0，W(t)-W(s)服从正态分布N(0,2(t-s)；,则称此过程为参数是2的维纳过程。,液面处于平衡状态,这时粒子在一时段上位移 的概率分布可以认为只依赖于这时段的长度, 而与 观察的起始时刻无关.,2. 维纳过程的数字特征：,证明：,3维纳过程的性质 1). 维纳过程 W(t)，t0为正态过程(每一个有限维分布均为正态分布)。,证明: 对于任意正整数n和任意时刻t1,t2,tn(0t1t2tn)以及任意实数u1，u2，un，记,它是独立正态随机变量之和，所以它是正态随机变量，由正态分布的性质3知(W(t1)，W(t2)，W(tn)服从n维正态分布，因此W(t)为正态过程。,其他同法可证。,例2.设W(t),t0是参数是2的维纳过程，,求Z(t)自相关函数。,解：,10.7马尔可夫链,一.马尔可夫链,二转移概率,三. C-K方程,四.有限维分布,五.遍历性,一马尔可夫链,1.过程X(t)（或系统）在时刻t0所处的状态为已知的条件下,过程在时刻tt0所处状态的条件分布与过程在时刻t0之前所处的状态无关，只与时刻t0所处的状态有关，称为马尔可夫性或无后效性. 称X(t)为马尔可夫过程。,即: 过程“将来”的情况与“过去”的情况是无关的.,2.用分布函数表达此性质，设随机过程X(t),tT，状态空间为，若对于t 的任意n个值t1t2tn,n3,有,则称过程X(t),tT为马尔可夫过程。,状态和时间参数都是离散的马尔可夫过程称为马尔可夫链，或马氏链。 记为Xn=X(n),n=0,1，2，,记链的状态空间为a1，a2，aiR .在链的情况，马尔可夫性通常用分布率表示。 3.马氏链的定义,则称Xn,n0为马氏链。,定义1设Xn,n0,其状态空间为,若对于任意的正整数n和任意的,定义2若对于任意的正整数n，r和任意的,其中a., 称Xn,n=0,1，2，为马氏链。,称为马氏链在时刻m系统处于状态ai的条件下，在时刻m+n转移到状态aj的转移概率。,定义3,说明: 转移概率具有特点,由转移概率组成的矩阵,称为马氏链的转移概率矩阵.,例1.记从数1,2, ,N中任取一数为X0，当n1时，记从数1,2, ,Xn-1中任取一数为Xn,证明Xn,n=0，1，2,是一个马氏链。 证：Xn,n=0，1，2,的状态空间=i,1iN,可见,Xn,n=0，1，2,是一个马氏链。,二转移概率,事实上，因为链在m时刻从状态ai出发，到m+n时刻必然转移到a1，a2，状态中的一个，从而,(1) Pij0；,1性质,2.,定义4若对任意的正整数m1, m2， n及任意的ai，aj，有,即马氏链Xn,n0的转移概率Pij(m,m+n)与m无关，则称转移概率具有平稳性，这时，马尔可夫链称为是齐次的。,齐次马尔可夫链及一步转移概率,定义5 称条件概率,为齐次马氏链Xn,n0的n步转移概率，并称由Pij(n)组成的矩阵,为n步转移概率矩阵,为马尔可夫链的n步转移概率矩阵。,此矩阵的每一行元素之和等于1.,它是随机矩阵.,称为马氏链的一步转移概率矩阵；其中列为Xm的状态，行为Xm+1的状态。,称为马氏链的一步转移概率；,特别的：,例2 设Xn,n=0，1，2,是独立同分布的随机变量序列,记Xn可能取值的全体为I=i,i 1,证Xn为齐次马氏链，并求其一步转移概率。 解 对任意的n及,所以Xn为马氏链。,由于Xn, n=0，1，2,独立同分布，因而,所以Xn为齐次马氏链。其一步转移概率:,三. C-K方程（作用可求多步转移概率）,定理 设Xn，n=0,1,为齐次马氏链，则对于任意的正整数k,m，有,此方程称为Chapman-kolmogorov(切普曼柯尔莫哥洛夫)方程,简称C-K方程.,如果把转移概率写成矩阵的形式，那么CK方程具有以下简单的形式 P(m+k)=P(m)P(k) m, k0 特别地，P(n)=Pn, n步转移概率由一步转移概率完全决定。,证：,既:“从Xn=ai出发，经时刻m转移到中间状态ar,再从ar经k时段转移到aj状态”这样一些事件的和事件。,例3（01传输系统）在一个n级数字传输系统中，只传数字0或1，设每一级的传真率为p，误码率为q=1-p，并设一个单位时间传输一级，X0是第一级的输入, Xn是第n级的输出（n1）,则Xn, n=0，1，2,是一随机过程，状态空间=0,1.,1.当Xn=i, i为已知时，Xn+1所处的状态的概率分布只与Xn=i 有关，而与时刻n以前所处的状态无关，所以它是一个马氏链,即得一步转移概率和一步转移概率矩阵：,且是齐次马氏链.,有相异特征值1=1，2=p-q ,由线性代数知识，可将,矩阵P表示为对角阵,的相似矩阵。,具体做法是：求出 1 ,2对应的特征向量,则PHH-1。于是，容易算得,2.求n步转移概率矩阵,解 由CK方程，n步转移概率矩阵P(n)=Pn。,3. 在n级0-1传输系统中，设p=0.9，求系统二级传输后的传真率与三级传输后的误码率.,称Xn的分布,定义6 设Xn,n=0,1,为齐次马尔可夫链，称X0的分布 pj(0)=PX0=aj, aj,为Xn,n=0,1,的初始分布.,四、有限维分布,定义7,为Xn,n=0,1,在时刻n的一维分布，,注：初始分布和任一时刻 n的一维分布可用向量表示 p(0)=(p1(0),p2(0), ) p(n)=(p1(n),p2(n), ),一维分布可用行向量表示p(n)=(p1(n),p2(n),pj(n),), 利用矩阵的乘法上式：p(n)= p(0)P(n) 说明马氏链在任一时刻n的一维分布由初始分布与n步转移概率矩阵确定。,2性质：,3.n维分布 对任意n个时刻 0t1t2tn及ai1,ai2,ain ,马氏链的n维分布,所以，马氏链的有限维分布完全由初始分布和转移概率确定。,例4: 设Xn, n0是具有 三个状态0，1，2的齐次马氏链， 一步转移概率矩阵为,初始分布pi(0)=PX0=i=1/3, i=0,1,2.试求 (1) PX0=0,X2=1；(2) PX2=1.,解: 先求二步转移概率矩阵,(1)PX0=0,X2=1=PX0=0PX2=1|X0=0 = p0(0)p01(2)=,(2) PX2=1= p0(0)p01(2)+p1(0) p11(2)+ p2(0) p21(2),例5: 在01传输系统 设初始分布p1(0)=PX0=1=,p0(0)=PX0=0=1-，又已知系统经n级传输后输出为1，问原发字符也是1的概率是多少？ 解: 根据贝叶斯公式，当已知系统经n级传输后输出为1，原发字符也是1的概率为,设齐次马尔可夫链的状态空间为，如果对于所有的ai , aj, 转移概率pij(n) ,当n时，存在不依赖于i的极限,则称此链具有遍历性，又若 ,称 =(1,2,)为链的极限分布。,1.定义8,五、遍历性,2.遍历性的定理 定理 设齐次马氏链Xn,n0的状态空间为a1, a2,aN，如果存在正整数m，使对任意的ai ,aj，都有 Pij(m)0, i , j =1,N 则此链具有遍历性，且有极限分布=(1,2, N)，它是方程组,的满足条件j0, 的唯一解。,注：在定理条件下，马氏链的极限分布是平稳分布，即若用作为链的初始分布，p(0)=，则链在任一时刻n的分布p(n)永远与一致.因为,例6: 设齐次马氏链具有 三个状态，一步转移概率矩阵为,其中0p1,q=1-p,试证该链是遍历的，并求其极限分布。,解:,显然，m=1时，定理条件不满足。,m=2时,即P(2)无零元。由定理，链是遍历的。,再根据定理，极限分布 满足的方程组,解得 p=q=1/2时，1=2=3=1/3.,pq时,例7 设一马氏链的一步转移概率矩阵为,试讨论它的遍历性。,解:已知,进一步可验证：当n为奇数时，P(n)=P(1)=P； n为偶数时，P(n)P(2)。,这表明对任一固定的 j(=1,2,3,4)，极限 都不存在。按定义，此链不具遍历性。,可得：,附录,一维随机游动 传染模型 天气预报 排队模型 计算机的运行状态,例1 一维随机游动,游动的概率规则,1/3的概率向左或向右移动一格, 或以1/3的概率留,在原处;,如果Q 现在位于点 i (1 i 5),则下一时刻各以,以概率1移动到2 (或4) 这一点上.,如果Q 现在位于1(或5)这点上, 则下一时刻就,1和5这两点称为反射壁.,上面这种游动称为带有两个反射壁的随机游动.,模拟方法:产生均匀分布的随机数序列132322 11122,其中1表示左移;2表示不动;3表示右移.,理论分析:,状态空间就是I .,而与时刻 n 以前所处的状态无关.,所以它是一个马氏链, 且是齐次的.,一步转移概率,说明:,相应链的转移概率矩阵只须把P 中第1行改为,改变游动的概率规则, 就可得到不同方式的,随机游动和相应的马氏链.如果把点 1 改为吸收壁,一步转移概率矩阵,例2,解,解,例3,排队模型,设服务系统由一个服务员和只可以容纳两个人的等候室组成:,服务规则,假定一个需要服务的顾客到达系统时发现系统内已,先到先服务, 后来者需在等候室依次排队.,有3个顾客(一个正在接受服务, 两个在等候室排队),则该顾客立即离去.,例4,分析,假设:,有一原来被服务的顾客离开系统 (即服务完毕)的,进入或离开系统实际上是不可能的.,3. 再设有无顾客来到与服务是否完毕是相互独立 的.,以下用马氏链来描述这个服务系统.,系统状态,可知它是一个齐次马氏链.,在系统内没有顾客的条件下,在系统内没有顾客的条件下,系统内恰有一顾客正在接受服务的条件下,系统内恰有一顾客的条件下,他因服务完毕而离去而另一顾客,进入系统或者正在接受服务的顾客将继续要求服务,且无人进入系统的概率.,正在接受服务的顾客继续要求服务,且在,正在接受服务的顾客继续要求服务, 且另一,个顾客进入系统的概率.,间隔内有两个客顾进入系统的概率,由假设, 后者实际上是不可能发生的.,类似的,或者一人将离去且另一人将进入系统,或者,无人离开系统的概率.,该马氏链的一步转移概率为,某计算机房的一台计算机经常出故障,研究者每隔15分钟观察一次计算机运行状态,收集了24小时的数据(共作97次观察) . 用1表示正常状态, 用0表示不正常状态, 所得的数据序列如下:,1110010011111110011110111111001111111110001101101,分析,状态空间: I=0,1.,例5,111011011010111101110111101111110011011111100111,96 次状态转移的情况:,因此, 一步转移概率可用频率近似地表示为:,以下研究齐次马氏链的有限维分布.,特点:,用行向量表示为,一维分布由初始分布和 转移概率矩阵决定,马氏链的 n 维分布,有限维分布仍由初始分布 和转移概率矩阵决定,由以上讨论知,转移概率决定了马氏链的运动的统计规律. 因此, 确定马氏链的任意n步转移概率成为马氏链理论中的重要问题之一.,