随机过程课件

Click to edit Master title style,Click to edit Master text styles,Second level,Third level,Fourth level,Fifth level,*,第一,章,.,随机过程的基本概念,在实际问题中，有时需要对随机现象的变化进,行研究，这时就必须考虑无穷个随机变量或一族,随机变量,我们就称这种随机变量族为随机过程。,例,1:,生物群体的增长问题。在描述群体的发展,或演变过程中,以,X,t,表示在时刻,t,群体的个数,则,对每一个,t,，,X,t,是随机变量。假设我们从,t,0,开,始每隔,24,小时对群体的个数观测一次,则,X,t,t,0,1,2,.,是一个随机过程。,例,2:,电话呼唤问题。某电话总机在,0,，,t,时间,内收到的呼唤次数用,X,t,来表示,则对于固定的,t,，,X,t,是随机变量。于是,X,t,t,0,),是随机过程。,1.1,随机过程及其概率分布,1,例,3:,在,统计中，以,X,t,表示,某地区的粮食总产,量，,则,X,t,是随机变量,故,X,t,t,0,1,2,.,是随机,过程。,一般的随机过程，其严格定义如下：,例,4:,热噪声电压。电子元器件由于内部微观粒,子,(,如电子,),的随机热运动所引起的端电压称为,热噪,声电压，它在任一确定的时刻,t,的值是一,随机变量,X,t,，于是,X,t,t,0,),是随机过程。,定义,1:,设,(,F,P,),是,概率空间,，,T,是给定的参,数集，,若,对每一个,t,，有一个随机变量,X,t,与之对应，,则称随机变量族,X,t,t,T,为,(,F,P,),上的,随机过,程,。,随机过程,X,t,t,T,也记为,X,(,t,),t,T,或,X,(,t,),t,T,.,2,若,固定,X,(,t,),作为,t,的函数称为随机过程,X,(,t,),t,T,的,样本函数,或,轨道,。,如果从数学的角度来看，,随机过程,X,(,t,),t,T,就是定义在,T,上的二元函数。对固定的,t,T,，,X,(,t,),是,(,F,P,),上的随机变量,.,对固定的,X,(,t,),是定义在,T,上的普通函数。,T,称为,参数集,，通常表示时间。,X,(,t,),所有可能,取的值称为,随机过程的,状态空间,用,I,来表示，而,每一个,可能的取值称为,随机过程的状态。,例,5:,设随机过程,X,(,t,),=V,cos,t,其中是常数,V,服从0，1上的均匀分布。,（1）写出,X,(,t,),的参数空间,T,，状态空间,I,。,（2）写出,X,(,t,),的两个样本函数。,3,随机过程可以根据,参数集,T,和,状态空间,I,的情况,进行分类。,参数集,T,可分为可数集和连续集两种情,况，状态空间,I,也同样可分为可数集和连续集两种,情况，因而随机过程可以分为以下四种类型：,(,1,),参数,可数、状态可数的随机过程，如例,1,；,(,2,),参数,连续、状态可数的随机过程，如例,2,；,(,3,),参数,可数、状态连续的随机过程，如例,3,；,(,4,),参数,连续、状态连续的随机过程，如例,4,；,例,6:,利用抛掷硬币的试验定义一个随机过程。,写出X（t）的所有样本函数,4,随机过程,的有限维分布族,对任意固定的,t,T,，,X,(,t,),是一维随机变量,其分,布函数是,P,X,(,t,),x,记为,F,(,x,;,t,),即,F,(,x,;,t,)=,P,X,(,t,),x,称,F,(,x,;,t,),为随机过程,X,(,t,),的一维分布函数。,如,对任意两个固定,t,1,t,2,T,X,(,t,1,),X,(,t,2,),是二个随,机变量，称,F,(,x,1,x,2,;,t,1,t,2,)=,P,X,(,t,1,),x,1,X,(,t,2,),x,2,为随机过程,X,(,t,),的二维分布函数,;,一般地，对任意固定的,t,1,t,2,t,n,T,。,X,(,t,1,),X,(,t,2,),X,(,t,n,),是,n,个随机变量，称,F,(,x,1,x,n,;,t,1,t,n,)=,P,X,(,t,1,),x,1,X,(,t,n,),x,n,为随机过程,X,(,t,),的,n,维分布函数,.,5,定义,2:,随机过程,X,(,t,),的一维分布函数，二维分,布函数,n,维分布函数等等的全体,F,(,x,1,x,n,;,t,1,t,n,),t,1,t,2,t,n,T,n,1,称为,X,(,t,),的有限维分布函数族。,如果,(,X,(,t,1,),X,(,t,2,),X,(,t,n,),是连续型随机变量，称,为随机过程,X,(,t,),的,一维分布密度,.,称,为随机过程,X,(,t,),的,二维分布密度,.,称,为随机过程,X,(,t,),的,n,维分布密度,.,6,随机过程,X,T,=,X,(,t,e,),t,T,的有限维分布函数族具有如下性质：,(1),对称性；,(2),相容性,例,7:,随机过程,X,(,t,)=,Y+tZ,t,0,其中,Y,Z,是独立的随机变量,都服从正态分布,N,(0,1),求,X,(,t,),t,0,的一维分布函数,。,例,8:,随机过程,X,(,t,)=,A,cos,t,其中,A,的分布列是,求,:1,一维分布函数 ，,2,求二维分布函数,A,1,2,3,P,7,解：,取值仅一个,0,，且知,P,8,2,（,是两个事件 交的概率,）,9,例,9,设,Xn,，,n,1,是独立同分布的随机变量序列，,且知,其中,0p0,且,试求 、,17,例,3.,若一个随机过程由图所示的四个样本函数组,成，而且每个样本函数出现的概率相等,，,求,上图写成表如下：,X(t,),1,2,3,4,X(t,1,),X(t,2,),2 6 3,5 4 1 2,p,k,18,例,4:,设,随机过程,X,(,t,)=,a,cos(t+,),t,0,其中,a,是正的常数，而随机变量,服从区间,0,2,上的均匀分布。求,X,(,t,),t,0,的数学期望，方差函数和相关函数,。,三、,二阶矩过程和正态过程,定义,:,设,X,T,X,(,t,),t,T,是,随机过程,若,对任,意,t,T,E,X,(,t,),和,E,(,X,(,t,),2,存在,则称,X,T,为,二阶,矩过程,.,定义,:,若,随机过程,X,(,t,),t,T,的有限维分布,是一维或多维,正态分布,则称,X,(,t,),为,正态过程,或,高斯过程,.,对于正态过程,其有限维分布被数学期望和,协方差函数完全确定,.,19,四、,协方差函数和相关函数的性质,（,1,）对称性。,对任,t,1,，,t,2,（,2,）,是非负定的,，,是非负定的,（,3,）,20,1.3,两个随机过程的联合分布和数字特征,实际问题中，有时必须同时研究两个或两个以,上,随机过程及它们之间的统计联系。例如，某地,区在时间段,(0,t,内的最高温度,X,(,t,),和最低温度,Y,(,t,),都是随机过程,需要研究它们之间的关系,。这时就,需要考察,它们的联合统计特性。,设,X,T,X,(,t,),t,T,Y,T,Y,(,t,),t,T,是两个,随机,过程。,（一）,X(t,),，,Y(t,),，,tT,的,m+n,维联合分布函数,对任意,n1,，,m1,，,t,1,，,t,2,，,，,t,n,T,，,21,称为过程,X,(t,),，,Y,(t,),，,t,T,的,m+n,维联合分布函数,.,联合概率密度为,22,（二）,每个过程的联合分布函数,令,y,1,y,2,y,n,，,得,X,（,t,）,的,m,维分布函数为：,令,x,1,x,2,x,m,，,得,Y,（,t,）,的,n,维分布函数为,：,23,（三）每个过程的联合分布函数,1,X(t),Y(t),分别有自己的均值,，、，,方差,，,和自相关函数,，,2,对固定的,t,1,，,t,2,T,，,定义,:,随机变量,X(t,1,),和,Y(t,2,),的协方差,t,1,，,t,2,T,称为随机过程,X(t),，,Y(t),的互协方差函数,，,称,，,t,1,，,t,2,T,为,X(t),，,Y(t),互相关函数,，,它们反映过程,X(t),与,Y(t),相互联系的数字特征,。,24,对连续型情形有：,3.,关系,，,t,1,，,t,2,T,例,:,设有两个,随机过程,X,(,t,)=,g,(t+,),和,Y,(,t,)=,h,(t+,),其中,g,(t,),和,h,(t,),都是周期为,L,的函数，而随机变量,服从区间,0,L,上的均匀分布,求,互,相关函数,R,XY,(,t,t+,),。,25,（四）,两个随机过程,X(t),、,Y(t),的相互关系,1,X(t),Y(t),相互独立,对任,，,和,t,，,T,，,都有,对连续型,都有,2.,如果两个随机过程,X(t),Y(t)(,t,T),有,或,则称,X(t),，,Y(t),不相关,3,过程,X(t),，,Y(t),相互独立,不相关,，,(,定理,2),若,X(t),Y(t),相互独立，在独立定义中取,m=n=1,。,则对任意,t,1,，,t,2,T,，,有,X(t,1,),与,Y(t,2,),独立,，,又由概率中随机变量的独立性，可推出,X(t,1,),与,Y(t,2,),不相关,X(t),Y(t),不相关,26,在工程中，常把随机过程表示成复数形式进行,研究，这就出现了复随机过程。,当,X,(,t,),t,T,和,Y,(,t,),t,T,是二阶矩过程时，,Z,(,t,),X,(,t,)+,i,Y,(,t,),的,数学期望,、方差函数,、,相关函数和协方差函数分别定义为：,1.4,复随机过程,定义,:,设,X,(,t,),t,T,Y,(,t,),t,T,是取实数值的,两个,随机过程，则,Z,(,t,),X,(,t,)+,i,Y,(,t,),t,T,称为,复随机过程。其中,i,=,R,Z,(,s,t,),m,Z,(,t,),E,Z,(,t,),E,X,(,t,)+,i,E,Y,(,t,),27,C,Z,(,s,t,),易知，相关函数和协方差函数之间有如下关系：,复随机过程的数学期望称为一阶矩，,方差函,数,、,相关函数和协方差函数都,称为二阶矩。若,复随机过程的一阶矩和二阶矩都有限，则称为,复二阶矩过程。,显然，由数学期望和相关函数可以确定出,方,差函数和协方差函数,。,C,Z,(,s,t,),R,Z,(,s,t,),m,Z,(,s,),28,其中,0,是,正,常数,n,是给定的正整数,X,k,是实,随机,变量,k,都服从区间,0,2,上的均匀分布,，并且,所有的,X,k,和,k,(,k=,1,2,.,n,),相互独立,求,Z,(,t,),t,0,的均值函数和相关函数,。,例,:,设,复随机过程,仿照实随机过程的方式，可以定义两个复随机,过程的互,相关函数为,：,互,协方差,函数为,：,R,XY,(,s,t,),C,XY,(,s,t,),在后面的课程中，随机过程除特别指出外，都,是指实随机过程。,29,在这一节中，我们介绍随机过程的微分和积分,.,随机过程的连续性、微分和积分的定义在形式上,和高等数学中相应的定义是类似的，很多性质也,相同。但是,，需要注意的是前者是对,随机过程而,言的，而后者是对函数讲的。,本节中的随机过程都要求一阶矩和二阶矩存在,因此以下的随机过程都假定为二阶矩过程。,1.5,随机微积分,一、收敛性概念,对于随机序列,X,n,(,),若固定,则成为,数列，于是就可以讨论收敛性或极限，这时的讨,论实际是假定对每一个,，都存在，,这种收敛性我们称之为随机序列,X,n,(,),处处收敛,.,30,在实际应用中，处处收敛的要求太强了，下面,介绍随机序列在较弱意义下的收敛定义，它们不,要求对每一个,都收敛。,定义,1:,称,随机序列,X,n,(,),以概率,1,收敛,于随机,变量,X,(,),，如果,即使关系 成立的,的集合的