随机过程第二章课件

随机过程概念提出的背景v随机过程是概率论的继续和发展，是概率论的“动力学部分”：它的研究对象是随时间演变的随机现象！随机过程概念提出的背景随机过程是概率论的继续和发展，是概率论1 概率论主要研究的对象是随机变量，即随机试验的结果，可用一个或有限个随机变量描述的随机现象。而有些随机现象仅用一个或有限个随机变量描述是不够的，而要用一族无穷多可随机变量来刻画随机过程一、随机过程是随机变量的推广 概率论主要研究的对象是随机变量，即随机试验的2v对事物变化的全过程进行一次观察得到的结果是一个时间t的函数，但对于同一事务的变化过程独立的重复进行多次观察所得的结果是不相同的，且每次观察之前不能预知试验结果。对事物变化的全过程进行一次观察得到的结果是一个时间t的函数，3v例：当t(t=0)固定时，电话交换站在0,t内受到的呼叫次数是随机变量，记为X（t）。X（t）服从参数为 的Poisson分布。如果t从0变到无穷，t时刻前受到的呼叫次数需用一族随机变量 来表示，则该随机现象就是一随机过程。对电话交换机作一次试验，便得到一个呼叫次数时间函数。这个函数是不能预先确知的，只有通过测量测能得到。例：当t(t=0)固定时，电话交换站在0,t内受到的呼4此外，还包括生物群体的增长问题；一定时期内的天气预报；固定点处海平面的垂直振动等等。此外，还包括生物群体的增长问题；5二、随机过程的定义二、随机过程的定义6随机过程第二章课件7v例 设 ，其中w为常数，V服从区间0,1上的均匀分布，即1）求t=0,Pi/4w,3Pi/4w,Pi/w时随机变量X(t)的概率密度函数2）求tPi/2w时 X(t)的分布函数例 设 81.通常我们可以根据随机变量X(t)在时间和状态上的类型区分随机过程的类型。三、随机过程的分类三、随机过程的分类连续随机过程连续随机过程随机序列随机序列离散参数链离散参数链参数集参数集状态空间状态空间可数集可数集区间区间离散随机过程离散随机过程连续连续型型离散离散型型1.通常我们可以根据随机变量X(t)在时间和状态上的类型区分91.离散参数、离散状态的随机过程贝努力过程：考虑掷一颗骰子的试验。设Xn是第n次抛掷的点数。对于n=1,2,，Xn是不同的随机变量，因而Xn,n=1构成一随机过程。其参数集为T=1,2,状态空间S=1,2,3,4,5,6离散参数、离散状态的随机过程102 离散参数、连续状态的随机过程例：设Xn,n=,-2,-1,0,1,2,是相互独立同分布标准正态分布的随机变量，则Xn,n=,-2,-1,0,1,2,为一随机过程，其参数集T=,-2,-1,0,1,2,状态空间S为整个实数域。2 离散参数、连续状态的随机过程113 连续参数、离散状态的随机过程例 设X（t）表示在期间0,t内达到服务点的顾客数，对于 的不同值，X(t)是不同的随即变量，因而 构成一随机过程。其参数集为正实数，状态空间S0,1,2,3 连续参数、离散状态的随机过程124连续参数、连续状态的随机过程例 X(t)=Acos(wt+N)连续参数、连续状态的随机过程132.2 随机过程的分布随机过程的分布一、有限维分布族研究随机过程的统计特性，其中的一种方法就是求取其有限维分布函数族。有限个随机变量统计规律联合分布函数随机过程统计规律有限维分布函数族2.2 随机过程的分布一、有限维分布族有限个随机变量14随机过程第二章课件15随机过程第二章课件16定义定义2.2：随机过程 的一维分布函数、二维分布函数、n维分布函数的全体：定义2.2：随机过程 的一维分布函数、二维分布函17有限维分布函数族的性质有限维分布函数族的性质对称性相容性有限维分布函数族的性质对称性相容性18v对称性证明：对称性证明：对称性证明：19v相容性证明：相容性证明：相容性证明：20有限维分布函数族对称性相容性Kolmogorov存在定理 设已给参数集T及满足对称性和相容性条件的分布函数族F，则必存在概率空间（,F,P）及定义在其上的随机过程X(t),tT，它的有限维分布函数族是F。有限维分布函数族对称性相容性Kolmogorov存在定理 21v定义定义2.3 有限维特征函数有限维特征函数设 是一个随机变量，对于任意固定的 是n个随机变量，称为随机过程的n维特征函数，称为随机变量的n维特征函数定义2.3 有限维特征函数22定义定义2.4：有限维特征函数族称为随机变量的有限维特征函数族定义2.4：有限维特征函数族称为随机变量的有限维特征函数族23v例1 设X(t)=A+Bt（t大于等于0），其中A和B是相互独立的随机变量，分别服从标准正态分布。试求随机过程的一维和二维分布。解（1）先求一维分布.可知对任意给定的t，X(t)是正态随机变量。（这可以从X的特征函数来分析）。由特征函数性质：若X，Y相互独立，且ZXY，则 若YaX+b,则有 ，可得例1 设X(t)=A+Bt（t大于等于0），其中A和B是相互24 因此可知（2）二维分布 显然有 从而(X(t1),X(t2)服从二维正态分布。计算可得从而可得(X(t1),X(t2)的协方差矩阵，进一步可得结果。因此可知25v例2 令 其中A是随机变量，其分布律为P(A=i)=1/3,i=1,2,3试求：（1）随机过程 的一维分布函数（2）随机过程 的二维分布函数例2 令 26二、有限维联合分布数函数族有限维联合分布函数族：二、有限维联合分布数函数族有限维联合分布函数族：27设X(t),tT是随机过程，如果对任意tT，EX(t)存在，则称函数为X(t)的均值函数，反映随机过程在时刻t的平均值。一、均值函数一、均值函数2.3 随机过程的数字特征设X(t),tT是随机过程，如果对任意tT，EX(28 我们把随机变量我们把随机变量（随机过程对应于某个（随机过程对应于某个固定固定t t值）的二阶原点矩值）的二阶原点矩记作记作 称为随机过程称为随机过程 的均方值函数。的均方值函数。（二）均方值与方差（二）均方值与方差称为随机过程称为随机过程 的方差函数。的方差函数。而把而把 的二阶中心矩，的二阶中心矩，是是t t的确定函数，它描述了随机过程的诸的确定函数，它描述了随机过程的诸样本函数对数学期望样本函数对数学期望 的偏离程度见图示。的偏离程度见图示。我们把随机变量（随机过程对应于某个固定t值）的二阶29是非负函数，它的平方根称是非负函数，它的平方根称为随机过程的均方差函数。为随机过程的均方差函数。即：即：是非负函数，它的平方根称即：30（三）自相关函数（三）自相关函数 自相关函数（简称相关函数）就是用来自相关函数（简称相关函数）就是用来描述随机过程两个不同时刻状态之间内在联描述随机过程两个不同时刻状态之间内在联系的重要数字特征。系的重要数字特征。（三）自相关函数 自相关函数（简称相关函数）就31称为随机过程称为随机过程X(t)的自相关函数，简称相关函数，的自相关函数，简称相关函数，我们把随机过程我们把随机过程 在任意两个不同时在任意两个不同时刻刻的随机变量的随机变量 与与 的混合原的混合原点矩（若存在）点矩（若存在）记作记作称为随机过程X(t)的自相关函数，简称相关函数，32若取若取 ，称称 与与 的中心矩的中心矩为随机过程的协方差函数。为随机过程的协方差函数。则有则有此时相关函数即为均方值此时相关函数即为均方值 。若取 ，称 与 33(1)(1)(2)(2)(3)(3)随机过程数字特征之间的关系：随机过程数字特征之间的关系：从这些关系式看出，均值函数从这些关系式看出，均值函数和相关函数和相关函数 是最基本的两个数字特征，是最基本的两个数字特征，其它数字特字特征，协方差函数其它数字特字特征，协方差函数 方差方差函数函数都可以由它们确定。都可以由它们确定。(1)(2)(3)随机过程数字特征之间的关系：从这些关系式34四、互相关函数四、互相关函数两个随机过程之间的关系两个随机过程之间的关系互协方差函数互相关函数四、互相关函数两个随机过程之间的关系互协方差函数互相关函数35随机过程第二章课件36随机过程第二章课件37随机过程第二章课件38随机过程第二章课件39例：设X(t)=A+Bt,其中A，B是相互独立的随机变量，且均值为0，方差为1，求x(t)的数字特征例：设X(t)=A+Bt,其中A，B是相互独立的随机变量，且402.4 复随机过程复随机过程二、复随机过程的数字特征函数均值函数2.4 复随机过程二、复随机过程的数字特征函数均值函数41自相关函数协方差函数方差函数自相关函数协方差函数方差函数42随机过程第二章课件43复习复习v例2 令 其中A是随机变量，其分布律为P(A=i)=1/3,i=1,2,3试求：随机过程 的二维分布函数复习例2 令 44二阶矩过程二阶矩过程正交增量过程正交增量过程独立增量过程独立增量过程马尔可夫过程马尔可夫过程正态过程正态过程维纳过程维纳过程平稳过程平稳过程2.5 复复随机过程的几种基本类型随机过程的几种基本类型二阶矩过程2.5 复随机过程的几种基本类型45二阶矩过程二阶矩过程定义：设已给定随机过程 ，如果对于一切 均有 ，则称 为二阶矩过程。1、二阶矩过程必存在均值2、由Schwartz不等式：知其相关函数和协方差都存在。性质：二阶矩过程定义：设已给定随机过程 ，1、46例题：设X(t),tT是正交增量过程，T=a,b为有限区间，且规定X(a)=0，当astb时，求其协方差函数。正交增量过程正交增量过程特点：不相重叠的区间上状态的增量互不相关。例题：设X(t),tT是正交增量过程，T=a,b为47随机过程第二章课件48独立增量过程独立增量过程2、特点：独立增量过程在任一个时间间隔上过程状态的改变，不影响任一个与它不相重叠的时间间隔上状态的改变。独立增量过程2、特点：独立增量过程在任一个时间间隔上过程状态49正交增量过程独立增量过程定义依据：不相重叠的时间区间上增量的统计相依性互不相关相互独立正交增量过程独立增量过程正交增量过程独立增量过程二阶矩存在，均值函数恒为零3、独立增量过程与正交增量过程的关系正交增量过程独立增量过程定义依据：不相重叠的时间区间上增量的504、独立增量过程，其有限维分布可由增量的分布所确定4、独立增量过程，其有限维分布可由51即有限维分布可由增量分布来确定。即有限维分布可由增量分布来确定。525.平稳独立增量5.平稳独立增量53例题：考虑一种设备一直使用到损坏为止，然后换上同类型的设备。假设设备的使用寿命是随机变量，令N(t)为在时间段0,t内更换设备的件数，通常可以认为N(t)，t0是平稳独立增量过程。定理：平稳独立增量过程的有限维分布函数族由定理：平稳独立增量过程的有限维分布函数族由其一维分布和增量的分布确定。其一维分布和增量的分布确定。注：有限维分布首先由增量分布确定，而增量分布由一维分布确定，最重要的平稳独立增量过程是维纳过程和泊松过程。例题：考虑一种设备一直使用到损坏为止，然后换上同类型的设备。54马尔可夫过程马尔可夫过程2、马尔可夫性系统在已知现在所处状态的条件下，它将来所处的状态与过去所处的状态无关。马尔可夫过程2、马尔可夫性系统在已知现在所处状态的条件下，它55定义：设X(t),tT是随机过程，若对任意正整数n及t1,t2,tnT，(X(t1),X(t2),X(tn)是n维正态随机变量，则称X(t),tT是正态过程或高斯过程。特点：1.在通信中应用广泛；2.正态过程只要知道其均值函数和协方差函数，即可确定其有限维分布。正态过程正态过程定义：设X(t),tT是随机过程，若对任意正整数n及t56(正态过程的一种特殊情况)1、物理背景：布朗运动 (1827年英国植物学家罗伯特.布朗发现)悬浮在流体中的微粒受到流体分子与粒子的碰撞而发生的永不停息的不规则（随机）运动。维纳过程维纳过程(正态过程的一种特殊情况)1、物理背景：布朗运动维纳过程57(3)、质点的运动完全由不规则分子撞击而引起，在不重迭区间上碰撞次数与大小是独立的,故在不重迭区间上质点的位移是独立的,可理解为有均匀的独立增量。这样导致了维纳过程的定义。注:维纳是首先从数学上研究布朗运动的人之一。(3)、质点的运动完全由不规则分子撞击而引起，在不重迭区间上58随机过程第二章课件593.统计特征3.统计特征60随机过程第二章课件61例：证明维纳过程是正态过程。例：证明维纳过程是正态过程。例：证明维纳过程是正态过程。62随机过程第二章课件63定义：设X(t),tT是随机过程，如果对任意常数和正整数n，t1,t2,tnT，t1+,t2+,tn+T，(X(t1),X(t2),X(tn)与(X(t1+),X(t2+),X(tn+)有相同的联合分布，则称X(t),tT为严平稳过程或侠义平稳过程。定义：设X(t),tT是随机过程，如果1.X(t),tT是二阶矩过程；2.对任意tT，mX(t)=EX(t)=常数；对任意s,t T，RX(s,t)=EX(s)X(t)=RX(t-s)则称X(t),tT为广义平稳过程，简称为平稳过程。平稳过程平稳过程定义：设X(t),tT是随机过程，如果对任意常数和正64广义平稳过程严平稳过程广义平稳过程严平稳过程二阶矩存在对于正态过程，广义平稳过程和严平稳过程是等价的。例：设随机过程X(t)=acos(t+)，a和都是常数，是在(0,2)上均匀分布的随机变量，Y(t)=tX(t)，试分别讨论X(t)和Y(t)的平稳性。广义平稳过程严平稳过程广义平稳过程严平稳过程二阶矩存在对于65作业：2.3 2.4 2.8 2.12 2.15第二章结束第二章结束作业：2.3 2.4 2.8 2.12 66