概率论与数理统计第13讲

,概率论与数理统计,第十三讲,4.3 协方差与相关系数,对于二维随机向量(,X,Y,)， 除了其分量,X,和,Y,的期望与方差之外, 还有一些数字特征, 用以刻画,X,与Y之间的相关程度，其中最主要的就是下面要讨论的协方差和相关系数。,定义1：,若,E,X,-,E,(,X,),Y,-,E(,Y,), 存在，则称其为,X,与,Y,的协方差，记为Cov(,X,Y,), 即,4.3.1 协方差,Cov(,X,Y,) =,E,X,-,E,(,X,),Y,-,E(,Y,) . (1),(3). Cov(,X,1,+,X,2,Y,)= C,ov,(,X,1,Y,) + C,ov,(,X,2,Y,) ；,(1). Cov(,X, Y) = Cov(,Y,X,)；,协方差性质,(2). 设,a,b,c,d,是常数，则,Cov(,aX+b,cY+d,) =,ac,Cov(,X,Y,) ；,(4). Cov(,X,Y,) =E(,XY,),-,E(,X,)E(,Y,) ，,(5). Var(,X,+,Y,)=Var(,X,)+Var(,Y,)+2Cov(,X,Y,) .,当,X,和,Y,相互独立时，Cov(,X,Y,)=0；,若,X,1,X,2, ,X,n,两两独立，则,性质(5)可推广到,n,个随机变量的情形：,协方差的大小在一定程度上反映了,X,和,Y,相互间的关系，但它还受,X,和,Y,本身度量单位的影响。协方差Cov(X,Y)的单位是X和Y的单位的乘积。例如：,Cov(,aX,bY,) =,ab,Cov(,X,Y,).,为了克服这一缺点，对协方差进行标准化，这就引入了,相关系数,。,4,.3.2 相关系数,为随机变量,X,和,Y,的相关系数 。,定义2:,设Var(,X,) 0, Var(,Y,) 0, 则称,在不致引起混淆时，记,为 。,相关系数性质,证：,由方差与协方差关系，,对任意实数,b, 有,0Var(,Y,-,bX,)=,b,2,Var(,X,)+Var(,Y,),-,2,b,Cov(,X,Y,),令,则有,Var(,Y,-,bX,),=,由方差Var(,Y,)0, 知 1,-,2, 0, 所以 |,|1。,由于当,X,和,Y,独立时，,Cov,(,X,Y,)= 0 .,请看下例：,(2).,X,和,Y,独立时,=0（称X 和Y不相关），但其逆不真；,但,=0,并不一定能推出,X,和,Y,独立。,所以，,证明:,例 1：,设 (,X,Y,) 服从单位 D= (,x,y,):,x,2,+,y,2,1,上的均匀分布，证明：,XY,= 0。,所以，,Cov(,X,Y,)= E(,XY,),-,E(,X,) E(,Y,) = 0 .,同样，得 E(,Y,)=0,此外，,Var(,X,) 0, Var(,Y,) 0 .,所以，,XY,= 0，,即,X,与,Y,不相关。,但是，在例,3.6.2已,计算过,:,X,与,Y,不独立。,存在常数,a,b,(,a,0)，,使,P,Y,=,aX,+,b, = 1 ，即,X,和,Y,以概率,1,线性相关,。,(3). |,|=1，（称X和Y完全相关）,但对下述情形，独立与不相关是一回事：,前面,我们已经看到：,若,X,与,Y,独立，则,X,与,Y,不相关；但由,X,与,Y,不相关，不一定能推出,X,与,Y,独立。,若(,X,Y,)服从二维正态分布，则,X,与,Y,独立的充分必要条件是,X,与,Y,不相关。,习题：,定义1：,设,X,是随机变量, 若E(,X,k,) 存在(,k,=1, 2,), 则称其为,X,的,k,阶原点矩；若 E,X,-,E(,X,),k,存在(,k,= 1,2,), 则称其为,X,的,k,阶中心矩。,4.4 矩与协方差矩阵,4.4.1 矩,易知：,X,的期望 E(,X,) 是,X,的一阶原点,矩，方差Var(,X,) 是,X,的二阶中心矩。,定义2：,设,X,和,Y,是随机变量, 若 E(,X,k,Y,m,) 存在(,k,m,=1, 2,), 则称其为,X,与,Y,的,k,+,m,阶混合原点矩；若 E,X,-,E(,X,),k,Y,-,E(,Y,),m,存在(,k,m,=1,2,，则称其为,X,与,Y,的,k,+,m,阶混合中心矩。,易知： 协方差 Cov(,X,Y,) 是,X,与,Y,的二阶混合中心矩。,4.4.2 协方差矩阵,将随机向量 (,X,1,X,2,) 的四个二阶中心矩,排成一个2,2,矩阵 ，,则称此矩阵为(,X,1,X,2,)的方差与协方差矩阵，简称协方差阵。,类似地,，我们也,可定义n,维随机向量 (,X,1,X,2, ,X,n,) 的协方差阵：若随机向量的所有的二阶中心矩,为(,X,1,X,2, ,X,n,),的,协方差阵。,存在，,则称矩阵,f,(,x,1,x,2, ,x,n,),则称,X,服从,n,元正态分布。,其中,C,是 (,X,1,X,2, ,X,n,) 的协方差阵，,|,C,|,是C的行列式， 表示,C,的逆矩阵，,X,和 是,n,维列向量， 表示,X,的转置。,设 =(,X,1,X,2, ,X,n,)是一个,n,维随机向量,若其概率密度,n,元,正态分布的几条重要性质：,(1).,X,=(,X,1,X,2, ,X,n,),服从,n,元正态分布,对一切不全为 0 的实数,a,1,a,2, ,a,n,，,a,1,X,1,+,a,2,X,2,+ +,a,n,X,n,服从正态分布。,(2).,若,X,=(,X,1,X,2, ,X,n,),服从,n,元正态分布，,Y,1,Y,2,Y,k,是,X,j,(,j,=1, 2,n,)的线性组合,则(,Y,1,Y,2, ,Y,k,),服从,k,元正态分布。,这一性质称为正态变量的线性变换不变性。,(3). 设(,X,1,X,2, ,X,n,)服从,n,元正态分布，则,“,X,1,X,2, ,X,n,两两不相关”,。,“,X,1,X,2, ,X,n,相互独立”,等价于,例2:,设随机变量,X,和,Y,相互独立，且,X,N,(1, 2),Y,N,(0, 1)。求,Z,= 2,X,-,Y,+3 的概率密度。,知,Z,=2,X,-,Y,+3,服从正态分布，且,解:,由,X,N,(1,2),Y,N,(0,1)，且,X,与,Y,相互独立,Var,(,Z,) = 4,Var,(,X,)+,Var,(,Y,) = 8+1 = 9,E,(,Z,) = 2,E,(,X,),-,E,(,Y,)+3 = 2,-,0+3=5 ，,故，,Z,N,(5, 3,2,) .,Z,的概率密度为,习题：,小结,本讲首先介绍二维随机向量,(,X,Y,),的分量,X,与,Y,的协方差及相关系数的概念、性质和计算；然后介绍随机变量的各种矩(,k,阶原点矩、,k,阶中心矩、,k,+,m,阶混合原点矩、,k,+,m,阶混合中心矩)，,n,维随机向量的协方差阵的概念、性质和计算；最后简单介绍了,n,元正态分布的概念和三条重要性质。,