《多元分析初步》PPT课件

第七章第七章 多元分析初步多元分析初步第节第节 多元正态分布的定义与性质多元正态分布的定义与性质第节第节 判别分析判别分析第节第节 主成分分析主成分分析第节第节 多元正态分布参数的估计与多元正态分布参数的估计与 假设检验假设检验前言前言 多元分析是研究多指标问题的统计理论与方法，多元分析是研究多指标问题的统计理论与方法，多元统计分析是统计学中讨论多维随机变量的多元统计分析是统计学中讨论多维随机变量的 多元统计分析主要应用于地质、生物、医学、多元统计分析主要应用于地质、生物、医学、气象、计算机模式识别等领域气象、计算机模式识别等领域.它是一元统计分析的推广与发展它是一元统计分析的推广与发展.统计方法的总称统计方法的总称.第节第节 多元正态分布的定义多元正态分布的定义 与性质与性质一、多元正态分布的定义一、多元正态分布的定义 二、多元正态分布的性质二、多元正态分布的性质一、多元正态分布的定义一、多元正态分布的定义12(,)TppXXXX 若若 维维随随机机变变量量的的概概率率密密度度为为 在前几章内容可以看出：一元正态分布在一元统在前几章内容可以看出：一元正态分布在一元统计分析中起着非常重要的作用。类似地，多元正态计分析中起着非常重要的作用。类似地，多元正态分布在多元统计中也会起到重要作用分布在多元统计中也会起到重要作用.首先介绍多首先介绍多元正态分布的定义元正态分布的定义1 1、多元正态分布定义、多元正态分布定义定义定义1121221122(,)exp()()()|Tppf x xxXX XpXp则则称称 服服从从 维维正正态态分分布布，也也称称 为为 维维正正态态变变量量，记记为为(,)pXNXX ，其其中中 为为 的的均均值值向向量量，为为 的的协协方方差差0 矩矩阵阵，为为正正定定矩矩阵阵，记记为为。2.多元正态分布密度函数的性质多元正态分布密度函数的性质 (x,)0,xRnf pd(x,)x1Rf 第一个性质是显然的，以下给出第二个性质的证明。第一个性质是显然的，以下给出第二个性质的证明。由于矩阵由于矩阵 是正定对称阵，因而存在非奇异矩阵是正定对称阵，因而存在非奇异矩阵Q使得使得1TQ Q 类似于一元函数定积分中的换元法，设线性变换类似于一元函数定积分中的换元法，设线性变换y=(x-)Q 则则1()()()()TTTTXXXQ Q Xy y 因因而而变变换换的的雅雅可可比比行行列列式式为为1|Q0,1/21 1/2|,|QQ 因因此此处处当当取取正正号号，负负责责取取负负号号于是于是d1221 2(x,)x11expy y(|)dy(2)(|)2ppRTpRf 212111expdd(2)2pknpkyyy21 211expd1(2)2pkkyy由此可以得到性质由此可以得到性质2的结论的结论.因而它是一个密度函数因而它是一个密度函数.二元正态分布二元正态分布：均值向量的性质：其中其中X，Y为随机向量，为随机向量，A，B为常数矩阵为常数矩阵(1)()();(2)()();(3)()()()E AXAE XE AXBAE X BE AXBYAE XBE Y=+=+2.随机向量X的自协方差矩阵定义定义 5 称称 1121212212cov(,)()()()()cov(,)cov(,)cov(,)()cov(,)()(1.3)cov(,)cov(,)()ppijpppX XE X E XX E XDXDXX XX XX XDXX XX XX XDXs=-=轾犏犏犏=犏犏犏犏臌LLMMMML 为随机向量为随机向量 X 的自协方差阵，简称协方差阵。的自协方差阵，简称协方差阵。若若 则称不相关协方差矩阵，其性质为则称不相关协方差矩阵，其性质为Tcov(,)()()(1.4)(,),1,2,;1,2,ijX YE XE XYEYCov X Yim jp=-=LLcov(,)0X Y=(1)()()(2)cov(,)cov(,)D AXAD X AAX BYAX Y B=3.多元正态分布的期望向量与协方差矩阵多元正态分布的期望向量与协方差矩阵X的期望向量（均值向量）的期望向量（均值向量）1212()(,)(,)ppE XEXEXEX .iiEXX其其中中为为的的数数学学期期望望X的协方差矩阵的协方差矩阵()()()TD XEXEXXEX111212122212pppppp()()ijiijjE XE XXE X 其其中中。协协方方差差矩矩阵阵的的特特性性：ijji (1 1)为为对对称称矩矩阵阵，即即 (2 2)为为正正定定矩矩阵阵，简简记记为为 0 0.1122,defTAA (3 3)由由于于为为正正定定矩矩阵阵，则则.A其其中中 为为非非奇奇异异对对称称矩矩阵阵二、多元正态分布的性质二、多元正态分布的性质 ppp对对于于任任一一 维维向向量量 及及非非负负定定对对称称矩矩阵阵，12(,)N(,),(),1()(),1,.TnjjjkjjkkXXXXnXE XjnE XaXaj kn 设设随随机机向向量量服服从从元元正正态态分分布布则则 与与 是是 的的数数学学期期望望以以及及协协方方差差阵阵，即即 性质性质1性质性质2(,).ppXN必必有有 维维正正态态变变量量 服服从从 1CmpbmYCXb若若 为为矩矩阵阵，为为向向量量，性质性质3(,)pXNYm且且 服服从从分分布布，则则 服服从从 维维正正态态分分布布，且且 Cov(),(,),(,).TTmE YCbY YC CYNCb C C 且 服从且 服从注注：多多维维正正态态随随机机变变量量的的线线性性变变换换仍仍服服从从多多维维正正态态分分布布Xpp为为 维维正正态态变变量量的的充充要要条条件件是是对对任任一一 维维 性质性质4.TCYC X向向量量，是是一一维维正正态态变变量量性质性质5 121212(,)N(,),(,),TnTXXXXnXY YYYX 设设随随机机向向量量服服从从元元正正态态分分布布若若这这里里与与是是 的的子子向向量量，记记11122122 112212121212120.YYYYYY其其中中与与分分别别是是与与的的协协方方差差阵阵，是是由由与与相相应应分分量量的的协协方方差差构构成成的的相相互互协协方方差差矩矩阵阵，则则与与相相互互独独立立的的充充要要条条件件为为 12(,)N(,)TppXXXXpX 随随机机向向量量服服从从 元元正正态态分分布布的的充充要要条条件件是是 可可以以表表示示为为性质性质6 ()(0,)TmXBYBBBp mYmNIm 其其中中 为为矩矩阵阵，为为 维维变变量量，,(0,1)pXmN即即 可可以以表表示示为为 个个相相互互独独立立的的分分布布变变量量和和常常数数的的线线性性组组合合.证明略证明略 12121122N(,),(,),()=()=TpXXXXXXXE XE 设设随随机机向向量量且且这这里里与与是是 的的子子向向量量，,记记 11122122 221XxX则则在在给给定定下下，的的条条件件分分布布还还是是正正态态分分布布，其其条条件件数数学学期期望望为为-11221122222(|=x)=+(x-)E XX 性质性质7-111 211122221=-，(,)|0,pXpN 若若 服服从从 维维分分布布，且且则则 12()()()TXXp证证 明明：性质性质812(),YX 令令则则由由性性质质3 3可可知知221()pTjjY YYp N(0,1),1,2,.iYip其其中中故故由由卡卡方方分分布布的的定定义义知知221()pTjjY YYp例例1(p2201(p220例例7.1)7.1)二元正态分布二元正态分布21221122122(,),TXN 设其中设其中，11,0,02221 22212|(1)0 因因1211211221221111 故存在，且故存在，且122(,)(,)TXXXN 设设，由由于于 2221112222211121211)()(xxxxxxT221211122212122121122121(,)2(1)exp2(1)2 xxf x xxxX于于是是 的的密密度度为为(=2211 211122,122,12212,121122=1=x,),=1XXx ，2 22222，1，1（）（）同理给定时的条件分布为N同理给定时的条件分布为N（）（）=(=121222211,211 2-11,21122222112220,),=x,)+(x-)iiiXXXXXXXx 1 1，其中 为与的相关系数，当时与相互独立其中 为与的相关系数，当时与相互独立由性质3知的边缘分布为N由性质7知，给定由性质3知的边缘分布为N由性质7知，给定的条件分布为N的条件分布为N（再再 见见