应用多元统计分析课后习题答案高惠璇

应用多元统计分析应用多元统计分析第二章部分习题解答第二章部分习题解答2 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计 2-1 设设3维随机向量维随机向量XN3(,2I3)，已知，已知.21,5.005.05.015.0,002dA试求试求Y=AX+d的分布的分布.解解:利用性质利用性质2,即得二维随机向量即得二维随机向量YN2(y,y),其中：其中：.11132)2(,1221113AAAIAdAyy3 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计 2-2 设设X=(X1,X2)N2(,)，其中，其中.11,221（1）试证明）试证明X1+X2 和和X1-X2相互独立相互独立.（2）试求）试求X1+X2 和和X1-X2的分布的分布.解解:(1)记记Y1 X1+X2(1,1)X,Y2 X1-X2 (1,-1)X，利用性质利用性质2可知可知Y1,Y2 为正态随机变量。又为正态随机变量。又011111111),Cov(221YY故故X1+X2 和和X1-X2相互独立相互独立.4 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计或者记或者记CXXXXXXXYYY212121211111),(则2CCCNY)1(200)1(2111111111111111111因222CCY由定理由定理2.3.1可知可知X1+X2 和和X1-X2相互独立相互独立.5 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计(2)因因)1(200)1(2,2212122121NXXXXY).1(2,();1(2,(2212122121NXXNXX6 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计 2-3 设设X(1)和和X(2)均为均为p维随机向量维随机向量,已知已知,1221)2()1(2)2()1(pNXXX其中其中(i)(i1，2)为为p维向量维向量,i(i1，2)为为p阶矩阵，阶矩阵，(1)试证明试证明X(1)+X(2)和和X(1)-X(2)相互独立相互独立.(2)试求试求X(1)+X(2)和和X(1)-X(2)的分布的分布.解:(1)令CXXXIIIIXXXXYpppp)2()1()2()1()2()1(7 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计),(则2CCCNYp)(2)(2)(D)因D(2121122121211221OOIIIIIIIIIIIICXCYpppppppppppp 由定理由定理2.3.1可知可知X(1)+X(2)和和X(1)-X(2)相相互独立互独立.8 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计(2)因因)(2)(2,2121)2()1()2()1(2)2()1()2()1(OONXXXXYp).(2,();(2,(21)2()1()2()1(21)2()1()2()1(ppNXXNXX所以所以注意:由D(X)0,可知(1-2)0.9 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计2-11 已知已知X=(X1,X2)的密度函数为的密度函数为)65142222(21exp21),(2121222121xxxxxxxxf试求试求X的均值和协方差阵的均值和协方差阵.解一解一:求边缘分布及求边缘分布及Cov(X1,X2)=122)142(21)65222(21221112212212121),()(dxeedxxxfxfxxxxxx21211222121)7(212)7()7(2(21)65222(2121xxxxxxxedxee10 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计2)7(21)168(212121212121dxeexxxx2)7(21)491465222(2121212112121dxeexxxxxx21)4(2121xe).1,4(1NX22)3(4112122221),()(xedxxxfxf).2,3(2NX类似地有类似地有11 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计2121212122112112),()3()4()3)(4(E)(E)(E(E),(CovdxdxxxfxxXXXXXXXX34令2211xuxu2121222121)22(21exp21duduuuuuuu12)(21221212212121dudueueuuuu12)(2112)(21122121221221)(2121dudueudueuueuuuuuu121122121dueuu0212 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计所以所以2111)(D,34)(EXX)()(21exp21),(且121xxxxf故故X=(X1,X2)为二元正态分布为二元正态分布.13 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计解二解二:比较系数法比较系数法 设设)()(2)()1(21exp121)65142222(21exp21),(2222122112121122222212212121222121xxxxxxxxxxxxf6521422222211211212121222221121212221221212122221比较上下式相应的系数比较上下式相应的系数,可得可得:2/11212142222242121342114 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计2111)(D,34)(EXX故故X=(X1,X2)为二元正态随机向量为二元正态随机向量.且且解三解三:两次配方法两次配方法 2221222121121212121212221212122122212122则,0111令,011101111112而,1112),(22因)(22:第一次配方)1(yyxxxxxxxxxyyyBBxxxxxxxxxxxxxxx21221第二次配方.由于)2(yyxyx15 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计2221222121212222121212221)4()7(168491465)(142265142222yyyyyyyyyyyxxxxxx)4()7(21)65142222(21222121221212122212121yyyyxyxxxxxxxee即即),(21yyg),(21yyg设函数设函数 是随机向量是随机向量Y的密度函数的密度函数.16 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计 (4)由于由于CYYYXXX21211110故故211111101110,344711102I2111,342NCYX2111)(D,34)(EXX2221,47INYYY(3)随机向量随机向量17 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计2-12 设设X1 N(0,1),令令,其它.,11-当,1112XXXX(1)证明证明X2 N(0,1);(2)证明证明(X1,X2)不是二元正态分布不是二元正态分布.证明证明(1):任给任给x,当当x-1时时)(12xxXPxXP当当x1时时,)(1111111111112222xxXPxXPXPXPxXPXPXPxXP18 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计)(11111111111222xxXPxXPXPXxPXPxXPXPxXP当当-1x1时时,).1,0(2NX(2)考虑随机变量考虑随机变量Y=X1-X2,显然有显然有其它011-当,11121XXXXXY19 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计03174.0)1(2)1,0(111或1011111NXXPXPXXPYP 若若(X1,X2)是二元正态分布是二元正态分布,则由性质则由性质4可知可知,它的任意线性组合必为一元正态它的任意线性组合必为一元正态.但但Y=X1-X2 不是正态分布不是正态分布,故故(X1,X2)不是二元正态分布不是二元正态分布.20 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计2-17 2-17 设设XNp(,),(,),0,0,X的密度函数记为的密度函数记为f(x;,).(1);,).(1)任给任给a0,0,试证明概率密度等高面试证明概率密度等高面 f(x;,)=;,)=a是一个椭球面是一个椭球面.(2)(2)当当p=2=2且且 (0)0)时，时，112概率密度等高面就是平面上的一个椭圆，试求该椭圆概率密度等高面就是平面上的一个椭圆，试求该椭圆的方程式，长轴和短轴的方程式，长轴和短轴.证明证明(1):任给任给a0,0,记记时,1当0,|)2(02/12/0aaap21)()(),;(bxxaxf,0ln2|)2(ln2其中02/12/2aaabp21 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计的谱谱分解则有),2,1(的特征向量记特对应,0的特征值0,因1-21piliip记为iipiil l 111),2,1()(pilxyii令令 ,则概率密度等高面为则概率密度等高面为211)(1)()()(bxl lxxxiipii2211byipii(见附录见附录5 P390)22 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计12222222121bybybypp故概率密度等高面故概率密度等高面 f(x;,)=a是一个椭球面是一个椭球面.(2)当当p=2=2且且 (0)0)时时,112).1(|240)()(|222224222222pI由由可得可得的特征值的特征值).1(),1(222123 第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计i(i=1,2)对应的特征向量为对应的特征向量为2121212111ll由由(1)可得椭圆方程为可得椭圆方程为1)1()1(22222221byby,12ln2|)2(ln2其中222/12aab长轴半径为长轴半径为 方向沿着方向沿着l1方向方向(b0);短轴半径为短轴半径为 方向沿着方向沿着l2方向方向.,11 bd,12 bd24第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计 2-19 为了了解某种橡胶的性能，今抽了十个样品，为了了解某种橡胶的性能，今抽了十个样品，每个测量了三项指标：每个测量了三项指标：硬度、变形和弹性，其数据见硬度、变形和弹性，其数据见表。试计算样本均值，样本离差阵，样本协差阵和样表。试计算样本均值，样本离差阵，样本协差阵和样本相关阵本相关阵.解：解：25第二章第二章 多元正态分布及参数的估计多元正态分布及参数的估计应用多元统计分析应用多元统计分析第三章习题解答第三章习题解答27第三章第三章 多元正态总体参数的假设检验多元正态总体参数的假设检验 3-1 3-1 设设XNn(,2 2In),),A为对称幂等为对称幂等阵阵,且且rk(rk(A)=)=r(rn),证明证明 证明证明 因因A为对称幂等阵，而对称幂等阵的为对称幂等阵，而对称幂等阵的特征值非特征值非0 0即即1,1,且只有且只有r个非个非0 0特征值，即存在正特征值，即存在正交阵交阵(其列向量其列向量ri为相应特征向量为相应特征向量)，使，使28第三章第三章 多元正态总体参数的检验多元正态总体参数的检验29其中非中心参数为其中非中心参数为第三章第三章 多元正态总体参数的检验多元正态总体参数的检验303-2 3-2 设设XN Nn n(,2In),),A，B为为n阶对称阵阶对称阵.若若AB 0,0,证明证明XAX与与XBX相互独立相互独立.证明的思路：证明的思路：记记rk(rk(A)=)=r.因因A为为n阶对称阵阶对称阵,存在正交阵存在正交阵,使得使得 A=diag(=diag(1,1,r 0,.,0)0,.,0)令令YX，则，则YNn(,2In),),第三章第三章 多元正态总体参数的检验多元正态总体参数的检验且且riiiYAYAYAXX12)(31 又因为又因为 XBX=YB Y=YHY其中其中H=B。如果能够证明。如果能够证明XBX可表示为可表示为Yr+1+1，,Yn的函数，即的函数，即H只是右只是右下子块为非下子块为非0的矩阵。的矩阵。则则XAX 与与XBX相互独立。相互独立。第三章第三章 多元正态总体参数的检验多元正态总体参数的检验32 证明证明 记记rk(rk(A)=)=r.若若r=n,由由ABO,知知B Onn,于是于是XAX与与XBX独立；独立；若若r=0=0时时,则则A0,0,则两个二次型也是独则两个二次型也是独立的立的.以下设以下设0 0rn.因因A为为n阶对称阵阶对称阵,存在正存在正交阵交阵,使得使得第三章第三章 多元正态总体参数的检验多元正态总体参数的检验33 其中其中i00为为A的特征值的特征值(i=1,=1,r).).于是于是令令r第三章第三章 多元正态总体参数的检验多元正态总体参数的检验 由由ABO可得可得DrH1111O ，DrH1212O.因因Dr为满秩阵为满秩阵,故有故有H1111Orr，H1212Or(n-r).由于由于H为对称阵，所以为对称阵，所以H2121O(n-r)r.于是于是34 由于由于Y1 1，,Yr,Yr+1,Yn相互独立，故相互独立，故XAX与与XBX相互独立相互独立.第三章第三章 多元正态总体参数的检验多元正态总体参数的检验令令YX，则，则Y N Nn(,2In),),且且riiiYAYAYAXX12)(nrnrYYHYYHYYBYBXX1221),(BH35 设设XN Np(,),0,0,A和和B为为p阶对称阵阶对称阵,试证明试证明 (X-)A(X-)与与(X-)B(X-)相互相互独立独立 AB0 0pp.第三章第三章 多元正态总体参数的检验多元正态总体参数的检验3-3)(记1212136由由“1.“1.结论结论6”6”知知与与相互独立相互独立 第三章第三章 多元正态总体参数的检验多元正态总体参数的检验OBAOBAOCD2121212137 性质性质4 4 分块分块Wishart矩阵的分布矩阵的分布:设设X()Np(0,)(1,n)相互独立，其中相互独立，其中又已知随机矩阵又已知随机矩阵则则rpr22211211),(W222112111)()(nrprWWWWXXWpn第三章第三章 多元正态总体参数的检验多元正态总体参数的检验试证明试证明Wishart分布的性质分布的性质(4)和和T2分布的性质分布的性质(5).3-438第三章第三章 多元正态总体参数的检验多元正态总体参数的检验证明证明:设设)()2(|)1(rpnrnijpnXXxX),0(),0(则,22)2()(11)1()()2()()1()()(rprNXNXrprXXX记记,则则,)2()2()1()2()2()1()1()1(22211211WWWWXXXXXXXXXXW)2()2(),1()1(2211XXWXXW即即39第三章第三章 多元正态总体参数的检验多元正态总体参数的检验).,()()2()2(122)2()()2()(22nrpnWXXXXW当当12=O 时时,对对1,2,n,相互相互 独立独立.故有故有W11与与W22相互独立相互独立.)2()()1()(与XX);,()()1()1(111)1()()1()(11nrnWXXXXW由定义由定义3.1.4可知可知40 性质性质5 在非退化的线性变换下在非退化的线性变换下,T2统计量保持不统计量保持不变变.证明证明:设设X()(1,n)是来自是来自p元总体元总体Np(,)的随机样本的随机样本,X和和Ax分别表示正态总体分别表示正态总体X的样本均值向量和离差阵的样本均值向量和离差阵,则由性质则由性质1有有).1,()()(1(212npTXAXnnTxx第三章第三章 多元正态总体参数的检验多元正态总体参数的检验令令()()(1,.,)iiYCXd in其中其中C是是p p非退化常数矩阵，非退化常数矩阵，d是是p 1常向量。常向量。则则),.,2,1(),()(niCCdCNYpi4122xyTT21112)()(1()()(1()()(1(xxxyyyyTXAXnnXCCCACXnnYAYnnT第三章第三章 多元正态总体参数的检验多元正态总体参数的检验,dXCYCCACXXXXCYYYYAxiniiiniiy)()()()()(1)()(1)(所以所以dCy记42第三章第三章 多元正态总体参数的检验多元正态总体参数的检验3-5 对单个p维正态总体Np(,)均值向量的检验问题，试用似然比原理导出检验H0:=0(=0已知)的似然比统计量及分布.解解:总体总体XN Np p(,(,0 0)()(0 00),0),设设X()(=1,(=1,n)(np)为来自为来自p维正态总体维正态总体X的样本的样本.似然比统计量为似然比统计量为),(max),(max0000LLnnXX10)(100)(2/0)()(21exp|2|1分子nnXX10)(0)(102/0)(tr21exp|2|1P66当当=0已知已知的检验的检验43第三章第三章 多元正态总体参数的检验多元正态总体参数的检验tr21exp|2|1分子0102/0An),(max),(分母00LXLnnXXXX1)(10)(2/0)()(21exp|2|1nnXXXX1)()(102/0)(tr21exp|2|1tr21exp|2|1102/0An44第三章第三章 多元正态总体参数的检验多元正态总体参数的检验),(max),(max0000LL21tr21trexp01010AA)(21tr21trexp001010XXnAA)()(tr2exp0100XXn)()(2exp0100XXn45第三章第三章 多元正态总体参数的检验多元正态总体参数的检验)()(2ln0100XXndef0100)()(ln2XXn),0()(),1,(0下000下00pHpHNXnnNX).(ln22p因因所以由所以由3“一一2.的结论的结论1”可知可知46第三章第三章 多元正态总体参数的检验多元正态总体参数的检验 3-6 (均值向量各分量间结构关系的检验均值向量各分量间结构关系的检验)设总体设总体XN Np p(,)(,)(0),0),X()(1,1,n)()(np)为为来自来自p维正态总体维正态总体X X的样本，记的样本，记(1 1,p).).C为为kp常数常数(k p),rank(),rank(C)=)=k,r为已知为已知k维向量维向量.试给出试给出检验检验H H0 0:C:Cr的检验统计量及分布的检验统计量及分布.解：解：令令),2,1()()(nCXY则则Y()(1,1,n)为来自为来自k维正态总体维正态总体Y的样本，且的样本，且.,记);,(y)(CCCCCCNYyk47第三章第三章 多元正态总体参数的检验多元正态总体参数的检验rHrCHy:00检验检验这是单个这是单个k维正态总体均值向量的检验问维正态总体均值向量的检验问题题.利用利用3.2当当y=CC未知时均值向未知时均值向量的检验给出的结论量的检验给出的结论,取检验统计量取检验统计量:),()1(02knkFTknknFH下).()()1().()()1(其中112rXCCCArXCnnrYArYnnTy.)()()(1)(XXXXAinii48第三章第三章 多元正态总体参数的检验多元正态总体参数的检验 3-7 设总体设总体XNp(，)(0),X()(1,n)(np)为来自为来自p维正态总体维正态总体X的样本，样本均值为的样本，样本均值为X，样本离差阵为，样本离差阵为A.记记(1 1,p p).为检验为检验H0 0:1 1=2 2=p p ,H1 1:1 1,2 2,p p至少有一对不至少有一对不相等相等.令令,100101010011)1(ppC则上面的假设等价于则上面的假设等价于H0 0：C=0p-1,H1 1：C 0p-1试求检验试求检验H0 的似然比统计量和分布的似然比统计量和分布.解：解：ppHH,:,:211210至少有一对不相等至少有一对不相等.49第三章第三章 多元正态总体参数的检验多元正态总体参数的检验利用利用3-6的结果知，检验的结果知，检验H0的似然比统计量及分的似然比统计量及分布为：布为：,0:,0:10CHCH下0)1)(1()1(2HTpnpnF),1,1(pnpF其中其中).(1,1()()1(0212下HpnTXCCCAXCnnT(注意注意:3-6中的中的k在这里为在这里为p-1)50第三章第三章 多元正态总体参数的检验多元正态总体参数的检验 3-8 假定人体尺寸有这样的一般规律假定人体尺寸有这样的一般规律:身高身高(X1),胸围胸围(X2)和上半臂围和上半臂围(X3)的平均尺寸比例是的平均尺寸比例是6 4 1.假设假设X()(1,n)为来自总体为来自总体X=(X1,X2,X3)的随机样本的随机样本.并并设设XN3(,)，试利用表，试利用表3.5中男婴这一组数据检验三中男婴这一组数据检验三个尺寸个尺寸(变量变量)是否符合这一规律是否符合这一规律(写出假设写出假设H0,并导出检并导出检验统计量验统计量).解：解：检验三个尺寸检验三个尺寸(变量变量)是否符合这一规律的问题是否符合这一规律的问题可提成假设检验问题可提成假设检验问题.因为因为01:4:6:321C其中其中,41060132C.040614,1632313231且注意注意:51第三章第三章 多元正态总体参数的检验多元正态总体参数的检验,0:,0:10CHCH检验的假设检验的假设H0为为410032或,601032或CC 利用利用3-6的结论，取检验统计量为：的结论，取检验统计量为：)2,2()1(2202nFTnnFH 下.)()1(12XCCXAXCnnT由男婴测量数据由男婴测量数据(p=3,n=6)计算可得计算可得 T2=47.1434,F=18.8574,p值值=0.0091950未知未知.检验检验H0似然比统似然比统计量为计量为21)()()()(1)()()2,1()(nnniXXXXAiiiniii记记,1),2,1(1211)()(1)()()(ininiiiiiXnXiXnX记其中其中)()(iX56第三章第三章 多元正态总体参数的检验多元正态总体参数的检验为且最大值,达最大,分子当nBAnTX222|)2()nnpnpTennTXL，（其中其中 A=A1+A2称为组内离差阵称为组内离差阵.B称为组间离差阵称为组间离差阵.)()()()(211)()(XXXXTijinjijkBAXXXXnAiiiiii21)()(21)(57第三章第三章 多元正态总体参数的检验多元正态总体参数的检验222)2()1(|)2(),nnpnpAennAXXL，（为母且最大值,达最大,当分)2()2()1()1(nAXX2/2/2/2/|nnnnBAATA)()()2()1()2()1(2121)()(XXXXnnnAXXXXnABATiiii因为因为似然比统计量似然比统计量58第三章第三章 多元正态总体参数的检验多元正态总体参数的检验)()(1|1)()(|)(|)2()1(1)2()1(21)2()1(21)2()1(21)2()1()2()1(21XXAXXnnnAXXnnnXXnnnAXXXXnnnAT)()(11|)2()1(1)2()1(21XXAXXnnnTA所以所以59第三章第三章 多元正态总体参数的检验多元正态总体参数的检验),0()(0)2()1(21pHNXXnnn下)(),2(2121nnnnWAAAp由定义由定义3.1.5可知可知)2,()()()2(2)2()1(1)2()1(212npTXXAXXnnnnT,2111|2TnTA由由1212Tn或或由于由于60第三章第三章 多元正态总体参数的检验多元正态总体参数的检验可取检验统计量为可取检验统计量为)1,(1121)2(02pnpFppnnTppnFH 下检验假设检验假设H0的否定域为的否定域为22FFTT61第三章第三章 多元正态总体参数的检验多元正态总体参数的检验3-11 表表3.5给出给出15名名2周岁婴儿的身高周岁婴儿的身高(X1)，胸围，胸围(X2)和和上半臂围上半臂围(X3)的测量数据的测量数据.假设男婴的测量数据假设男婴的测量数据X()(1,6)为来自总体为来自总体N3(1)，)的随机样本的随机样本.女婴的测女婴的测量数据量数据Y()(1,9)为来自总体为来自总体N3(2)，)的随机样的随机样本本.试利用表试利用表3.5中的数据检验中的数据检验H0:(1)=(2)(=0.05).解解:这是两总体均值向量的检验问题这是两总体均值向量的检验问题.检验统检验统计量取为计量取为(p=3,n=6,m=9):)1,()2(102pmnpFTpmnpmnFH 下62第三章第三章 多元正态总体参数的检验多元正态总体参数的检验其中其中)()()()2(1212YXAAYXmnnmmnT)()()(1121YXAAYXmnnmppmnF故检验统计量为故检验统计量为用观测数据代入计算可得用观测数据代入计算可得:05.02693.0,4982.1,3117.52pFT故故H0相容相容.显著性概率值显著性概率值63 第三章第三章 多元正态总体参数的检验多元正态总体参数的检验 3-12 3-12 在地质勘探中，在在地质勘探中，在A A、B B、C C三个地区采集了一些岩石，三个地区采集了一些岩石，测其部分化学成分见表测其部分化学成分见表3.6.3.6.假定这三个地区岩石的成分遵从假定这三个地区岩石的成分遵从N N3 3(i i)，i i)()(i1 1，2 2，3)(=0.05).3)(=0.05).(1)(1)检验检验H0H0：1 12 23 3；H1H1：1 1,2 2,3 3不全等不全等;(2)(2)检验检验H0H0：(1)(1)(2)(2),H1,H1：(1)(1)(2)(2);(3)(3)检验检验H0:H0:(1)(1)(2)(2)(3)(3),H1:,H1:存在存在ij,ij,使使(i)(i)(j)(j);(4)(4)检验三种化学成分相互独立检验三种化学成分相互独立.解解:(4):(4)设来自三个总体的样本为设来自三个总体的样本为(p=3,=3,k=3)=3),1;,1(),()()()(ttptiniktNX.,:H,0:检验H23131212313120不全相等检验检验H0的似然比统计量为的似然比统计量为),(max),(max)(,)(,)()(iiiiLLiiii64第三章第三章 多元正态总体参数的检验多元正态总体参数的检验似然比统计量的分子为似然比统计量的分子为),diag(000000332211D记)(tr21exp)2();(max),(122)()(ADDDLDXLnnptt65第三章第三章 多元正态总体参数的检验多元正态总体参数的检验),(diag1000000332211AnnananaD其中ktnittittiktttXXXXAA11)()()()()()(1)(称为合并组内离差阵称为合并组内离差阵.,000000,113312211111aaanDanDpiiip66第三章第三章 多元正态总体参数的检验多元正态总体参数的检验2122122122)(e22exp1)2()(tr21exp)2(),(npiiinpnpiiinpnpnnptannpanADDDXLnpaanADiipiii111)(tr67第三章第三章 多元正态总体参数的检验多元正态总体参数的检验似然比统计量的分母为似然比统计量的分母为)1(tr21exp1)2();(max)1,(122)()(AAnAnLAnXLnnptt22222e22exp1)2(nnpnnpnpAnnpAn68第三章第三章 多元正态总体参数的检验多元正态总体参数的检验检验检验H0的似然比统计量可化为的似然比统计量可化为:2212/2/12/2/2/12/)(,)(,e2e2),(max),(max)()(nnpiiinnpiiinnpnpiiinpiiiiVaAAaAnanLLiiii69第三章第三章 多元正态总体参数的检验多元正态总体参数的检验 Box证明了，在证明了，在H0成立下当成立下当n时，时，=-blnV2(f)，其中其中1667.10661)33(333231323b321432131if V=0.7253,=-blnV=3.2650,因因 p=0.35250.05.故故H0相容，即随机向量的三个分量相容，即随机向量的三个分量(三种三种化学成分化学成分)相互独立相互独立.70第三章第三章 多元正态总体参数的检验多元正态总体参数的检验 或者利用定理或者利用定理3.2.1,当当n充分大时，充分大时，=-2ln2(f)，其中其中 f=p+p(p+1)/2-(p+p)=3,V=0.7253,=0.1240,=-2ln=-nlnV=4.1750,因因 p=0.24320.05.故故H0相容，即随机向量的三个分量相容，即随机向量的三个分量(三种三种化学成分化学成分)相互独立相互独立.71第三章第三章 多元正态总体参数的检验多元正态总体参数的检验3-13 对表对表3.3给出的三组观测数据分别检验是给出的三组观测数据分别检验是否来自否来自4维正态分布维正态分布.(1)对每个分量检验是否一维正态对每个分量检验是否一维正态?(2)利用利用2图检验法对三组观测数据分别检验图检验法对三组观测数据分别检验是否来自是否来自4维正态分布维正态分布.应用多元统计分析应用多元统计分析第四章部分习题解答第四章部分习题解答73 第四章第四章 回归分析回归分析4-1 设设(1)试求参数试求参数a,b的最小二乘估计；的最小二乘估计；),0(,2,2,323321332211INbaybayay解解:用矩阵表示以上模型用矩阵表示以上模型:XbayyyYdef32132121120132111210121211201210121)(yyyYXXXba则则74 第四章第四章 回归分析回归分析)2(51)2(6122500632321323211yyyyyyyyyy(2)试导出检验试导出检验H0：a=b的似然比统计量，并指出当假的似然比统计量，并指出当假设成立时，这个统计量的分布是什么设成立时，这个统计量的分布是什么?解解:样本的似然函数为样本的似然函数为)2()2()(21exp21),(2322212322baybayaybaL)2()2()(21exp21),(2322212322baybayaybaL75 第四章第四章 回归分析回归分析0)()(2123ln212222ayL2322212)2()2()(31baybayay令令可得可得似然比统计量的分母为似然比统计量的分母为.23exp)()2(),(232232baL)3()()(21exp21),(20320220123220ayayayaL当当H0：a=b=a0成立时成立时,样本的似然函数为样本的似然函数为76 第四章第四章 回归分析回归分析0)3(3)()(22),(),(030201220020ayayayaLaaL0)()(2123),(ln201222220ayaL令令可得可得)3(1113210yyya令令可得可得20drf2032022012)3()()(31ayayay似然比统计量的分子为似然比统计量的分子为.23exp)()2(),(232023200aL77 第四章第四章 回归分析回归分析232320223223202200)()(),(),(VbaLaL似然比统计量为似然比统计量为以下来讨论与以下来讨论与V等价的统计量分布等价的统计量分布:2332222112322212)()()(31)2()2()(31yyyyyybaybayayYXXXXIYXYXY)(31)()(3113123)(tr)(rank且,31AAAYY78 第四章第四章 回归分析回归分析因因为对称幂等阵,),(323AIXNY)1(0)(1因),1(22222AYYAXXAYY当当H0：a=b=a0成立时成立时,回归模型回归模型为为),(且,31132030def3210321IZaNYZaayyyY20320220120)3()()(31ayayay79 第四章第四章 回归分析回归分析BYYYZZZZIYaZYaZY31)(31)()(311300考虑考虑YABY)(31220ZZZZXXXXAB11)()(491122563580253301经验证经验证:B-A是对称幂等阵是对称幂等阵;rank(B-A)=tr(B-A)=2-1=1;80 第四章第四章 回归分析回归分析 A(B-A)=O33 .由第三章由第三章3.1的结论的结论6知知)1()()(30)()(1因),1()(22222000222YABYZaABZaYABY相互独立.与也就是相互独立;)(与2220YABYAYY由第三章由第三章3.1的结论的结论4知知(H0：a=b成立时成立时)81 第四章第四章 回归分析回归分析)1,1()(2202FYABYAYY所以所以,1或1故,因20223VVVVV否定域为否定域为fVV82 第四章第四章 回归分析回归分析4-2 在多元线性回归模型在多元线性回归模型(4.1.3)中中(p=1)，试求出参数，试求出参数向量向量和和2的最大似然估计的最大似然估计.解解:模型模型(4.1.3)为为,),0(2nnINCY样本的似然函数为样本的似然函数为)()(21exp)()2(),(22222CYCYLnn)2(21)ln()2ln()()(21)ln()2ln(),(ln222222222CCCYYYCYCYLnnnn83 第四章第四章 回归分析回归分析0)()()(212ln02)(221ln22222CYCYnLCCCYL令令可得参数向量可得参数向量和和2的最大似然估计为的最大似然估计为:.)()(1)(21CYCYnYCCC84 第四章第四章 回归分析回归分析4-6 称观测向量称观测向量Y和估计向量和估计向量Y的相关系数的相关系数R为为全相关系数全相关系数.即即试证明：试证明：),1其中()()()(111221niininiiiniiiynyyyyyyyyyR.)()1(残差平方和3;)()()2(;(1)21221212yyRQyyyyRyyniiniinii）（）（85 第四章第四章 回归分析回归分析.11)1(1111111yYnYHnHYnYnynynnnnnii证明证明:(1)估计向量为估计向量为HYYCCCCCY1)()11这里有,张成的空间1(因nnnHC(2)因因niniiiiiniiiiiniiiyyyyyyyyyyyyyyyy11211)()()()(86 第四章第四章 回归分析回归分析00)(1)()1()()1()()(1CYCCYYYyCCCYyCCYyYYYyyyynnnniiii上式第一项为上式第一项为:,)()()()()()(11222121122212niniiiniininiiiniiiyyyyyyyyyyyyyyR87 第四章第四章 回归分析回归分析.)()(12122yyniiniilUyyyyR所以所以(3)残差平方和残差平方和Q为为.)()1()1()(12222niiyyyyyyyyyyRlRRllUlQ88 第四章第四章 回归分析回归分析 4-74-7 在多对多的多元线性回归模型中，给定在多对多的多元线性回归模型中，给定Ynp,Xnm,且且rank(rank(X)=)=m,C=(1,C=(1n|X).).则则 )()()()()()()(CCCYCYCYCYQ其中其中(CC)-1CY.)()()()()()()()()(CCCYCYCCCYCCCYCYCYQ证明证明:,)(OCYC因故交叉项故交叉项=O.89 第四章第四章 回归分析回归分析 4-84-8 在多对多的回归模型中，令在多对多的回归模型中，令 Q()=(Y-C)(Y-C).试证明试证明(CC)-1CY是在下列四种意义下达最小：是在下列四种意义下达最小：(1)tr(1)trQ()tr)trQ()；(2)(2)Q()Q()；(3)|(3)|Q()|)|Q()|)|；(4)(4)chch1 1(Q()chch1 1(Q()，其中，其中chch1 1(A)表示表示A的最大特征值的最大特征值.以上以上是是(m+1)+1)p的任意矩阵的任意矩阵.90第四章第四章 回归分析回归分析91第四章第四章 回归分析回归分析.0)()(0)(1CCCCC等号成立等号成立92第四章第四章 回归分析回归分析93第四章第四章 回归分析回归分析94第四章第四章 回归分析回归分析见附录见附录P394定理定理7.2(7.5)式式应用多元统计分析应用多元统计分析第五章部分习题解答第五章部分习题解答96第五章第五章 判别分析判别分析5-1 已知总体已知总体Gi(m=1)的分布为的分布为:(i=1,2),按按距离判别准则为距离判别准则为(不妨设不妨设(1)(1)(2)(2),12),(2)(iiN,若,若,*2*1xxGxxGx或其中其中 试求错判概率试求错判概率P(2|1)和和P(1|2).解解:.21)1(2)2(1*1)1(*1)1(1)1(*1)1(21)1(*21)1(*),(|),(|)1|2(XPXPNXXPNXXPP97第五章第五章 判别分析判别分析,21)1()2(1)1(21)1(2)2(11)1(*b记记,12)1()2(1)1(12)2(1)1(21)1(*a)()()1,0()1|2(abNUaUPbUPP98第五章第五章 判别分析判别分析)()(.),(|)2|1(21)2()1(12)2()1(2)2(*2)2(2)2(*2)2(22)2(*abbUPaUPXPXPNXXPP99第五章第五章 判别分析判别分析5-2 设三个总体的分布分别为设三个总体的分布分别为:G1为为N(2,0.52),G2为为N(0,22),G3为为N(3,12).试问样品试问样品x=2.5应判归哪一类应判归哪一类?(1)按距离准则；按距离准则；(2)按按Bayes准则准则jijiijLqqq,0,1)|(,31321 解解:(1)按距离准则按距离准则,当样品当样品x=2.5时时,25.01)35.2()(,5625.12)05.2()(,15.0)25.2()(222322222221xdxdxd因因0.2510.11740.0304,所以样品所以样品x=2.5判归判归G1.102第五章第五章 判别分析判别分析 解三解三:后验概率判别法后验概率判别法,计算样品计算样品x已知已知,属属Gt的后验概率的后验概率:)3,2,1()()()|(31txfqxfqxtPiiitt当样品当样品x=2.5时时,经计算可得经计算可得,5218.03091.01613.01174.00304.01613.01613.0)5.2|1(xP,0984.03091.00304.0)5.2|2(xP,3798.03091.01174.0)5.2|3(xP因因0.52180.37980.0984,所以样品所以样品x=2.5判归判归G1.103 第五章第五章 判别分析判别分析.)|(E)2(;)|(E)1(),(),(21.),2,1(3521)2()1(1)2()1()(GXaGXaaaaiGii试证明其中记同协差阵的均值为设总体.)|(E,)|(E,.0)()(21)|(E:)0(,0)()(21)(21)(21)|(E:21)2()1(1)2()1(2)2()1(1)2()1()2()1()2()1()1(1 GXaGXaGXaaaaaaGXa即类似可证因解104 第五章第五章 判别分析判别分析由此题的结论可得出判别法由此题的结论可得出判别法:.,21GXXaGXXa判判).(21,)()()()(,0)(,0)()2()1(*)2()1(1*21XXaXWGXXWGXXW其中判判105 第五章第五章 判别分析判别分析5-4 设有两个正态总体设有两个正态总体G1和和G2,已知已知(m=2)准则按各应判归哪一类及试问样品而先验概率Fisher)1(?20152020.75)2|1(,10)1|2(,.57720,32121218,2520,1510)2()1(2121)2()1(XXLLqq)(21)()(3755385772032121218:)2()1()2()1()(21)(21iiiBA组内取解106第五章第五章 判别分析判别分析)(10010010010010,1025152010)()2()1()2()1(组间或取B类似于例类似于例5.3.1的解法的解法,A-1B的特征根就等于的特征根就等于7067.413816500138111010385537)10,10()()()2()1(1)2()1(2Ad).(:,1,33321381651)(12)2()1(1dAaBaaAaaAda满足且则取107第五章第五章 判别分析判别分析1241.0897651114133325772033,328976518759.0897657862433323212121833,32897651.2964.4,)()()3332(897651)(Fisher.7067.4)(22212121)2(1)1(2*2*121aaaauuuuXuGXuXuGXXXXaXuAaaBaaa其中阈值为当判当判判别准则为线性判别函数为判别效率108第五章第五章 判别分析判别分析.8050.3)(8050.32015)33,32(897651)(,2015.,3390.4)(3390.42020)33,32(897651)(,20208897.48976514652520)33,32(8976517202.2897658151510)33,32(8976511)2(*)2()2()1(2)1(*)1()1()1()2()1()2()2()1()1(GXuXuXuXGXuXuXuXuuauau判因时当判因时当109第五章第五章 判别分析判别分析)32121218(Bayes)2(21假设准则)()(21)()(21exp5.7)()(1075)()1|2()()2|1()()(.,),()1|2()(),()2|1()(,1.2.5:)1(1)1()2(1)2(121221112221XXXXXfXfXfLXfLXhXhXXfLqXhXfLqXh考虑属损失最小者判并比较大小只须计算由定理解110第五章第五章 判别分析判别分析.),()(15.70exp5.7)()(,2015.),()(19229.7554125exp5.7)()(,2020.310)(21610exp5.7)2015)()(exp5.72)2(21)2(2)2(1)2(2)1(21)1(2)1(1)1()2()1(1GXXhXhXhXhXGXXhXhXhXhXXX故判因时当故判因时当111第五章第五章 判别分析判别分析).()(,)()(:).(21)2,1(1(,.).,2,1;2,1(55)2()1(1)2()1(222)2()1(121211)()()()2()1()()(XXSXXDDSaadaXXSaAAnnStXnXXXdGnitXtnititttiti其中且最大值为马氏距离达最大值使比值试证明其中记的样本为来自已知112第五章第五章 判别分析判别分析;.)()()(.,)()()()(:21)2()1(1)2()1(21)2()1()2()1(11111def)2()1()2()1(2DXXSXXDSXXXXBSaBSSaaBaaSaaaXXXXaSaadadaSaadaa故有相同的特征值与又特征向量时等号成立对应的且仅当的最大特征值为其中解113第五章第五章 判别分析判别分析.)(,)(.)()()(:2)2()1(122)2()1(1)2()1(1)2()1()2()1(112达最大值比值时故当取对应的一个特征向量就是以下来验证DaXXSaaDDXXSXXSXXXXSBaSDa114 第五章第五章 判别分析判别分析).2|1()1|2(,0)(,0)(,),(21),()()(.,).2,1)(,(6521)2()1()2()1(1)2()1()(PPXWGXXWGXXXWiNpip和试求错判概率当判当判判别准则为线性判别函数已知设维正态总体设两个且时当线性函数的是记解),()(,)()(),(:21111)2()1(1NXWGXXaXXWa115 第五章第五章 判别分析判别分析).1,0()().21(1)21(/210)(|0)()1|2()()()()()()()(21)()(21)()(112111112)2()1(11)2()1(21)2()1(1)2()1(22)2()1(1)2()1()1(1NXWUddddUPXWPGXXWPPdaaaXDaXaDXWDddaXWE 其中其中116 第五章第五章 判别分析判别分析2222)2(222212,21)(),()(,ddaNXWGX且时当).1,0()().21(1/210)(|0)()2|1(22222222NXWUdddUPXWPGXXWPP其中应用多元统计分析应用多元统计分析第六章部分习题解答第六章部分习题解答118 第六章第六章 聚类分析聚类分析 6-1 证明下列结论证明下列结论:(1)(1)两个距离的和所组成的函数仍是距离两个距离的和所组成的函数仍是距离;(2)(2)一个正常数乘上一个距离所组成的函数一个正常数乘上一个距离所组成的函数仍是距离仍是距离;(3)(3)设设d为一个距离为一个距离,c0 0为常数为常数,则则仍是一个距离仍是一个距离;(4)(4)两个距离的乘积所组成的函数不一定是两个距离的乘积所组成的函数不一定是距离距离;cddd*.3.,)1(:)2()1()2()1(个条件满足作为距离所要求的以下来验证令为距离和设证明dddddd119第六章第六章 聚类分析聚类分析.,;,;0,0)2()2()1()1()2()1()2()1()2()1()()()2()1(jkidddddddddjidddddddXXdddkjikkjikkjikijijijjijijiijijijijjiijijij对一切对一切时且仅当(2)设设d是是距离距离,a 0为为正常数正常数.令令d*=ad,显然有显然有;,;0,0*)()(*jidcdcdddXXcddjijiijijijjiijij对一切时且仅当120第六章第六章 聚类分析聚类分析.,)(*jkiddcdcdddccddkjikkjikkjikijij对一切故故d*=ad是一个距离是一个距离.(3)设设d为一个距离为一个距离,c0 0为常数为常数,显然有显然有;,;0,0*)()(*jidcddcddddXXcdddjijijiijijijijjiijijij对一切时且仅当121第六章第六章 聚类分析聚类分析.,)0,0()/(11/11*jkiddddcddcddcdddcdddcddddddcdccdddkjikkjikkjkjikikkjikkjkjikikkjikkjikkjikijijijij对一切因故故d*是一个距离是一个距离.122第六章第六章 聚类分析聚类分析.,2.,)4(*)2()1(*)2()1(不一定是距离下面用反例来说明式但不一定满足三角不等个条件虽满足前令是距离和设ddddddd.41,41,1,5.0,1,0.),1(*)()()(2)()(*)()()2()1(kjikijkjikijkjijiijjiijijddddddXXXXXdmXXdd显然不满足时当则设123第六章第六章 聚类分析聚类分析6-2 试证明二值变量的相关系数为试证明二值变量的相关系数为(6.2.2)式，夹角余式，夹角余弦为弦为(6.2.3)式式.证明：证明：设变量设变量Xi和和Xj是二值变量，它们的是二值变量，它们的n次观测值记次观测值记为为xti,xtj(t=1,n).xti,xtj 的值或为的值或为0，或为，或为1.由二值变由二值变量的列联表（表量的列联表（