协方差分析PPT演示文稿

1Analysis of Covariance 2 方差分析中，所接触到的各种处理多数都方差分析中，所接触到的各种处理多数都是人为控制的。有时一些变量很难或者不可能是人为控制的。有时一些变量很难或者不可能人为控制，对于这种情况则不能用第三章所述人为控制，对于这种情况则不能用第三章所述的方差分析方法，推断处理之间的差异而应用的方差分析方法，推断处理之间的差异而应用协方差分析的方法做推断。协方差分析的方法做推断。例如，在研究不同饲养条件下，动物的增例如，在研究不同饲养条件下，动物的增重情况时，由于动物的原体重不同，如果只考重情况时，由于动物的原体重不同，如果只考虑饲料对增重的作用而不考虑原体重时增重的虑饲料对增重的作用而不考虑原体重时增重的影响，显然是不全面的。动物的增重不仅与饲影响，显然是不全面的。动物的增重不仅与饲料有关，而且还与原体重有关。一般来讲，原料有关，而且还与原体重有关。一般来讲，原体重高的增童较多，原体重低的增重较少，增体重高的增童较多，原体重低的增重较少，增重与原体重之间有回归关系，为了得到正确的重与原体重之间有回归关系，为了得到正确的结论，就要在排除原体重对增重的影响之后，结论，就要在排除原体重对增重的影响之后，推断处理的效应。这就是本章所要讨论的协方推断处理的效应。这就是本章所要讨论的协方差分析。差分析。3 在协方差分析中，通常将动物增重称为反应变在协方差分析中，通常将动物增重称为反应变量量(response variable)Y，而与而与Y 有线性回归关系有线性回归关系的另一变量的另一变量(原始体重原始体重)称为称为伴随变量伴随变量(concomitant variable)或或协变量协变量(covariate)X。协方差分析就是协方差分析就是通过反应变量与协变量之间的线性关系，调整观察通过反应变量与协变量之间的线性关系，调整观察的反应变量。假若不做这种调整，由于协变量的存的反应变量。假若不做这种调整，由于协变量的存在会使误差平方和加大，其结果有可能检验不出反在会使误差平方和加大，其结果有可能检验不出反应变量在不同处理之间所存在的真正差异。因此，应变量在不同处理之间所存在的真正差异。因此，协方差分析协方差分析是一种调整无法控制又影响效应的变量是一种调整无法控制又影响效应的变量的方差分析方法，是方差分析与回归分析的结合。的方差分析方法，是方差分析与回归分析的结合。在上述动物重实验中，很难将全部实验动物都选为在上述动物重实验中，很难将全部实验动物都选为具有相同体重的个体，动物的原体重是无法控制的具有相同体重的个体，动物的原体重是无法控制的变量，而原体重对增重又有明显的影响，使用协方变量，而原体重对增重又有明显的影响，使用协方差分析，便可排除原体重差分析，便可排除原体重X对增重对增重Y 的影响，使结果的影响，使结果更为可靠更为可靠。4第一节第一节 具一个协变量的一种方式分组的具一个协变量的一种方式分组的协方差分析（协方差分析（one-way classification with a single covariate）本节讨论协方差分析中最简单的一种情况，本节讨论协方差分析中最简单的一种情况，即以只有一个协变量的单因素实验设计的协方即以只有一个协变量的单因素实验设计的协方差分析为例，说明协方差分析的基本原理和计差分析为例，说明协方差分析的基本原理和计算方法。算方法。单因素协方差分析的统计模型单因素协方差分析的统计模型是：是：)14(,2,1,2,1)(njaixxyijijiij5 其中其中yij是第是第 i 次处理所得到的反应变量的第次处理所得到的反应变量的第 j 次次观察值。观察值。c cij是相当于是相当于yij的协变量值。的协变量值。c c是是c cij的平的平均数，均数，是总平均数，是总平均数，i是第是第i次处理效应，次处理效应，是是yij在在c cij上的线性回归系数，上的线性回归系数，ij是随机误差成份。是随机误差成份。做做协方差分析，需要满足以下几个条件协方差分析，需要满足以下几个条件：ij是是服从正态分布的独立随机变量；服从正态分布的独立随机变量；0，即即yij与与c cij之间存在线性关系；各处理的回归系数都相同；之间存在线性关系；各处理的回归系数都相同；处理效应之和等于零处理效应之和等于零（i0）以及协变量不以及协变量不受处理效应的影响等。受处理效应的影响等。6 从（从（41）式中可以看出：协方差分析的模）式中可以看出：协方差分析的模型是方差分析和回归分析线性模型的结合。型是方差分析和回归分析线性模型的结合。i是单因素方差分析中的处理效应，是单因素方差分析中的处理效应，是回归分析是回归分析中的回归系数。在（中的回归系数。在（41）式中的协变量是以）式中的协变量是以（c cijc c）的形式而不是以的形式而不是以 c cij 的形式表示的，的形式表示的，因此参量因此参量 是总的平均值。统计模型的另一种形是总的平均值。统计模型的另一种形式是：式是：)24(,2,1,2,1njaixyijijiij其中其中 并不等于总平均值。在这个模型中，总并不等于总平均值。在这个模型中，总平均值为平均值为 c c 。经常使用的模型是（经常使用的模型是（41）式。式。7 协方差分析需要计算以下一些量：协方差分析需要计算以下一些量：)34(1122112ainjijainjijYYanyyyyS)74()64()54()()44(11122212211211111122112ainjaiiiXXaiiainjiYYainjainjijijijijXYainjijainjijXXanxnxxxTanynyyyTanyxyxyyxxSanxxxxS8)114()104()94()84(11112112111ainjXYXYiijiijXYXXXXainjiijXXYYYYainjiijYYainjaiiiiiXYTSyyxxETSxxETSyyEanyxnyxyyxxT以上各式的符号：以上各式的符号：S、T 和和 E 分别表示总的、处理的分别表示总的、处理的误差的平方和及交叉乘积和。它们之间的关系可用通误差的平方和及交叉乘积和。它们之间的关系可用通式式STE表示。仔细阅读并分析以上各式，弄清楚表示。仔细阅读并分析以上各式，弄清楚各式的意义，对下面的学习是有益的。各式的意义，对下面的学习是有益的。9 协方差分析的核心协方差分析的核心，就是通过协变量调整反，就是通过协变量调整反应变量。下面讨论如何做这种调整。在统计模型应变量。下面讨论如何做这种调整。在统计模型（41）中，）中，的估计值为的估计值为c c，的估计值为的估计值为b*，处理效应处理效应 i 的估计值为的估计值为c cic cb*（c cic c）。）。其中，其中，)124(*XXXYEEb在这个模型中，误差平方和在这个模型中，误差平方和SSe为：为：)134(2*XXXYYYXYYYeEEEEbESS具具a(n1)1自由度。自由度。10实验误差均方由下式估计，实验误差均方由下式估计，1)1(naSSMSee若实验不存在处理效应，模型（若实验不存在处理效应，模型（41）将变为：）将变为：)154(2XXXYYYeSSSSS具具an2自由度，其中自由度，其中S2XYSXX是由于是由于Y和和X的的回归所产生的平方和。回归所产生的平方和。11 如果实验本身存在处理效应，但却按不存如果实验本身存在处理效应，但却按不存在处理效应对待，这时所计算出来的误差平方在处理效应对待，这时所计算出来的误差平方和和SSe要大于按存在处理效应计算所得到的误要大于按存在处理效应计算所得到的误差平方和差平方和SSe。两者的差（两者的差（SSeSSe）是由于处是由于处理效应理效应 i 所产生的平方回归系数，具所产生的平方回归系数，具a1自由自由度。可用度。可用F 检验不存在处理效应的假设。检验不存在处理效应的假设。)164(1)1(1naSSaSSSSFeee 若若FFa1,a(n1),，则接受则接受H0：i0；若若FF a1,a(n1),，则拒绝则拒绝H0：i0。12将以上结果列在表将以上结果列在表41中。中。表表 41 协方差分析调整的方差分析协方差分析调整的方差分析 变差来源变差来源 平方平方 和和自自 由由 度度均均 方方F 回归回归 处理处理 误差误差 S2XYSXXSSeSSe(SYYS2XYSXX)(EYYE2XYEXX)SSeEYYE2XYEXX 1a a(n1)1(SSeSSe)(a1)MSeSSea(n1)1(SSeSSe)(a-1)MSe 总和总和 SYYan113 表表41与方差分析表基本上是一致的。所与方差分析表基本上是一致的。所不同的是没一项平方和都是经过调整的。因此，不同的是没一项平方和都是经过调整的。因此，协方差分析又称为调整的方差分析协方差分析又称为调整的方差分析。在变差来。在变差来源一列中，总的变差是由具源一列中，总的变差是由具an1自由度的自由度的SYY度量的；回归的变差由具度量的；回归的变差由具1自由度的平方和自由度的平方和S2XYSXX度量。假若不存在协变量，则度量。假若不存在协变量，则SXYSXXEXYEXX0。误差平方和将简化为误差平方和将简化为EYY，处理处理平方和为平方和为SYYEYYTYY，成为一种方式分组的成为一种方式分组的方差分析。然而由于存在协变量，我们必须通方差分析。然而由于存在协变量，我们必须通过过Y在在X上的回归，调整上的回归，调整SYY和和EYY（见表见表41）。）。因为在调整平方和时，用了另一个参量因为在调整平方和时，用了另一个参量b，所以所以调整的误差平方和具调整的误差平方和具a(n1)1自由度，而不自由度，而不是是a(n1)自由度。自由度。14 通常将协方差分析结果纳成协方差分析表。通常将协方差分析结果纳成协方差分析表。表表42 具一个协变量的一种方式分组实验的协方差分析表具一个协变量的一种方式分组实验的协方差分析表 变差变差来源来源自由度自由度平方和与平方和与交叉乘积和交叉乘积和因因 回回 归归 所所 做做 的的 调调 整整XXYYY自由度自由度均均 方方处理处理误差误差总和总和a1a(n1)an1TXXEXXSXXTXYEXYSXYTYYEYYSYYSSeEYYE2XYEXXSSeSYYS2XYSXX a(n1)1an2 MSeSSea(n1)1 调整调整的处的处理响理响SSe SSe a1(SSe SSe)(a1)15 在协方差分析表中，除列入检验假设所需在协方差分析表中，除列入检验假设所需要的处理效应平方和之外，还列入了全部平方要的处理效应平方和之外，还列入了全部平方和及交叉乘积和。协方差分析的结果，不论零和及交叉乘积和。协方差分析的结果，不论零假设是否可以接受，都需对处理平方数假设是否可以接受，都需对处理平方数c ci 给予给予解释。由于解释。由于c ci 包括处理效应和在协变量上的回包括处理效应和在协变量上的回归效应，因此对平方数也要做相应的调整。调归效应，因此对平方数也要做相应的调整。调整的方法如下：整的方法如下：)174(,2,1),(*aixxbyyiii调整的16根据模型（根据模型（42），协方差分析需满足以下要求：），协方差分析需满足以下要求：)184(1:,2,1,)24(*2XXieyiXXXYExxnMSSaiEEbi调整的准误差为调整处理平均水平的标值的最小二乘估计中型调整的处理平均数是模其中即：各处理的方差应具备齐性，它们都是从具有即：各处理的方差应具备齐性，它们都是从具有同一方差的正态总体中的来的；个处理的回归系同一方差的正态总体中的来的；个处理的回归系数数 i均等于均等于 以及反应变量与协变量之间的回归以及反应变量与协变量之间的回归系数系数 0。因此，在对一组数据做协方差分析时，因此，在对一组数据做协方差分析时，首先要对以上各个条件做检验。只有以上条件得首先要对以上各个条件做检验。只有以上条件得到满足时，才能做协方差分析。到满足时，才能做协方差分析。17第二节第二节 协方差分析的计算方法协方差分析的计算方法 例例41 比较三种猪饲料比较三种猪饲料A1，A2，A3对猪增重的对猪增重的影响，测得每头猪的增重（影响，测得每头猪的增重（Y）和出生重（和出生重（X），），数据列在表数据列在表43中。问三种饲料对猪增重是否中。问三种饲料对猪增重是否有显著不同的效果？有显著不同的效果？表表43 不同饲料对猪增重的影响不同饲料对猪增重的影响 A1XY16851383 11 651276 12 80 16 91 14 84 17 90X113.750Y181.750A2XY17971690181001895211032210619 9918 94X218.625Y298.000A3XY2289249120 83239525100271023010532110X325.375Y396.87518 在这个问题中，若不考虑出生重，则是一在这个问题中，若不考虑出生重，则是一个单因素方差分析的问题；若不同饲料的增重个单因素方差分析的问题；若不同饲料的增重效果没有显著差异，则成为增重对出生重的一效果没有显著差异，则成为增重对出生重的一元回归问题。实际上，在研究动物增重问题时，元回归问题。实际上，在研究动物增重问题时，不同饲料和出生重对增重的影响都要考虑。因不同饲料和出生重对增重的影响都要考虑。因此，在推断不同饲料的增重效应时，为了排除此，在推断不同饲料的增重效应时，为了排除出生重的影响，应使用方差分析与回归分析相出生重的影响，应使用方差分析与回归分析相结合的方法，即以协方差分析的方法做推断。结合的方法，即以协方差分析的方法做推断。首先检验首先检验 ij：NID(0,s s2)，i 及及 0是否可是否可以得到满足。检验的方法如下：以得到满足。检验的方法如下：分别计算三种饲料饲养猪的出生重与增分别计算三种饲料饲养猪的出生重与增重间的回归系数重间的回归系数bi，并列出回归方程并列出回归方程 19332211118.2141.143232.2570.54508.333516XYXYXY 将三组数据合并（只需将三组数据的平方和将三组数据合并（只需将三组数据的平方和与交叉乘积合并即可），计算公共的回归系数与交叉乘积合并即可），计算公共的回归系数b*。400.2*b用公共的回归系数代替用公共的回归系数代替bi，可以得到三条平行的可以得到三条平行的回归线：回归线：332211400.2975.35400.2300.53400.2750.48XYXYXY 20 用每一处理的各自回归系数用每一处理的各自回归系数bi，计算剩余平方和：计算剩余平方和：471713324202998661321321GGGSSSSSS剩余平方和处理剩余平方和处理剩余平方和处理将三组剩余平方和相加，得到组内剩余平方和。将三组剩余平方和相加，得到组内剩余平方和。179457471713242099866GeSS相应的自由度为相应的自由度为a(n2)18。用公共回归系数用公共回归系数b*计算三条平行回归线的剩余平方计算三条平行回归线的剩余平方和，它们的和就是误差平方和和，它们的和就是误差平方和见公式见公式(49)(413)，相应的自由度为相应的自由度为a(n1)120。615.2272XXXYYYeEEESS21 检验方差齐性：中已计算出各处理的剩余平检验方差齐性：中已计算出各处理的剩余平方和，各具方和，各具8116自由度。各处理的均方自由度。各处理的均方分别为：分别为：862.76171.47403.56420.32644.166866.99321GeGeGeMSMSMS检验方差齐性的一个简便方法是用两个差异最大检验方差齐性的一个简便方法是用两个差异最大的均方做的均方做F 检验。检验。08.3403.5644.1621GeGeMSMSFF6,6,0.054.82，FF0.05，可以认为各组方差具备可以认为各组方差具备齐性。齐性。22 检验回归线是否平行检验回归线是否平行(i)：在中已经计算在中已经计算出组内剩余平方和出组内剩余平方和SSeG和用公共回归系数和用公共回归系数b*计算计算得到的误差平方和得到的误差平方和SSe。SSeG完全是由随机因素完全是由随机因素造成的：三条回归线用同一造成的：三条回归线用同一b*计算出的误差平计算出的误差平方和方和SSe，包括由于随机误差及回归系数两种变包括由于随机误差及回归系数两种变差所产生的平方和，因而回归系数平方和，差所产生的平方和，因而回归系数平方和，)194(GeeSSSSSS回归系数回归系数自由度为误差自由度与组内误差自由度回归系数自由度为误差自由度与组内误差自由度之差，之差，回归系数回归系数回归系数回归系数dfSSMSdfdfdfGee)204(23 然后用然后用MSeG对对MS回归系数回归系数最检验。若两者差最检验。若两者差异不显著，说明由回归系数所产生的方差与由异不显著，说明由回归系数所产生的方差与由于随机因素所引起的方差差别不大，即可证明于随机因素所引起的方差差别不大，即可证明原来的三条回归线是平行的。用原来的三条回归线是平行的。用 F 检验，检验，)214(GeMSMSF回归系数代入数值，代入数值，53.2469.9079.24079.242158.4821820158.4459.179615.227FMSdfSSSSSSGee回归系数回归系数回归系数F2,18,0.053.55，FF0.05，因此三条回归线是平行的。因此三条回归线是平行的。24 也可以将三条回归线做图。从图上观察它也可以将三条回归线做图。从图上观察它们是否近于平行。若接近平行的话，也可以不们是否近于平行。若接近平行的话，也可以不做以上的检验。做以上的检验。检验回归是否显著：利用方差分析做检验。方检验回归是否显著：利用方差分析做检验。方差分析表如下：差分析表如下：表表44 检验回归显著性的方差分析表检验回归显著性的方差分析表 变差变差 来源来源 平平 方方 和和 自自 由由 度度均均 方方F 回归回归 剩余剩余SSR=E2XY/EXX=1010.76SSe=EYYE2XY/EXX=227.615 1a(n1)1=20 MSR=SSR=1010.76MSe=SSe/a(n-1)-1=11.38 F=MSR/MSe=88.8 总和总和EYY=1238.375a(n-1)=21F1,20,0.01=8.1，FF0.01，回归是极显著的。这一步检验回归是极显著的。这一步检验的许多计算，是在协方差分析过程中得出来的。所以这的许多计算，是在协方差分析过程中得出来的。所以这一步检验也可放在协方差分析的最后进行。一步检验也可放在协方差分析的最后进行。25 在大多数生物学问题中，以上几点要求基在大多数生物学问题中，以上几点要求基本上都可以满足。在实际应用时，只要根据本上都可以满足。在实际应用时，只要根据bi所所做出的回归线是否平行。若近于平行，则可不做出的回归线是否平行。若近于平行，则可不必做繁琐的检验，直接进行以下的分析。必做繁琐的检验，直接进行以下的分析。将表将表43中的数据编码，每一个中的数据编码，每一个Y 都减去都减去90，每一个，每一个X 都减去都减去20，列成表，列成表45。26表表45 协方差分析计算表协方差分析计算表 X1X2X3Y1Y2Y3X1Y1X2Y2X3Y3 -5 -7 -9 -8 -8 -4 -6 -3 -3-4-2-2 1 2-1-2 2 4 0 3 5 7 10 12 -5-7-25-14-10 1-6 0 7 0 10 5 13 16 9 4 -1 1-7 5 10 12 15 20 25 49 225 112 80 -4 36 0 -210 -20 -10 13 32 -9 -8 -240 15 50 84 150 240 和和和和和和和和和的平方和的平方Xij平方的和平方的和-502500 344-11121 43 431849 347-184470 734 和和和的平方和的平方Yij平方的和平方的和 -6643561032 644096 696 553025 945 5311477 2673 和和523-235411041 27计算下列各值：计算下列各值：375.1238583.1317958.2555875.659)8)(3()53)(18(8)55)(43()64)(11()66)(50(250.545)8)(3()18(818491212500583.1317)8)(3(538302540964356750.1080)8)(3()53)(18(1041)(500.720)8)(3()18(734958.2555)8)(3(532673312231222312318122318122231812YYYYYYiiiXYiiXXiiYYijijijXYijijXXijijYYTSEanyxnyxTanxnxTanynyTanyxyxSanxxSanyyS28875.420875.659750.1080250.175250.545500.720XYXYXYXXXXXXTSETSE由公式（由公式（415）求出：）求出：833.934500.720750.1080958.255522XXXYYYeSSSSS具具an2(3)(8)222自由度。并由自由度。并由(413)式计式计算出算出615.227250.175875.420375.12382XXXYYYeEEESS具具a(n1)13(81)120自由度。自由度。29 将上述结果列成协方差分析表将上述结果列成协方差分析表(表表46)。表。表的最后一行，是为了检验假设的最后一行，是为了检验假设H0：i0所计算所计算的平方和，的平方和，218.707615.227833.934eeSSSS具具a1312自由度。自由度。表表46 协协 方方 差差 分分 析析 表表变差来源变差来源自由度自由度平平 方方 和和 与与 交交 叉叉 乘乘 积积 调调 整整 平方和平方和调调 整整自由度自由度均均 方方FXXYY 饲饲 料料 误误 差差 2 21545.250175.250 59.875 20.8751317.5831238.375227.615 2011.381 总总 和和23720.5001080.7502555.958934.83322调整饲料调整饲料707.2182353.609 31.07*30 检验不同饲料的增重效果，即检验检验不同饲料的增重效果，即检验H0：i0，根据根据(416)式：式：07.3120615.2272218.7071)1(1naSSaSSSSFeeeF2,22,0.015.72，FF0.01，结论是不同饲料的增结论是不同饲料的增重效果极显著。重效果极显著。31公共回归系数，公共回归系数，40.2250.175875.420*XXXYEEb回归系数的显著性检验，回归系数的显著性检验，H0：0，81.88381.11250.175875.42022eXXXYMSEEFF1,20,0.018.1，FF0.01，结论是回归极显著。结论是回归极显著。32 最后还应计算出调整平均数，以便判断哪最后还应计算出调整平均数，以便判断哪一种饲料最好。根据一种饲料最好。根据(417)式：式：3,2,1),(*ixxbyyiii调整的得到：得到：950.943375.25625.18750.13750.134.2750.8134.23111iixyy调整的33175.823375.25625.18750.13375.254.2875.9634.2500.993375.25625.18750.13625.184.2000.9834.23133331222iiiixxyyxxyy调整的调整的34 调整的平均数与未调整的平均数之间，存调整的平均数与未调整的平均数之间，存在极大的不同：调整前的顺序是在极大的不同：调整前的顺序是 y2 y3 y1，第一种饲料的增重效果最差。经过调整后的为第一种饲料的增重效果最差。经过调整后的为 y2 y1 y3 ，第三种饲料的增重效果最差。这，第三种饲料的增重效果最差。这样的结论是真实的。由此可以看出处理这类问样的结论是真实的。由此可以看出处理这类问题时，协方差分析是多么必要！题时，协方差分析是多么必要！