统计学第七章方差分析

,单击此处编辑母版标题样式,*,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,第七章 方差分析,一、方差分析的基本问题,二、单因素方差分析,三、双因素方差分析,方差分析,（,Analysis of Variance,ANOVA),是假设检验的一种延续与扩展，它可以解决诸如多个均值是否相等等方面的检验问题，在因素分析中具有一定的优势。,例,4,：,一个儿童食品制造商生产儿童麦片，该制造商认为以下三种因素影响麦片味道：,（,1,）麦片中小麦与玉米的比例；,（,2,）甜味剂类型的选择：糖、蜂蜜等；,（,3,）制作时间的长短。,该例中,，食品制造商通过生产出不同类型的麦片并邀请儿童进行,品尝试验,，,最后发现,：,（,1,）,麦片成份及甜味剂类型对麦片食味有很大影响；,（,2,）,制作时间对麦片食味没有影响。,一、方差分析的基本问题,因此，,食品制造商可以对麦片成份及甜味剂类型给予充分的关注以生产更合儿童口味的麦片，而对制作时间不必太介意,。,方差分析,可以用来分析,不同因素,（如上例中小麦与玉米的比例、甜味剂类型、制作时间）,对总体特征是否有显著影响,。,所以叫方差分析，因为虽然我们感兴趣的是均值，但在判断均值之间是否有差异时则需要借助于方差,这个名字也表示：它是通过对数据误差来源的分析判断不同总体的均值是否相等。因此，进行方差分析时，需要考察数据误差的来源,方差分析主要用来对,多个总体均值是否相等,作出假设检验,。,例：,某饮料制造商生产一种新型饮料，共有四种颜色：,(1),橘黄、,(2),粉红、,(3),绿色、,(4),无色。,该制造商想知道颜色是否对销售量有显著影响,，随机抽取了,5,家超市前一期的销售量（下表）进行分析。,一、方差分析的内容,下表,四种饮料销售量情况,样本均值,27.32 29.56 26.44 31.46,样本方差,2.67 2.14 3.31 1.66,样本标准差,1.64 1.46 1.82 1.29,四种颜色可以看作是四个总体,其中，,i,(I=1,2,3,4),表示所有饮料（无色、粉红、橘黄、绿色）销售量之均值。,样本来自于一,个相同的总体,样本来自于不同的总体,要知道颜色是否对饮料销售有显著影响，就是要知道四种颜色饮料销售量的均值是否有显著差异，即进行下述假设检验：,H,0,:,1,=,2,=,3,=,4,H,1,:,四个总体均值不全相等,1,、相关术语,因素,：,是一个独立的变量，是方差分析的研究对象,（上例中的饮料,颜色,）；,二、方差分析的假设,单因素方差分析,：,只针对一个因素进行分析；,多因素方差分析,：,同时针对多个因素进行分析。,水平,：,因素中的内容,（上例中饮料的四种颜色：无色、粉色、橘黄色、绿色）,2、进行方差分析必须满足如,下,假设,（,1）,每个总体的相应变量（因素）服从正态分布,对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本,比如，每种颜色饮料的销售量必需服从正态分布,（,2）,所有总体相应变量（因素）的方差相等,2,对于各组观察数据，是从具有相同方差的总体中抽取的,比如，四种颜色饮料的销售量的方差都相同,（,3）,不同观察值（水平）相互独立（每个样本点的取值不影响其他样本点的取值）,比如，每个超市的销售量都与其他超市的销售量独立,在上述假定条件下，判断颜色对销售量是否有显著影响，实际上也就是检验具有同方差的四个正态总体的均值是否相等的问题,如果四个总体的均值相等，可以期望四个样本的均值也会很接近,四个样本的均值越接近，我们推断四个总体均值相等的证据也就越充分,样本均值越不同，我们推断总体均值不同的证据就越充分,如果原假设成立，即,H,0,:,m,1,=,m,2,=,m,3,=,m,4,四种颜色饮料销售的均值都相等,没有系统误差,这意味着每个样本都来自均值为,、差为,2,的同一正态总体,X,f(X),1,2,3,4,如果备择假设成立，即,H,1,:,m,i,(,i,=1，2，3,，4),不全相等,至少有一个总体的均值是不同的,有,系统误差,这意味着四个样本分别来自均值不同的四个正态总体,X,f(X),3,1,2,4,观察值之间的差异来自两个方面：,某因素不同水平的影响,（系统性影响）,其他随机因素的影响,（随机性影响）,水平间方差,（组间方差）,水平内方差,（组内方差）,三、方差分析的原理,如果原假设成立：,说明某因素不同水平的影响不显著（无系统性影响），只剩下随机性影响，因此组间方差与组内方差差别不大，它们的比接近于,1,。,如果原假设不成立：,说明某因素不同水平的影响显著（存在系统性影响），组间方差与组内方差差别较大，它们的比远超出,1。,二、单因素方差分析的步骤,提出假设,构造检验统计量,统计决策,提出假设,一般提法,H,0,:,m,1,=,m,2,=,=,m,k,(,因素有,k,个水平）,H,1,:,m,1,，,m,2,，,，,m,k,不,全相等,对前面的例子,H,0,:,m,1,=,m,2,=,m,3,=,m,4,颜色对销售量没有影响,H,0,:,m,1,，,m,2,，,m,3,，,m,4,不,全相等,颜色对销售量有影响,构造检验的统计量,为检验,H,0,是否成立，需确定检验的统计量,构造统计量需要计算,水平的均值,全部观察值的总均值,离差平方和,均方(,MS,),构造检验的统计量,(计算水平的均值),假定从第,i,个总体中抽取一个容量为,n,i,的简单随机样本，第,i,个总体的样本均值为该样本的全部观察值总和除以观察值的个数,计算公式为,式中：,n,i,为第,i,个总体的样本观察值个数,x,ij,为,第,i,个总体的第,j,个观察值,构造检验的统计量,(计算全部观察值的总均值),全部观察值的总和除以观察值的总个数,计算公式为,构造检验的统计量,(前例计算结果),表8-2 四种颜色饮料的销售量及均值,超市,(,j,),水平,A,(,i,),无色(,A,1,),粉色(,A,2,),橘黄色(,A,3,),绿色(,A,4,),1,2,3,4,5,26.5,28.7,25.1,29.1,27.2,31.2,28.3,30.8,27.9,29.6,27.9,25.1,28.5,24.2,26.5,30.8,29.6,32.4,31.7,32.8,合计,136.6,147.8,132.2,157.3,573.9,水平均值,观察值个数,x,1,=,27.32,n,1,=5,x,2,=,29.56,n,2,=5,x,3,=,26.44,n,3,=5,x,4,=,31.46,n,4,=5,总均值,x,=28.695,构造检验的统计量,(计算总离差平方和,SST,),全部观察值 与总平均值 的离差平方和,反映全部观察值的离散状况,其计算公式为,前例的计算结果：,SST,=(26.5-28.695),2,+(28.7-28.695),2,+,+,(32.8-28.695),2,=115.9295,构造检验的统计量,(计算误差项平方和,SSE,),每个水平或组的各样本数据与其组平均值的离差平方和,反映每个样本各观察值的离散状况，又称,组内离差平方和,该平方和反映的是随机误差的大小,计算公式为,前例的计算结果：,SSE,=39.084,构造检验的统计量,(计算水平项平方和,SSA,),各组平均值 与总平均值 的离差平方和,反映各总体的样本均值之间的差异程度，又称,组间平方和,该平方和既包括随机误差，也包括系统误差,计算公式为,前例的计算结果：,SSA,=76.8455,构造检验的统计量,(三个平方和的关系),总离差平方和(,SST,)、,误差项离差平方和(,SSE,)、,水平项离差平方和,(,SSA,),之间的关系,SST,=,SSE,+,SSA,构造检验的统计量,(三个平方和的作用),SST,反映了全部数据总的误差程度；,SSE,反映了随机误差的大小；,SSA,反映了随机误差和系统误差的大小,如果原假设成立，即,H,1,H,2,H,k,为真，则表明没有系统误差，组间平方和,SSA,除以自由度后的,均方,与组内平方和,SSE,和除以自由度后的,均方,差异就不会太大；如果,组间均方,显著地大于,组内均方,，说明各水平(总体)之间的差异不仅有随机误差，还有系统误差,判断因素的水平是否对其观察值有影响，实际上就是比较,组间方差,与,组内方差,之间差异的大小,为检验这种差异，需要构造一个用于检验的统计量,构造检验的统计量,(计算均方,MS,),各离差平方和的大小与观察值的多少有关，为了消除观察值多少对离差平方和大小的影响，需要将其平均，这就是均方，也称为均方差,计算方法是用离差平方和除以相应的自由度,三个平方和的自由度分别是,SST,的自由度为,n,-1,，,其中,n,为全部观察值的个数,SSA,的自由度为,k,-1,，,其中,k,为因素水平(总体)的个数,SSE,的自由度为,n,-,k,构造检验的统计量,(计算均方,MS,),SSA,的均方也称,组间方差,，记为,MSA,，,计算公式为,SSE,的均方也称,组内方差,，,记为,MSE,，,计算公式为,构造检验的统计量,(计算检验的统计量,F,),将,MSA,和,MSE,进行对比，即得到所需要的检验统计量,F,当,H,0,为真时，二者的比值服从分子自由度为,k,-1、,分母自由度为,n,-,k,的,F,分布，即,构造检验的统计量,(,F,分布与拒绝域),如果均值相等，,F,=,MSA,/,MSE,1,a,F,分布,F,(,k,-1,n,-,k,),0,拒绝,H,0,不能拒绝,H,0,F,对原假设：,H,0,:,1,=,2,=,3,=,4,及备择假设：,H,1,:,四个总体均值不全相等,计算,F,值：,F=MSA/MSE,=25.6152/2.4428=10.486,给出显著性水平：,=0.05,，,查,F(,r-,1,n-r,),分布表临界值：,3.24,由于计算的,F=10.4863.24,，,拒绝原假设，从而得出：,颜色对该公司饮料销售有显著影响。,三、双因素方差分析,分析两个因素(因素,A,和因素,B,),对试验结果的影响,分别对两个因素进行检验，分析是一个因素在起作用，还是两个因素都起作用，还是两个因素都不起作用,如果,A,和,B,对试验结果的影响是相互独立的，分别判断因素,A,和因素,B,对试验指标的影响，这时的双因素方差分析称为,无交互作用的双因素方差分析,如果除了,A,和,B,对试验结果的单独影响外，因素,A,和因素,B,的搭配还会对销售量产生一种新的影响，这时的双因素方差分析称为,有交互作用的双因素方差分析,对于无交互作用的双因素方差分析，其结果与对每个因素分别进行单因素方差分析的结果相同,双因素方差分析中需假设两个因素不交互作用，即各自独立地发挥影响作用,。,（一）数据结构,双因素方差分析,双因素方差分析的数据结构,是因素,A,的第,i,个水平下各观察值的平均值,是因素,B,的第,j,个水平下的各观察值的均值,是全部,kr,个样本数据的总平均值,双,因素方差分析的步骤,提出假设,对因素,A,提出的假设为,H,0,:,m,1,=,m,2,=,=,m,i,=,=,m,k,(,m,i,为第,i,个水平的均值),H,1,:,m,i,(,i,=1,2,k,),不全相等,对因素,B,提出的假设为,H,0,:,m,1,=,m,2,=,=,m,j,=,=,m,r,(,m,j,为第,j,个水平的均值),H,1,:,m,j,(,j,=1,2,r,),不全相等,构造检验的统计量,为检验,H,0,是否成立，需确定检验的统计量,构造统计量需要计算,总离差平方和,水平项平方和,误差项平方和,均方,构造检验的统计量,(计算总离差平方和,SST,),全部观察值 与总平均值 的离差平方和,反映全部观察值的离散状况,计算公式为,构造检验的统计量,(计算,SSA,、,SSB,和,SSE,),因素,A,的离差平方和,SSA,因素,B,的离差平方和,SSB,误差项平方和,SSE,构造检验的统计量,(各平方和的关系),总离