单因素方差分析与多重比较

Click to edit Master title,Click to edit Master text styles,Second Level,Third Level,Fourth Level,Fifth Level,3 -,55,统计分析软件应用,第3章 单因素方差分析与多重比较,南京农业大学农学院,李刚华,统计学,3.1 方差分析引论,方差分析及其有关术语,方差分析的基本思想和原理,方差分析的基本假定,问题的一般提法,什么是方差分析(ANOVA)?,(analysis of variance),检验多个总体均值是否相等,通过分析观察数据的误差判断各总体均值是否相等,研究分类型自变量对数值型因变量的影响,一个或多个分类尺度的自变量,2,个或多个,(,k,个,),处理水平或分类,一个间隔或比率尺度的因变量,有单因素方差分析和双因素方差分析,单因素方差分析：涉及一个分类的自变量,双因素方差分析：涉及两个分类的自变量,什么是方差分析?,(例题分析),消费者对四个行业的投诉次数,行业,观测值,零售业,旅游业,航空公司,家电制造业,1,2,3,4,5,6,7,57,66,49,40,34,53,44,68,39,29,45,56,51,31,49,21,34,40,44,51,65,77,58,【例】,为了对几个行业的服务质量进行评价，消费者协会在四个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共,23,家企业投诉的次数如下表,什么是方差分析?,(例题分析),分析四个行业之间的服务质量是否有显著差异，也就是要判断“行业”对“投诉次数”是否有显著影响,作出这种判断最终被归结为检验这四个行业被投诉次数的均值是否相等,如果它们的均值相等，就意味着“行业”对投诉次数是没有影响的，即它们之间的服务质量没有显著差异；如果均值不全相等，则意味着“行业”对投诉次数是有影响的，它们之间的服务质量有显著差异,方差分析中的有关术语,因素或因子,(factor),所要检验的对象,要分析行业对投诉次数是否有影响，行业是要检验的因素或因子,水平或处理,(,treatment),因子的不同表现,零售业、旅游业、航空公司、家电制造业就是因子的水平,观察值,在每个因素水平下得到的样本值,每个行业被投诉的次数就是观察值,方差分析中的有关术语,试验,这里只涉及一个因素，因此称为单因素四水平的试验,总体,因素的每一个水平可以看作是一个总体,比如零售业、旅游业、航空公司、家电制造业可以看作是四个总体,样本数据,被投诉次数可以看作是从这四个总体中抽取的样本数据,方差分析的基本思想和原理,(图形分析),零售业 旅游业 航空公司 家电制造,从散点图上可以看出,不同行业被投诉的次数是有明显差异的,即使是在同一个行业，不同企业被投诉的次数也明显不同,家电制造也被投诉的次数较高，航空公司被投诉的次数较低,行业与被投诉次数之间有一定的关系,如果行业与被投诉次数之间没有关系，那么它们被投诉的次数应该差不多相同，在散点图上所呈现的模式也就应该很接近,方差分析的基本思想和原理,(图形分析),仅从散点图上观察还不能提供充分的证据证明不同行业被投诉的次数之间有显著差异,这种差异也可能是由于抽样的随机性所造成的,需要有更准确的方法来检验这种差异是否显著，也就是进行方差分析,所以叫方差分析，因为虽然我们感兴趣的是均值，但在判断均值之间是否有差异时则需要借助于方差,这个名字也表示：它是通过对数据误差来源的分析判断不同总体的均值是否相等。因此，进行方差分析时，需要考察数据误差的来源。,方差分析的基本思想和原理,1.比较两类误差，以检验均值是否相等,2.比较的基础是方差比,3.如果系统(处理)误差显著地不同于随机误差，则均值就是不相等的；反之，均值就是相等的,4.误差是由各部分的误差占总误差的比例来测度的,方差分析的基本思想和原理,方差分析的基本思想和原理,(两类误差),随机误差,因素的同一水平,(,总体,),下，样本各观察值之间的差异,比如，同一行业下不同企业被投诉次数是不同的,这种差异可以看成是随机因素的影响，称为,随机误差,系统误差,因素的不同水平,(,不同总体,),下，各观察值之间的差异,比如，不同行业之间的被投诉次数之间的差异,这种差异,可能,是由于抽样的随机性所造成的，,也可能,是由于行业本身所造成的，后者所形成的误差是由系统性因素造成的，称为,系统误差,方差分析的基本思想和原理,(两类方差),数据的误差用平方和,(,sum of squares,),表示，称为方差,组内方差,(,within groups,),因素的同一水平,(,同一个总体,),下样本数据的方差,比如，零售业被投诉次数的方差,组内方差只包含,随机误差,组间方差,(,between groups,),因素的不同水平,(,不同总体,),下各样本之间的方差,比如，四个行业被投诉次数之间的方差,组间方差既包括,随机误差,，也包括,系统误差,方差分析的基本思想和原理,(方差的比较),若不同不同行业对投诉次数没有影响，则组间误差中只包含随机误差，没有系统误差。这时，组间误差与组内误差经过平均后的数值就应该很接近，它们的比值就会接近,1,若不同行业对投诉次数有影响，在组间误差中除了包含随机误差外，还会包含有系统误差，这时组间误差平均后的数值就会大于组内误差平均后的数值，它们之间的比值就会大于,1,当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异，也就是自变量对因变量有影响,判断行业对投诉次数是否有显著影响，实际上也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响,方差分析的基本假定,每个总体都应服从正态分布,对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本,比如，每个行业被投诉的次数必需服从正态分布,各个总体的方差必须相同,各组观察数据是从具有相同方差的总体中抽取的,比如，四个行业被投诉次数的方差都相等,观察值是独立的,比如，每个行业被投诉的次数与其他行业被投诉的次数独立,方差分析中的基本假定,在上述假定条件下，判断行业对投诉次数是否有显著影响，实际上也就是检验具有同方差的四个正态总体的均值是否相等,如果四个总体的均值相等，可以期望四个样本的均值也会很接近,四个样本的均值越接近，推断四个总体均值相等的证据也就越充分,样本均值越不同，推断总体均值不同的证据就越充分,方差分析中基本假定,如果原假设成立，即,H,0,: m,1,= m,2,= m,3,= m,4,四个行业被投诉次数的均值都相等,意味着每个样本都来自均值为,、方差为,2,的同一正态总体,X,f(X),1,2, ,3, ,4,方差分析中基本假定,若备择假设成立，即,H,1,: m,i,(,i,=1，2，3,，4),不全相等,至少有一个总体的均值是不同的,四个样本分别来自均值不同的四个正态总体,X,f(X),3, ,1, ,2, ,4,问题的一般提法,设因素有,k,个水平，每个水平的均值分别用,1,、,2,、,k,表示,要检验,k,个水平,(,总体,),的均值是否相等，需要提出如下假设：,H,0,:,1, ,2, ,k,H,1,:,1, ,2, ,，,k,不全相等,设,1,为零售业被投诉次数的均值，,2,为旅游业被投诉次数的均值，,3,为航空公司被投诉次数的均值，,4,为家电制造业,被投诉次数的均值,，,提出的假设为,H,0,:,1, ,2, ,3, ,4,H,1,:,1, ,2, ,3, ,4,不全相等,3.2 单因素方差分析,数据结构,分析步骤,关系强度的测量,用,Excel,进行方差分析,单因素方差分析的数据结构,(one-way analysis of variance),观察值,(,j,),因素(,A,),i,水平A,1,水平A,2,水平A,k,1,2,:,:,n,x,11,x,21,x,k1,x,12,x,22,x,k2,: : : :,: : : :,x,1n,x,2n,x,kn,分析步骤,提出假设,构造检验统计量,统计决策,提出假设,一般提法,H,0,: m,1,= m,2,=,=,m,k,自变量对因变量没有显著影响,H,1,: m,1,，,m,2,，,，,m,k,不,全相等,自变量对因变量有显著影响,注意：拒绝原假设，只表明至少有两个总体的均值不相等，并不意味着所有的均值都不相等,构造检验的统计量,构造统计量需要计算,水平的均值,全部观察值的总均值,误差平方和,均方,(,MS,),构造检验的统计量,(计算水平的均值),假定从第,i,个总体中抽取一个容量为,n,i,的简单随机样本，第,i,个总体的样本均值为该样本的全部观察值总和除以观察值的个数,计算公式为,式中：,n,i,为第,i,个总体的样本观察值个数,x,ij,为第,i,个总体的第,j,个观察值,构造检验的统计量,(计算全部观察值的总均值),全部观察值的总和除以观察值的总个数,计算公式为,构造检验的统计量,(例题分析),构造检验的统计量,(计算总误差平方和,SST,),全部观察值 与总平均值 的离差平方和,反映全部观察值的离散状况,其计算公式为,前例的计算结果：,SST,= (57-47.869565),2,+,+,(58-47.869565),2,=115.9295,构造检验的统计量,(计算水平项平方和,SSA,),各组平均值 与总平均值 的离差平方和,反映各总体的样本均值之间的差异程度，又称,组间平方和,该平方和既包括随机误差，也包括系统误差,计算公式为,前例的计算结果：,SSA,= 1456.608696,构造检验的统计量,(计算误差项平方和,SSE,),每个水平或组的各样本数据与其组平均值的离差平方和,反映每个样本各观察值的离散状况，又称,组内平方和,该平方和反映的是随机误差的大小,计算公式为,前例的计算结果：,SSE,= 2708,构造检验的统计量,(三个平方和的关系),总离差平方和(,SST,)、误差项离差平方和(,SSE,)、水平项离差平方和 (,SSA,) 之间的关系,SST,=,SSA,+,SSE,前例的计算结果：,4164.608696=1456.608696+2708,构造检验的统计量,(三个平方和的作用),SST,反映全部数据总的误差程度；,SSE,反映随机误差的大小；,SSA,反映随机误差和系统误差的大小,如果原假设成立，则表明没有系统误差，组间平方和,SSA,除以自由度后的,均方,与组内平方和,SSE,和除以自由度后的,均方,差异就不会太大；如果,组间均方,显著地大于,组内均方,，说明各水平,(,总体,),之间的差异不仅有随机误差，还有系统误差,判断因素的水平是否对其观察值有影响，实际上就是比较,组间方差,与,组内方差,之间差异的大小,构造检验的统计量,(计算均方,MS,),各误差平方和的大小与观察值的多少有关，为消除观察值多少对误差平方和大小的影响，需要将其平均，这就是,均方,，也称为方差,计算方法是用误差平方和除以相应的自由度,三个平方和对应的自由度分别是,SST,的自由度为,n,-1,，,其中,n,为全部观察值的个数,SSA,的自由度为,k,-1,，,其中,k,为因素水平,(,总体,),的个数,SSE,的自由度为,n,-,k,构造检验的统计量,(计算均方,MS,),组间方差,：,SSA,的均方，记为,MSA,，,计算公式为,组内方差,：,SSE,的均方，记为,MSE,，,计算公式为,构造检验的统计量,(计算检验统计量,F,),将,MSA,和,MSE,进行对比，即得到所需要的检验统计量,F,当,H,0,为真时，二者的比值服从分子自由度为,k,-1,、,分母自由度为,n,-,k,的,F,分布，即,构造检验的统计量,(,F,分布与拒绝域),如果均值相等，,F,=,MSA,/,MSE,1,a,F,分布,F,(,k,-1,n,-,k,),0,拒绝,H,0,不拒绝,H,0,F,统计决策,将统计量的值,F,与给定的显著性水平,的临界值,F,进行比较，作出对原假设,H,0,的决策,根据给定的显著性水平,，在,F,分布表中查找与第一自由度,df,1,k,-1,、,第二自由度,df,2,=,n,-,k,相应的临界值,F,若,F,F,，,则拒绝原假设,H,0,，,表明均值之间的差异是显著的，所检验的因素对观察值有显著影响,若,FF,，,则不拒绝原假设,H,0,，,不能认为所检验的因素对观察值有显著影响,单因素方差分析表,(基本结构),单因素方差分析,(例题分析),用,Excel,进行方差分析,用,Excel,进行方差分析,第,1,步：,选择“,工具,”下拉菜单,第,2,步：,选择“,数据分析,”选项,第,3,步：,在分析工具中选择“,单因素方差分析,”,，然,后选择“,确定,”,第,4,步：,当对话框出现时,在“,输入区域,”方框内键入数据单元格区域,在,方框内键入,0.05,（可根据需要确定）,在“,输出选项,”中选择输出区域,用Excel进行方差分析,3.3 方差分析中的多重比较,多重比较的意义,多重比较的方法,方差分析中的多重比较,(,multiple comparison procedures,),通过对总体均值之间的配对比较来进一步检验到底哪些均值之间存在差异,可采用,最小显著差异,方法,(,LSD),邓肯法（,Duncan,）,SPSS方差分析,方差分析过程,单因素方差分析的菜单图,高级多元方差分析菜单,简单的一维方差分析,返回,饲料比较数据,饲 料,A,B,C,D,133.8,151.2,193.4,225.8,125.3,149.0,185.3,224.6,143.1,162.7,182.8,220.4,128.9,143.8,188.5,212.3,135.7,153.5,198.6,单因素方差分析,-主对话框,对照比较对话框,返回,均值多重比较的对话框,输出统计量对话框,分析输出1,返回,描述统计量,例：分析不同饲料对猪体重的影响data07-01,多重比较结果的表示方法,(一) 列梯形表法,(二) 划线法,(三),标记字母法,标记字母法：,（1）将全部平均数从大到小依次排列。,（2）在最大的平均数上标上字母,a,；将该平均数与以下各平均数相比，相差不显著的，都标上字母,a,，直至某一个与之相差显著的平均数则标以字母,b,(向下过程)，,（3）再以该标有,b,的平均数为标准，与上方各个比它大的平均数比，凡不显著的也一律标以字母,b,(向上过程)； 再以该标有,b,的最大平均数为标准，与以下各未标记的平均数比，凡不显著的继续标以字母,b,，直至某一个与之相差显著的平均数则标以字母,c,。,（4）如此重复进行下去，直至最小的一个平均数有了标记字母且与以上平均数进行了比较为止。,（5）这样各平均数间，凡有一个相同标记字母的即为差异不显著，凡没有相同标记字母的即为差异显著。,在实际应用时，可以小写字母表示 =0.05显著水平，大写字母表示 =0.01显著水平。,表,资料的差异显著性(新复极差测验),处 理,苗 高,平均数(cm),差异显著性,0.05,0.01,D,29,a,A,B,23,b,AB,A,18,c,BC,C,14,c,C,由表就可清楚地看出，该试验除,A,与,C,处理无显著差异外，,D,与,B,及,A、C,处理间差异显著性达到,=0.05,水平。处理,B,与,A、D,与,B、A,与,C,无极显著差异；,D,与,A、C，B,与,C,呈极显著差异。,