方差分析与试验设计

Click to edit Master title,Click to edit Master text styles,Second Level,Third Level,Fourth Level,Fifth Level,10 -,*,统计学,第 10 章 方差分析与试验设计,作者：中国人民大学统计学院,贾俊平,PowerPoint,统计学,10.1,方差分析引论,10.2,单因素方差分析,10.3,方差分析中的多重比较,10.4,双因素方差分析,10.5,试验设计初步,第 10 章 方差分析与试验设计,学习目标,解释方差分析的概念,解释方差分析的基本思想和原理,掌握单因素方差分析的方法及应用,理解多重比较的意义,掌握双因素方差分析的方法及应用,掌握试验设计的基本原理和方法,10.1 方差分析引论,方差分析及其有关术语,方差分析的基本思想和原理,方差分析的基本假定,问题的一般提法,方差分析及其有关术语,什么是方差分析(ANOVA)?,(analysis of variance),检验多个总体均值是否相等,通过分析察数据的误差判断各总体均值是否相等,研究品质型自变量对数值型因变量的影响,一个或多个分类尺度的自变量,2,个或多个,(,k,个,),处理水平或分类,一个间隔或比率尺度的因变量,有单因素方差分析和双因素方差分析,单因素方差分析：涉及一个分类的自变量,双因素方差分析：涉及两个分类的自变量,什么是方差分析?,(例题分析),消费者对四个行业的投诉次数,行业,观测值,零售业,旅游业,航空公司,家电制造业,1,2,3,4,5,6,7,57,66,49,40,34,53,44,68,39,29,45,56,51,31,49,21,34,40,44,51,65,77,58,【例】,为了对几个行业的服务质量进行评价，消费者协会在四个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共,23,家企业投诉的次数如下表.四个行业的服务质量是否有显著的差异,什么是方差分析?,(例题分析),分析四个行业之间的服务质量是否有显著差异，也就是要判断“行业”对“投诉次数”是否有显著影响,作出这种判断最终被归结为检验这四个行业被投诉次数的均值是否相等,如果它们的均值相等，就意味着“行业”对投诉次数是没有影响的，即它们之间的服务质量没有显著差异；如果均值不全相等，则意味着“行业”对投诉次数是有影响的，它们之间的服务质量有显著差异,什么是方差分析?,（一个例子）,该饮料在五家超市的销售情况,超市,无色,粉色,橘黄色,绿色,1,2,3,4,5,26.5,28.7,25.1,29.1,27.2,31.2,28.3,30.8,27.9,29.6,27.9,25.1,28.5,24.2,26.5,30.8,29.6,32.4,31.7,32.8,某饮料生产企业研制出一种新型饮料。饮料的颜色共有四种，分别为,橘黄色,、,粉色,、,绿色,和无色透明。这四种饮料的营养含量、味道、价格、包装等可能影响销售量的因素全部相同。现从地理位置相似、经营规模相仿的五家超级市场上收集了前一时期该饮料的销售情况。试分析饮料的颜色是否对销售量产生影响。,什么是方差分析?,（例子的进一步分析）,检验饮料的颜色对销售量是否有影响，也就是检验四种颜色饮料的平均销售量是否相同,设,1,为无色饮料的平均销售量，,2,粉色饮料的平均销售量，,3,为橘黄色饮料的平均销售量，,4,为绿色饮料的平均销售量，,也就是检验下面的假设,H,0,: ,1,2,3,4,H,1,: ,1,2,3,4,不全相等,检验上述假设所采用的方法就是方差分析,什么是方差分析(ANOVA)?,(analysis of variance),检验多个总体均值是否相等,研究品质型自变量对数值型因变量的影响,行业对投诉次数的影响,颜色对销量的影响,有单因素方差分析和双因素方差分析,单因素方差分析：涉及一个定性自变量,双因素方差分析：涉及两个定性自变量,方差分析中的有关概念,因变量,投诉次数,因素或因子,(factor),所要检验的对象,要分析行业对投诉次数是否有影响，,行业,是要检验的因素或因子,自变量,方差分析中的有关概念,3. 水平或处理,(,treatment),因子的不同表现,零售业、旅游业、航空公司、家电制造业就是因子的水平,因素的每一个水平可以看作是一个总体,4.,观察值,在每个因素水平下得到的样本值,每个行业被投诉的次数就是观察值,被投诉次数可以看作是从这四个总体中抽取的样本数据,方差分析的基本思想和原理,方差分析的基本思想和原理,(图形分析),零售业 旅游业 航空公司 家电制造,从,散点图上可以看出,不同行业被投诉的次数是有差异的,家电制造也被投诉的次数较高，航空公司被投诉的次数较低,即,使是在同一个行业，不同企业被投诉的次数也明显不同,方差分析的基本思想和原理,(图形分析),1. 如果行业与被投诉次数之间没有关系，那么它们被投诉的次数应该差不多相同，在散点图上所呈现的模式也就应该很接近,2. 仅从散点图上观察还不能提供充分的证据证明不同行业被投诉的次数之间有显著差异,这种差异也可能是由于抽样的随机性所造成的,3. 需要有更准确的方法来检验这种差异是否显著，也就是进行方差分析,方差分析的基本思想和原理,方差分析的基本思想和原理,(两类误差),随机误差,因素的同一水平,(,总体,),下，样本各观察值之间的差异,比如，同一行业下不同企业被投诉次数是不同的,这种差异可以看成是随机因素的影响，称为,随机误差,系统误差,因素的不同水平,(,不同总体,),之间存在差异,比如，不同行业之间的被投诉次数之间的差异,这种差异,可能,是由于抽样的随机性所造成的，,也可能,是由于行业本身所造成的，后者所形成的误差是由系统性因素造成的，称为,系统误差,方差分析的基本思想和原理,(两类方差),组内方差,(,within groups,),因素的同一水平,(,同一个总体,),下样本数据的方差,比如，零售业被投诉次数的方差,组内方差只包含,随机误差,组间方差,(,between groups,),因素的不同水平,(,不同总体,),之间的方差,比如，四个行业被投诉次数均值之间的方差,组间方差既包括,随机误差,，也包括,系统误差,方差分析的基本思想和原理,(方差的比较),若行业对投诉次数没有影响，则组间方差中只包含随机误差，没有系统误差。这时，平均的组间方差与平均的组内方差的数值就应该很接近，它们的比值就会接近,1,若不同行业对投诉次数有影响，在组间方差中除了包含随机误差外，还会包含有系统误差，这时平均的组间方差的数值就会大于平均组内方差的数值，比值大于,1,当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异，也就是自变量对因变量有影响,判断行业对投诉次数是否有显著影响，实际上也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响,方差分析的基本假定,方差分析的基本假定,每个,总体都服从正态分布,对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本,比如，每个行业被投诉的次数必需服从正态分布,各个,总体的方差都相同,各组观察数据是从具有相同方差的总体中抽取的,比如，四个行业被投诉次数的方差都相等,观,察值是独立的,比如，每个企业被投诉的次数与其他企业被投诉的次数独立,方差分析中的基本假定,在上述假定条件下，判断行业对投诉次数是否有显著影响，实际上也就是检验具有同方差的四个正态总体的均值是否相等,方差分析中基本假定,如果原假设成立，即,H,0,:,m,1,=,m,2,=,m,3,=,m,4,四个行业被投诉次数的均值都相等,意味着,每个样本都来自均值为,、差为,2,的同一正态总体,X,f(X),1,2, ,3, ,4,方差分析中基本假定,若备择假设成立，即,H,1,:,m,i,(,i,=1，2，3,，4),不全相等,至少有一个总体的均值是不同的,四个样本不是来自同一个正态总体,X,f(X),3, ,1, ,2, ,4,问题的一般提法,问题的一般提法,设因素有,k,个水平，每个水平的均值分别用,1,、,2,、,k,表示,要检验,k,个水平,(,总体,),的均值是否相等，需要提出如下假设：,H,0,:,1, ,2, ,k,H,1,:,1, ,2, ,，,k,不全相等,设,1,为零售业被投诉次数的均值，,2,为旅游业被投诉次数的均值，,3,为航空公司被投诉次数的均值，,4,为家电制造业,被投诉次数的均值,，,提出的假设为,H,0,:,1, ,2, ,3, ,4,H,1,:,1, ,2, ,3, ,4,不全相等,10.2 单因素方差分析,数据结构,分析步骤,关系强度的测量,用,Excel,进行方差分析,单因素方差分析的数据结构,(one-way analysis of variance),观察值,(,j,),因素(,A,)i,水平A,1,水平A,2,水平A,k,1,2,:,:,n,x,11,x,21,x,k1,x,12,x,22,x,k2,: : : :,: : : :,x,1n,x,2n,x,kn,单因素方差分析的步骤,提出假设,构造检验统计量,统计决策,提出假设,一,般提法,H,0,:,m,1,=,m,2,=,=,m,k,自变量对因变量没有影响,H,1,:,m,1,，,m,2,，,，,m,k,不,全相等,自变量对因变量有影响,注意：拒绝原假设，只表明至少有两个总体的均值不相等，并不意味着所有的均值都不相等,构造检验的统计量,构造统计量需要计算,水平的均值,全部观察值的总均值,误差平方和,均方,(,MS,),构造检验的统计量,(计算各水平的均值),假定从,第,i,个总体中抽取一个容量为,n,i,的简单随机样本，第,i,个总体的样本均值为该样本的全部观察值总和除以观察值的个数,计算公式为,式中：,n,i,为第,i,个总体的样本观察值个数,x,ij,为第,i,个总体的第,j,个观察值,构造检验的统计量,(计算全部观察值的总均值),全部观察值的总和除以观察值的总个数,计算公式为,构造检验的统计量,(例题分析),构造检验的统计量,(计算总误差平方和,SST,),全,部观察值 与总平均值 的离差平方和,反映全部观察值的离散状况,其计算公式为,前例的计算结果：,SST,= (57-47.869565),2,+,+,(58-47.869565),2,=115.9295,构造检验的统计量,(计算水平项误差平方和,SSA,),各组平均值 与总平均值 的离差平方和,反映各总体的样本均值之间的差异程度，又称,组间平方和,该平方和既包括随机误差，也包括系统误差,计算公式为,前例的计算结果：,SSA,= 1456.608696,构造检验的统计量,(计算误差项平方和,SSE,),每个水平或组的各样本数据与其组平均值的离差平方和,反映每个样本各观察值的离散状况，又称,组内平方和,该平方和反映的是随机误差的大小,计算公式为,前例的计算结果：,SSE,= 2708,构造检验的统计量,(三个平方和的关系),总离差平方和(,SST,)、误差项离差平方和(,SSE,)、水平项离差平方和 (,SSA,) 之间的关系,SST,=,SSA,+,SSE,前例的计算结果：,4164.608696=1456.608696+2708,构造检验的统计量,(三个平方和的作用),SST,反映全部数据总的误差程度；,SSE,反映随机误差的大小；,SSA,反映随机误差和系统误差的大小,如果原假设成立，则表明没有系统误差，平均的组间平方和,MSA,与平均的组内平方和,MSE,差异,不会太大；如果,MSA,显著地大于,MSE,，,说明各水平,(,总体,),之间的差异不仅有随机误差，还有系统误差,判断因素的水平是否对其观察值有影响，实际上就是比较,MSA,与,MSE,的比值,构造检验的统计量,(计算均方,MS,),各误差平方和的大小与观察值的多少有关，为消除观察值多少对误差平方和大小的影响，需要将其平均，这就是,均方,，也简称为方差,计算方法是用误差平方和除以相应的自由度,三个平方和对应的自由度分别是,SST,的,自由度为,n,-1,，,其中,n,为全部观察值的个数,SSA,的,自由度为,k,-1,，,其中,k,为因素,水平,(,总体,),的,个数,SSE,的,自由度为,n,-,k,构造检验的统计量,(计算均方,MS,),组间方差,：,SSA,的均方，记为,MSA,，,计算公式为,组内方差,：,SSE,的均方，记为,MSE,，,计算公式为,构造检验的统计量,(计算检验统计量,F,),将,MSA,和,MSE,进行对比，即得到所需要的检验统计量,F,当,H,0,为真时，二者的比值服从分子自由度为,k,-1,、,分母自由度为,n,-,k,的,F,分布，即,构造检验的统计量,(,F,分布与拒绝域),如果均值相等，,F,=,MSA,/,MSE,1,a,F,分布,F,(,k,-1,n,-,k,),0,拒绝,H,0,不拒绝,H,0,F,统计决策,将统计量的值,F,与给定的显著性水平,的临界值,F,进行比较，作出对原假设,H,0,的决策,根据给定的显著性水平,，在,F,分布表中查找与第一自由度,df,1,k,-1,、,第二自由度,df,2,=,n,-,k,相应的临界值,F,若,F,F,，,则拒绝原假设,H,0,，,表明均值之间的差异是显著的，所检验的因素对观察值有显著影响,若,F,F,，,则,拒绝,原假设,H,0,，,表明均值之间有显著差异，即所检验的列因素对观察值有显著影响,双因素方差分析表,(基本结构),双因素方差分析,(例题分析),提出假设,对品牌因素提出的假设为,H,0,:,m,1,=,m,2,=,m,3,=,m,4,(,品牌对销售量没有影响,),H,1,:,m,i,(,i,=1,2, , 4),不全相等 (,品牌对销售量有影响,),对地区因素提出的假设为,H,0,:,m,1,=,m,2,=,m,3,=,m,4,=,m,5,(,地区,对销售量没有影响,),H,1,:,m,j,(,j,=1,2,5),不全相等,(,地区对销售量有影响,),用,Excel,进行无重复双因素分析,双因素方差分析,(例题分析),结论：,F,R,18.10777,F,3.4903,，,拒绝原假设,H,0,，,说明彩电的品牌对销售量有显著影响,F,C,2.100846,F,3.2592,，,不拒绝原假设,H,0,，,不能认为销售地区对彩电的销售量有显著影响,双因素方差分析,（一个例子）,某种商品不同地区不同包装方式的销售量,销售地区,(因素,B,),包装方式( 因素A,),A,1,A,2,A,3,A,4,A,5,B,1,B,2,B,3,B,4,B,5,20,22,24,15,26,12,10,14,1,22,20,20,18,5,16,10,12,18,6,20,14,6,10,18,10,【例】某商品有五中不同的包装方式，在五个不同的地区销售，现在从每一个地区随机地抽取一个规模相同的超市，得到该商品的销售量的数据，问包装方式和销售地区对商品销售量是否有显著的影响。（ 0.05）,双因素方差分析,(关系强度的测量),行平方和,(,行,SS,),度量了品牌这个自变量对因变量,(,销售量,),的影响效应,列平方和,(,列,SS,),度量了地区这个自变量对因变量,(,销售量,),的影响效应,这两个平方和加在一起则度量了两个自变量对因变量的联合效应,联合效应与总平方和的比值定义为,R,2,其平方根,R,反映了这两个自变量合起来与因变量之间的关系强度,双因素方差分析,(关系强度的测量),例题分析,品牌因素和地区因素合起来总共解释了销售量差异的,83.94%,其他因素(残差变量)只解释了销售量差异的,16.06%,R,=0.9162，表明品牌和地区两个因素合起来与销售量之间有较强的关系,双因素方差分析中的其他问题,（与单因素方差分析比较）,单因素方差分析与双因素方差分析相比，随机因素或误差所引起的平方和比较大。这是因为，在双因素方差分析中，误差平方和不包含行、列因素的影响。但是分别进行的单因素方差分析中，误差平方和中含有另一个因素的作用。,所以，双因素方差分析要优于单因素方差分析，因为可以将其他因素的影响从随机的影响中区别开来。,有交互作用的双因素方差分析,(可重复双因素分析),可重复双因素分析,(例题),【例】,城市道路交通管理部门为研究不同的路段和不同的时间段对行车时间的影响，让一名交通警察分别在两个路段和高峰期与非高峰期亲自驾车进行试验，通过试验取得共获得,20,个行车时间(分钟)的数据，如下表。试分析路段、时段以及路段和时段的交互作用对行车时间的影响,交互作用的图示,路段与时段对行车时间的影响,交互作用,无交互作用,行车时间,路段1,路段2,高峰期,非高峰期,行车时间,路段1,路段2,高峰期,非高峰期,有交互作用的双因素方差分析,其中行因素有两个水平，列因素有两个水平，对于每种行、列因素的组合，进行了,5,次实验。总共,20,个观测值。,假定：所有的观测值都来自正态总体，相互独立，具有相同的方差。,步骤,1,：提出假设,列因素对因变量没有影响,行因素对因变量没有影响,交互作用对因变量没有影响,有交互作用的双因素方差分析,步骤,2,：构造检验统计量,总离差平方和分解,SST,SSC+SSR+SSRC+SSE,SSC表示列因素的影响，自由度是r-1,SSR表示行因素的影响，自由度是k-1,SSRC表示行因素和列因素交互作用的影响，自由度是(r-1)(k-1),SSE表示随机因素的影响，自由度是rk(m-1),可重复双因素分析,(平方和的计算),总离差平方和,：,行变量平方和,：,列变量平方和,：,交互作用平方和：,误差项平方和,：,有交互作用的双因素方差分析,3.作出统计决策,当 时，拒绝原假设，行因素对因变量有影响。否则，接受原假设。,当 时，拒绝原假设，列因素对因变量有影响。否则，接受原假设。,当 时，拒绝原假设，交互作用对因变量有影响。否则，接受原假设。,可重复双因素分析,(Excel计算),第,1,步：,选择“工具”下拉菜单，并选择“数据分析”选项,第,2,步：,在分析工具中选择“素方差分析：可重复双因素分,析”，然后选择“确定”,第,3,步：,当对话框出现时,在“输入区域”方框内键入,A1,：,C11,在方框内键入,0.05,(可根据需要确定),在“每一样本的行数”方框内键入,5,在“输出选项”中选择输出区域,用Excel进行可重复双因素分析,10.5 试验设计初步,完全随机化设计,随机化区组设计,因子设计,完全随机化设计,完全随机化设计,(,completely randomized design,),在试验性研究中，感兴趣的变量是明确规定的。如果影响该变量的其他因素可以被控制，则可以分析某个因素对变量的影响。,“处理”被随机地指派给实验单元的一种设计,“处理”是指可控制的因素的各个水平,“实验单元,(,experiment unit,),”,是接受“处理”的对象或实体,可以将,k,种处理随机地分配给实验的单元，称之为完全随机化的设计。,对完全随机化设计的数据采用,单因素方差分析,完全随机化设计,(,例题分析,),【,例】,一家种业开发股份公司研究出三个新的小麦品种：品种,1,、品种,2,、品种,3,。为研究不同品种对产量的影响，需要选择一些地块，在每个地块种上不同的品种，然后获得产量数据进行分析。这一过程就是试验设计的过程,这里的“小麦品种”就是试验因子或因素，品种,1,、品种,2,、品种,3,就是因子的三个不同水平，称为,处理,假定选取,3,个相同的地块，这里的“地块”就是接受处理的对象或实体，称为,试验单元,将每个品种随机地指派给其中的一个地块，这一过程就是随机化设计过程,完全随机化设计,(,例题分析,),为了获得更多的数据，如果选取了12个面积相同的地块。我们将每个处理（每个品种）随机地指派给其中的4个地块，这就相当于我们重复了四次上述的试验。这一过程我们称之为是“复制”。,完全随机化设计,(,例题分析,),试验数据：,完全随机化设计,(,例题分析,),方差分析：,随机化区组设计,随机化区组设计,(,randomized block design,),先按一定规则将试验单元划分为若干同质组，称为“区组,(,Block,)”,再将各种处理随机地指派给各个区组。称之为随机化的区组设计。,比如在上面的例子中，首先根据土壤的好坏分成几个区组，假定分成四个区组：区组,1,、区组,2,、区组,3,、区组,4,，每个区组中有三个地块,在每个区组内的三个地块以随机方式（抽签）决定所种的小麦品种,试验数据采用,无重复双因素方差分析,我们这里感兴趣的是小麦的品种对产量的影响，进行分组的目的是想将土壤对产量的影响从随机的影响中排除掉。,随机化区组设计,(,例题分析,),试验数据：,随机化区组设计,(,例题分析,),方差分析：,因子设计,因子设计,(,factorial design,),感兴趣的因素有两个,如：小麦品种和施肥方式,假定有甲、乙两种施肥方式，这样三个小麦品种和两种施肥方式的搭配共有,3,2=6,种，即有,6,种不同的处理组合。如果我们选择,30,个地块进行实验，每一种搭配可以做,5,次试验，也就是每种处理组合的样本容量为,5,，即相当于每种处理组合重复做了,5,次试验,考虑两个因素,(,可推广到多个因素,),的搭配试验设计称为因子设计,该设计主要用于分析两个因素及其交互作用对试验结果的影响,试验数据采用,可重复双因素方差分析,因子设计,(,例题分析,),试验数据：,因子设计,(,例题分析,),方差分析：,试验设计与方差分析,完全随机化,设计,因子,设计,试验设计,随机化,区组设计,可重复双因素,方差分析,单因素,方差分析,无重复双因素,方差分析,本章小结,方差分析,(ANOVA),的概念,方差分析的思想和原理,方差分析中的基本假设,单因素方差分析,双因素方差分析,试验设计,结 束,