逐步回归和通径分析课件

,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,逐步回归与通径分析,1,逐步回归与通径分析1,目录,逐步回归,通径分析,逐步回归,通径分析,2,目录逐步回归通径分析逐步回归通径分析2,逐步回归,通径分析,概念：,逐步回归分析方法是针对多个自变量建立最优回归方程的一种统计方法。,在有,p,个自变量的情况下，根据自变量的不同组合可能建立的回归方程众多。这些回归方程的效果有好有坏，而人们希望的是回归效果最好的，即“最优”的回归方程,。,要求,：,（1）,回归效果最佳,（2）,自变量的个数最少,一方面对因变量起显著作用的自变量都选进回归,方程，另一方面对因变量作用不显著的自变量都剔除,回归方程，选择一个最佳的变量组合,。,3,逐步回归通径分析概念：逐步回归分析方法是针对多个自变量建立最,逐步回归,通径分析,方法,逐步剔除法,逐步引入法,逐步剔除法,主要步骤：,（1）,从包含全部,p,个自变量组合的回归方程中逐个检验回归系数，剔除对因变量作用不显著的自变量；,（2）,对剔除后剩下的,q,个自变量建立对因变量的多元回归方程，再逐个检验回归系数，剔除不显著的变量；,（3）,重复上述步骤，直到保留在回归方程中自变量的作用都显著为止,缺点：,一开始把全部自变量都要引入回归方程，计算量很大，实际上有些不重要的就不必引入,4,逐步回归通径分析方法逐步剔除法逐步引入法逐步剔除法主要步骤：,逐步回归,通径分析,逐步引入法,基本步骤：,（1）,先逐个比较,x,l,x,p,对,y,的回归方程,哪,些是显著的，从显著的方程中挑选,F,值最大的，相应的自变量,x,就被“引入”方程。无妨设,x,就是,x,1,（2）,再逐个比较(,x,1,x,2,)、(,x,1,x,3,)、(,x,1,x,p,)对,y,的回归方程，看有没有,F,值显著的，此时的,F,就是考虑添加,x,i,之后，,x,i,的回归系数是否显著地不为0，将显著的,F,中最大的,F,所相应的变量“引入”方程。无妨设第二次“引入”的自变量是,x,2,（3）,再考察以,x,1,、,x,2,为基础，逐个添加,x,3,、,x,4,、,x,p,之后的回归方程，是否较,x,1,、,x,2,的方程有显著的改进，有就再“引入”新的自变量，这样下去，终于到某一步就没有可以再“引入”的自变量了。这时就获得了最后的回归方程,.,缺点：,不能反映后来变化的状况，设想,x,1,、,x,2,、,x,3,引入后，又引入了,x,6,，也许,x,3,、,x,6,引入后，,x,1,的作用就不重要了，应该予以剔除，而“逐步引入”法不能达到这个要求,5,逐步回归通径分析逐步引入法基本步骤：缺点：不能反映后来变化的,逐步回归,通径分析,例14.1 测定了”丰产3号“小麦15株的单株穗数x,1,、每穗结实小穗数x,2,、百粒重x,3,（g）、株高x,4,（cm）、单株籽粒产量y（g），结果列于表14-1，试建立y依x,i,的最优回归方程。P254,6,逐步回归通径分析例14.1 测定了”丰产3号“小麦15株的单,逐步回归,通径分析,1、逐步剔除法,（1）建立m元线性回归方程,表1 表14-1资料四元线性回归和偏回归系数的假设检验,表1表明，四元线性回归方程达极显著，但x,2,和x,4,偏回归系数都不显著，其中以x,4,的偏回归平方和最小，所以，应首先剔除x,4,。,7,逐步回归通径分析1、逐步剔除法表1 表14-1资料四元线性,逐步回归,通径分析,（2）建立m-1元线性回归方程：,表2 表14-1资料三元线性回归和偏回归系数的假设检验,表2表明，三元线性回归方程和三个自变量的偏回归系数均极显著或者显著，因此不需要再作自变量的剔除。,最优线性回归方程：,y=-46.9663+2.013139x,1,+0.674643x,2,+7.830227x,3,8,逐步回归通径分析（2）建立m-1元线性回归方程：表2 表14,逐步回归,通径分析,2、逐步引入法 P260,（,1,）计算相关矩阵,（,2,）选择第一个自变量,首先，计算各自变量的标准偏回归平方和。,其次，对偏回归平方和最大的变量进行F检验。 题中x,1,的最大，经检验引入该变量。,最后，变换相关矩阵,（,3,）选择第二个自变量：先计算余下自变量的标准偏回归平方和。接下来是重复（2）过程。选入x,3,（,4,）选择第三个自变量。选入x,2,（,5,）选择第四个自变量。x,4,不显著，不选入。,（,6,）选择计算偏回归系数，建立最优回归方程。,最优线性回归方程：,y=-46.9713+2.0131x,1,+0.6746x,2,+7.8302x,3,9,逐步回归通径分析2、逐步引入法 P2609,逐步回归,通径分析,通径系数的基本概念,多元线性回归系数间不能直接比较各因子间的效应大小, 因为各回归系数间都带有不同的量纲,再者多变量的关系中,往往都不是独立的,有时还要研究,x,i,通过,x,j,对依变量,y,的影响,而通径系数就能有效的表示相关变量间原因对结果的直接影响或间接影响的效应,从而区分因子的相对重要性及其关系。,通径图,y,x,1,x,2,图,14-1,a,x,1,与,x,2,独立时,y,x,1,x,2,图,14-1,b,x,1,与,x,2,不独立时,直接通径:,间接通径,:,x,1,x,2,y,x,2,x,1,y,符号：,表示通径线,x,1,y, x,2,y,10,逐步回归通径分析通径系数的基本概念 多元线性回归系数间,逐步回归,通径分析,通径系数的概念,表示各条通径对于改变,y,变量的相对重要性的统计量称通径系数,常用,q,表示。直接通径系数就是逐步回归中的偏回归系数,bi,。,通径系数的性质,1.当自变量为,p,时,共有,p,个直接通径,p,(,p,-,1,),个间接通径系数。,2.,通径系数能够表示变量间的因果关系, 所以具有回归系数的性质。,3.通径系数是相对数,且有方向性,因而具有相关系数的性质。,11,逐步回归通径分析通径系数的概念表示各条通径对于改变y变量的相,逐步回归,通径分析,通径系数的计算过程,1,、通径系数正规方程组,前面已经提过,直接通径系数就是逐步回归分析中变量标准化变换后的偏回归系数,所以可解下列正规方程组求得,q , q, q,。,(,q = b,),每个自变量x,i,与y的相关系数均可剖分为x,i,对y的直接作用和间接作用的代数和。,12,逐步回归通径分析通径系数的计算过程 前面已经提过,直接,逐步回归,通径分析,x,i,对,y,的直接通径,x,i,y,x,i,对,y,的间接通径,x,i,x,j,y,由方程,1,可看出第,1,个自变量,x,1,与,y,的相关关系,r,可看成,x,1,对,y,的直接通径部分,q,;,还有,x,1,与,x,2,;,x,1,与,x,3,的间接通径,r q,和,r q,部分。,如：当,P=3,时,x,i,对,y,的相关关系可列出方程式,通式,:,12,2,13,3,1y,1,13,逐步回归通径分析 xi 对 y 的直接通径 xi,逐步回归,通径分析,例题：计算例14.1资料的通径系数P265,前面已经计算出相关系数，将其带入方程，得标准正规方程组（由于x4已经剔除，不再参加通径分析）。,y,x,3,x,2,x,1,e,14,逐步回归通径分析例题：计算例14.1资料的通径系数P265y,逐步回归,通径分析,通径分析的假设检验,回归方程的检验,通径系数的检验,15,逐步回归通径分析通径分析的假设检验回归方程的检验通径系数的检,逐步回归,通径分析,（1）,对（1）进行标准化变换，令：,标准化变量的m元线性回归方程为：,（2）,16,逐步回归通径分析（1）对（1）进行标准化变换，令：标准化变量,逐步回归,通径分析,令,则（2）可改为,（3）,决定系数,自变量 通过 对依变量y的间接决定系数,而决定系数R,2,等于各直接与间接决定系数之和。,17,逐步回归通径分析令则（2）可改为（3）决定系数自变量,逐步回归,通径分析,回归平方和U为：,剩余因子e假设与各个x,i,独立，其通径系数q,e,为：,则有：,剩余平方和,则对标准化变量多元线性回归方程检验的F值为：,18,逐步回归通径分析回归平方和U为： 剩余因子e假设与各个xi,逐步回归,通径分析,各x,i,对y的通径系数q,i,的检验可用F检验和t检验两种方法。,1、F检验,2、t检验,先求出通径系数的标准误sq,i,其t值为：,注意：,这里介绍的F检验和t检验是等价的，在实际进行通径系数假设检验时，只须选其中一种方法即可。,19,逐步回归通径分析各xi对y的通径系数qi的检验可用F检验和t,逐步回归,通径分析,例题：对上个例题所计算的通径系数进行显著性检验p268,（1） 对标准化变量多元线性回归方程检验的F值为：,F=42.4388*,说明每株穗数x,1,、每穗结实小穗数x,2,、百粒重x,3,标准化后的 多元线性回归方程呈极显著水平。,（2）对通径系数进行检验,F,1,=58.5276*， F,2,=5.3443*， F,3,=11.9710*,t,1,=7.6503*，t,2,=2.3118*，t,3,=3.4599*,从以上数据可看出，F检验与t检验的结果是一样的，皆为通径系数q1、q3达到极显著的水平，而q2仅达显著水平。,20,逐步回归通径分析例题：对上个例题所计算的通径系数进行显著性检,谢谢！,21,谢谢！21,