第86节 多元回归分析

,单击此处编辑母版标题样式,第,8.6,节 多元回归分析,一、多元线性回归的数学模型,二、多元线性回归参数的最小二乘估计,三、多元线性回归方程的显著性检验,四、多元线性回归系数的显著性检验,五、存在不显著变量的处理,六、预测与控制,在许多实际问题中，对某一变量,Y,有重要影响的解释变量不止一个，此时就需要研究一个随机变量,Y,与多个普通变量,X,1,X,2,X,P,之间的回归关系，这就是多元回归问题,.,本节仅讨论多元线性回归，多元非线性回归通常也可化为多元线性回归来求解和分析。,多元线性回归分析的原理与一元线性回归是类似的,.,一、多元线性回归的数学模型,设被解释变量,Y,与,k,个解释变量,X,1,X,2,X,k,之间,存在线性相关关系。,则,Y,与,X,1,X,2,X,k,之间的多元,线性回归模型为：,Y,=,a,+,b,1,X,1,+,b,2,X,2,+,b,k,X,k,+,(1),设第,i,次试验数据为,(,x,i,1,x,i,2,x,ik,y,i,),，,则多元,线性,回归有如下数据结构：,y,i,=,a,+,b,1,x,i,1,+,b,2,x,i,2,+,+,b,k,x,ik,+,i,(2),i,N,(0,2,),，,且相互独立,i,=1,2,n,因此多元经验线性回归方程为,的最小值，,得参数,a,b,1,b,k,的最小二乘估计,同样称,为多元回归方程的回归系数,.,二、多元线性回归参数的最小二乘估计,根据最小二乘原理，利用多元函数求极值的方法，求,三、多元线性回归方程的显著性检验,如果变量,Y,与,X,1,X,2,X,k,之间并无线性关系，,则,模型,(1),式中各一次项系数应全为零,.,因此要检验的原假,设为,H,0,：,b,1,=,b,2,=,b,k,=0,为构造检验,H,0,的统计量，,同样需要对总的偏差平,方和,S,T,作如下分解：,同样称,S,R,为回归平方和，,S,E,为剩余平方和,.,=,S,E,+,S,R,进一步可以证明，当,H,0,为真时,，,检验统计量,检验过程同样可以列成一张方差分析表，多元回归,方差分析表的格式与一元回归完全相同,.,三、多元线性回归方程的显著性检验,在多元回归中,，,回归方程显著的结论仅表明模型中各,b,j,不全为零，,但并不说明它们全不为零,.,也即并不能保证,每个解释变量都对,Y,有重要影响,.,如果模型中含有对,Y,无显著影响的变量，,就会降低回归,方程的预测精度和稳定性,.,因此，需要从回归方程中剔除对,Y,无显著影响的变量，重新建立更为简单的回归方程,.,如果某个变量,X,i,对,Y,的作用不显著，,则模型中,b,i,就可以,为,0,，故要检验的原假设为,H,0,i,：,b,i,=0,，,i,=1,2,k,四、多元线性回归系数的显著性检验,就拒绝,H,0,i,，,说明解释变量,X,i,对被解释变量的线性作用效果显著。反之，则说明解释变量,X,i,对被解释变量的线性作用效果不显著。,四、多元线性回归系数的显著性检验,记,t,i,为检验,H,0,i,的统计量，则当,H,0,i,为真时，统计量,t,i,t,(,n,-,k,-1),，,i,=1,2,k,因此，在给定水平,下，若,t,i,t,(,n,-,k,-1),五、存在不显著变量的处理,若经检验,，,X,i,的作用不显著，,则应从模型中剔除,X,k,，,并重新求解,Y,对余下的,k,-1,个变量的回归方程,.,若检验中同时存在多个不显著的变量，,则每次只能剔除,一个显著性水平最低的变量，,重新求解新的回归方程,.,再对,新的回归系数进行检验，,直至所有变量都显著为止,.,当模型中解释变量很多时，,通常会存在较多的不显著,变量，,以上步骤就非常繁琐,.,更为有效的方法是对回归变量,用,“逐步回归”,来求解多元线性回归方程。,六、预测与控制,在给定解释变量的一组取值,(,x,01,x,02,x,0,k,),，,由回归方程可得回归值,它是,Y,0,=,a,+,b,1,X,01,+,b,2,X,02,+,b,k,X,0,k,+,0,的一个点估计,.,1.,预测,建立了多元回归方程并进行了检验后，就可以利用方程进行预测或控制,.,且对于,Y,0,的置信度为,1,-,的预测区间为,其中,六、预测与控制,2.,控制,在多元回归情况下，,由于解释变量有多个，,若控制,问题的提法是：,当要求以,1-,的概率将,Y,控制在某一,给定范围内，,问应将各解释变量控制在什么范围内？,多元回归的控制分析方法与一元回归是完全类似的,.,显然此问题可以有无穷多个解，,问题的一般提法是：,若要将,Y,控,制在某给定范围内，在,给定其中,P,-,1,个解释变量的取,值范围时，应将另一个解,释变量,控制在什么范围之内？,因此,多元回归控制,例,1,住宅小区附近的家具商城，认为住宅销售户数和新婚对数这两个因素对家具的销售额有明显的作用为了确定该商城每季度家具的进货和销售，他们对全市各个小区家具店收集了,12,组市场调查资料如下：,家具销售额,y,(,万元,),住宅销售住户,x,1,结婚对数,x,2,214,114,23,248,123,22,397,239,25,388,221,24,415,248,23,430,251,26,374,232,25,550,238,27,455,254,34,535,372,39,454,247,41,638,410,38,其中因变量,y,为季节家具销售额，,x,1,为住宅销售套数，,x,2,为结婚对数,请为商城人员建立二元经验回归方程并进行统计推断,解,打开,Excel,软件，建立如下表所示数据文件,数据文件,调用回归分析程序，依次点击：工具,/,数据分析,/,回归,/,确定，便得到如下,在弹出的对话框中，将因变量,y,和自变量,x,1,，,x,2,分别放入相应位置，确定后即得到：,由此可知，所求二元经验回归方程：,并且当结婚对数保持不变时，入住户每增加一户，家具销售额平均可增加,1.240,万元，当入住户数保持不变时，每增加一对新婚数，家具销售额平均增加,1.039,万元,对输出成果的分析，给商城人员制定销售计划有很好的指导作用 如了解到近期,20,对夫妻新婚，,150,套现房出售，则本季度商城可以安排,=89.965+1.240,150+1.03920=296.745,万元,的销售额,例,2,某地区关于,“,电脑销售量、人均收入和电脑平均价格,”,的调查资料如下：,年份,t,电脑销售量,y,（台）,人均收入,x1(,元,/,年,),平均价格,x2(,元,/,台）,1994,上,1040,5789.4,13420,1994,下,1238,5989.8,12800,1995,上,1895,7096.2,12210,1995,下,2210,7396.6,11400,1996,上,3823,8091.2,10860,1996,下,5887,8275.3,10240,1997,上,6795,8391.6,8581,1997,下,8490,8575.7,7134,1998,上,10610,8623.5,5600,试建立电脑销售量的二元经验回归方程并进行统计推断,解,使用,Excel,软件，建立数据文件如下：,数据文件,调用回归分析程序，依次点击：工具,/,数据分析,/,回归,/,确定，便得到如下图,在弹出的对话框中，将因变量,y,和自变量,x,1,，,x,2,分别放入相应位置，确定后即得到：,由此可知，电脑销售量的二元经验回归方程为：,判定系数,R,2,=0.972,表明，在电脑销售量的变化中，有,97%,以上的变差可用“人均收入”和“电脑平均价格”的变化来解释，只有不到,3%,的变差属于还得不到解释的随即误差 估计标准误差,S=669.226,，,S,的数值越小，表明回归方程的精度越高,在不同的样本容量条件和置信概率下，估计标准误差,S,可决定置信区间的宽度,T,检验,:,从输出表可见,t,1,=0.345,t,2,=,-,7.000,对检验水平,=0.05,，“,p,-Value”,即为检验统计量所对应的双尾概率，它们分别是,“,0.742182”,、“,0.000423”,，,前者显著地大于,0.05,，后者显著地小于,0.05,，,可见我们所拟合的二元线性回归方程式中的第二个自变量（平均价格）的作用是显著的，但是第一个自变量（人均收入）的影响十分不显著,事实上，,1994,年至,1998,年，人均收入的增长远非电脑销售增长可比，同一般娱乐消费用的电器产品不同，并非收入水平的提高，而是科技的迅速发展和人们的工作、文化、教育的需求促进了电脑的销售，还有销售价格的降低也是促进因素之一所以我们可以剔除第一个自变量，或将其换成“人均储蓄额”试作考虑,F,检验,:,从输出表可见,:,F=103.3915,，,P(F(2,，,6)103.3915,）,=2.242E_050.05,所以认为回归方程是显著有效的,b,1,的置信概率,95%,的区间为,:,（,-,0.89992,，,1.19490,）,b,2,的置信概率,95%,的区间为,:,（,-,1.66137,，,-,0.80075,）,由这些指标我们可以在置信概率为,95%,时得到两个（近似）包络平面：,这两个包络平面所形成的空间层将包含了,95%,的销售量数值,.,