资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,*,第一章 统计案例,1.1,回归分析的基本思想及其初步应用,什么是回归分析：,“,回归”一词是由英国生物学家,F.Galton,在研究人体身高的遗传问题时首先提出的。,根据遗传学的观点，子辈的身高受父辈影响，以,X,记父辈身高，,Y,记子辈身高。,虽然子辈身高一般受父辈影响，但同样身高的父亲，其子身高并不一致，因此，,X,和,Y,之间存在一种相关关系。,一般而言，父辈身高者，其子辈身高也高，依此推论，祖祖辈辈遗传下来，身,高必然向两极分化，而事实上并非如此，显然有一种力量将身高拉向中心，即子辈,的身高有向中心回归的特点。“回归”一词即源于此。,虽然这种向中心回归的现象只是特定领域里的结论，并不具有普遍性，但从它,所描述的关于,X,为自变量，,Y,为不确定的因变量这种变量间的关系看，和我们现在的,回归含义是相同的。,不过，现代回归分析虽然沿用了“回归”一词，但内容已有很大变化，它是一种应用,于许多领域的广泛的分析研究方法，在经济理论研究和实证研究中也发挥着重要作用。,回归分析的内容与步骤：,统计检验通过后，最后是,利用回归模型，根据自变量去估计、预测因变量,。,回归分析通过一个变量或一些变量的变化解释另一变量的变化。,其主要内容和步骤是，,首先根据理论和对问题的分析判断，,将变量分为自变量和因变量,；,其次，设法,找出合适的数学方程式（即回归模型）,描述变量间的关系；,由于涉及到的变量具有不确定性，接着还要,对回归模型进行统计检验,；,例,1,从某大学中随机选取,8,名女大学生，其身高和体重数据如表,1-1,所示。,编号,1,2,3,4,5,6,7,8,身高,/cm,165,165,157,170,175,165,155,170,体重,/kg,48,57,50,54,64,61,43,59,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm,的女大学生的体重。,案例,1,：女大学生的身高与体重,解：,1,、选取身高为自变量,x,，体重为因变量,y,，作散点图：,2,、由散点图知道身高和体重有比较好的,线性相关关系，因此可以用线性回归方程,刻画它们之间的关系。,3,、从散点图还看到，样本点散布在某一条,直线的附近，而不是在一条直线上，所以,不能用一次函数,y=bx+a,描述它们关系。,我们可以用下面的,线性回归模型,来表示：,y=bx+a+e,，其中,a,和,b,为模型的未知参数，,e,称为随机误差,。,思考,P3,产生随机误差项,e,的原因是什么？,思考,P3,产生随机误差项,e,的原因是什么？,随机误差,e,的来源,(,可以推广到一般）：,1,、其它因素的影响：影响身高,y,的因素不只是体重,x,，可能 还包括遗传基因、饮食习惯、生长环境等因素；,2,、用线性回归模型近似真实模型所引起的误差；,3,、身高,y,的观测误差。,函数模型与回归模型之间的差别,函数模型：,回归模型：,可以提供,选择模型的准则,函数模型与回归模型之间的差别,函数模型：,回归模型：,线性回归模型,y=bx+a+e,增加了随机误差项,e,，因变量,y,的值由自变量,x,和,随机误差项,e,共同确定，即,自变量,x,只能解析部分,y,的变化,。,在统计中，我们也把自变量,x,称为解析变量，因变量,y,称为预报变量。,例,1,从某大学中随机选取,8,名女大学生，其身高和体重数据如表,1-1,所示。,编号,1,2,3,4,5,6,7,8,身高,/cm,165,165,157,170,175,165,155,170,体重,/kg,48,57,50,54,64,61,43,59,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm,的女大学生的体重。,案例,1,：女大学生的身高与体重,解：,1,、选取身高为自变量,x,，体重为因变量,y,，作散点图：,2,、由散点图知道身高和体重有比较好的,线性相关关系，因此可以用线性回归方程,刻画它们之间的关系。,3,、从散点图还看到，样本点散布在某一条,直线的附近，而不是在一条直线上，所以,不能用一次函数,y=bx+a,描述它们关系。,我们可以用下面的,线性回归模型,来表示：,y=bx+a+e,，其中,a,和,b,为模型的未知参数，,e,称为随机误差,。,例,1,从某大学中随机选取,8,名女大学生，其身高和体重数据如表,1-1,所示。,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm,的女大学生的体重。,根据最小二乘法估计 和 就是未知参数,a,和,b,的最好估计，,制表,x,i,2,x,i,y,i,y,i,x,i,7 8,合计,6,5,4,3,2,1,i,例,1,从某大学中随机选取,8,名女大学生，其身高和体重数据如表,1-1,所示。,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm,的女大学生的体重。,根据最小二乘法估计 和 就是未知参数,a,和,b,的最好估计，,于是有,b=,所以回归方程是,所以，对于身高为,172cm,的女大学生，由回归方程可以预报其体重为,探究,P4,：,身高为,172cm,的女大学生的体重一定是,60.316kg,吗？如果不是，你能解析一下原因吗？,探究,P4,：,身高为,172cm,的女大学生的体重一定是,60.316kg,吗？,如果不是，你能解析一下原因吗？,答：身高为,172cm,的女大学生的体重不一定是,60.316kg,，,但一般可以认为她的体重在,60.316kg,左右。,函数模型与回归模型之间的差别,函数模型：,回归模型：,如何描述两个变量之间线性相关关系的强弱？,在,数学,3,中，我们学习了用相关系数,r,来衡量两个变量,之间线性相关关系的方法。,相关系数,r,相关关系的测度,（相关系数取值及其意义）,-1.0,+1.0,0,-0.5,+0.5,完全负相关,无线性相关,完全正相关,负相关程度增加,r,正相关程度增加,对回归模型进行统计检验,思考,P6,：,如何刻画预报变量（体重）的变化？这个变化在多大程度上,与解析变量（身高）有关？在多大程度上与随机误差有关？,假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相,同。,在体重不受任何变量影响的假设下，设,8,名女大学生的体重都是她们的平均值，,即,8,个人的体重都为,54.5kg,。,54.5,54.5,54.5,54.5,54.5,54.5,54.5,54.5,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,54.5kg,在散点图中，所有的点应该落在同一条,水平直线上，但是观测到的数据并非如,此。,这就意味着,预报变量（体重）的值,受解析变量（身高）或随机误差的影响,。,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,例如，编号为,6,的女大学生的体重并没有落在水平直线上，她的体重为,61kg,。解析,变量（身高）和随机误差共同把这名学生的体重从,54.5kg“,推”到了,61kg,，相差,6.5kg,，,所以,6.5kg,是解析变量和随机误差的,组合效应,。,编号为,3,的女大学生的体重并也没有落在水平直线上，她的体重为,50kg,。解析,变量（身高）和随机误差共同把这名学生的体重从,50kg“,推”到了,54.5kg,，相差,-4.5kg,，,这时解析变量和随机误差的组合效应为,-4.5kg,。,用这种方法可以对所有预报变量计算组合效应。,数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用,表示总的效应，称为,总偏差平方和,。,在例,1,中，总偏差平方和为,354,。,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,那么，在这个总的效应（总偏差平方和）中，有多少来自于解析变量（身高）？,有多少来自于随机误差？,假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图,中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归,直线上。,这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上,“推”开了,。,在例,1,中，残差平方和约为,128.361,。,因此，数据点和它在回归直线上相应位置的差异 是随机误差的效应，,称 为,残差,。,例如，编号为,6,的女大学生，计算随机误差的效应（残差）为：,对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号,称为,残差平方和,，,它代表了随机误差的效应。,表示为：,由于解析变量和随机误差的总效应（总偏差平方和）为,354,，而随机误差的效应为,128.361,，所以解析变量的效应为,解析变量和随机误差的总效应（总偏差平方和）,=,解析变量的效应（回归平方和）,+,随机误差的效应（残差平方和）,354-128.361=225.639,这个值称为,回归平方和。,我们可以用,相关指数,R,2,来刻画回归的效果，其计算公式是,离差平方和的分解,（三个平方和的意义）,总偏差平方和,(,SST,),反映因变量的,n,个观察值与其均值的总离差,回归平方和,(,SSR,),反映自变量,x,的变化对因变量,y,取值变化的影响，或者说，是由于,x,与,y,之间的线性关系引起的,y,的取值变化，也称为可解释的平方和,残差平方和,(,SSE,),反映除,x,以外的其他因素对,y,取值的影响，也称为不可解释的平方和或剩余平方和,样本决定系数,（判定系数,r,2,）,回归平方和占总离差平方和的比例,反映回归直线的拟合程度,取值范围在,0,1,之间,r,2,1,，说明回归方程拟合的越好；,r,2,0,，说明回归方程拟合的越差,判定系数等于相关系数的平方，即,r,2,(,r,),2,我们可以用,相关指数,R,2,来刻画回归的效果，其计算公式是,显然，,R,2,的值越大，说明残差平方和越小，也就是说模型拟合效果越好。,在线性回归模型中，,R,2,表示解析变量对预报变量变化的贡献率,。,R,2,越接近,1,，表示回归的效果越好（因为,R,2,越接近,1,，表示解析变量和预报变量的,线性相关性越强）。,如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较,R,2,的值,来做出选择，即,选取,R,2,较大的模型作为这组数据的模型,。,总的来说：,相关指数,R,2,是度量模型拟合效果的一种指标。,在线性模型中，它,代表自变量刻画预报变量的能力,。,我们可以用,相关指数,R,2,来刻画回归的效果，其计算公式是,1,354,总计,0.36,128.361,残差变量,0.64,225.639,随机误差,比例,平方和,来源,表,1-3,从表,3-1,中可以看出，解析变量对总效应约贡献了,64%,，即,R,2,0.64,，可以叙述为,“身高解析了,64%,的体重变化”，而随机误差贡献了剩余的,36%,。,所以，身高对体重的效应比随机误差的效应大得多。,表,1-4,列出了女大学生身高和体重的原始数据以及相应的残差数据。,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，,是否可以用回归模型来拟合数据。,残差分析与残差图的定义：,然后
展开阅读全文