资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,1回归分析的基本思想及其初步应用,知识结构,收集数据,(随机抽样),整理、分析数据估计、推断,简单随机抽样,分层抽样,系统抽样,用样本估计总体,变量间的相关关系,用样本的频率分布估计总体分布,用样本数字特征估计总体数字特征,线性回归分析,1、两个变量的关系,不相关,相关关系,函数关系,线性相关,非线性相关,问题1：现实生活中两个变量间的关系有哪些呢？,相关关系：,对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系。,思考,：相关关系与函数关系有怎样的不同？,函数关系,中的两个变量间是一种,确定性关系,相关关系,是一种,非,确定性关系,函数关系是一种理想的关系模型,相关关系在现实生活中大量存在，是更一般的情况,问题2：对于线性相关的两个变量用什么方法来刻划之间的关系呢？,2、最小二乘估计,最小二乘估计下的线性回归方程：,3、,回归分析的基本步骤:,画散点图,求回归方程,预报、决策,散点图直观,判断两个变量之间是否存在线性相关关系？,例1,从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。,编号,1,2,3,4,5,6,7,8,身高/cm,165,165,157,170,175,165,155,170,体重/kg,48,57,50,54,64,61,43,59,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm的女大学生的体重。,案例1：女大学生的身高与体重,解：1、选取身高为自变量x，体重为因变量y，作散点图：,2、由散点图知道身高和体重有比较好的,线性相关关系，因此可以用线性回归方程,刻画它们之间的关系。,3、从散点图还看到，样本点散布在某一条,直线的附近，而不是在一条直线上，所以,不能用一次函数y=bx+a描述它们关系。,3.求线性回归方程的步骤：,(1)计算平均数,(2)计算 与 的积,求,(3)计算,(4)将上述有关结果代入公式，求b、a，写出回归直线方程,例1,从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。,59,43,61,64,54,50,57,48,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm的女大学生的体重。,根据最小二乘法估计 和 就是未知参数a和b的最好估计，,制表,x,i,2,x,i,y,i,y,i,x,i,7 8 合计,6,5,4,3,2,1,i,例1,从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。,59,43,61,64,54,50,57,48,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm的女大学生的体重。,根据最小二乘法估计 和 就是未知参数a和b的最好估计，,于是有b=,所以回归方程是,探究：,身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？,探究：,身高为172cm的女大学生的体重一定是60.316kg吗？,如果不是，你能解析一下原因吗？,答：身高为172cm的女大学生的体重不一定是60.316kg，,但一般可以认为她的体重在60.316kg左右。,函数模型与回归模型之间的差别,函数模型：,回归模型：,例1,从某大学中随机选取8名女大学生，其身高和体重数据如表1-1所示。,编号,1,2,3,4,5,6,7,8,身高/cm,165,165,157,170,175,165,155,170,体重/kg,48,57,50,54,64,61,43,59,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm的女大学生的体重。,案例1：女大学生的身高与体重,解：1、选取身高为自变量x，体重为因变量y，作散点图：,2、由散点图知道身高和体重有比较好的,线性相关关系，因此可以用线性回归方程,刻画它们之间的关系。,3、从散点图还看到，样本点散布在某一条,直线的附近，而不是在一条直线上，所以,不能用一次函数y=bx+a描述它们关系。,我们可以用下面的,线性回归模型,来表示：,y=bx+a+e,，其中a和b为模型的未知参数，,e称为随机误差,。,思考,产生随机误差项e,的原因是什么？,思考,产生随机误差项e的原因是什么？,随机误差e的来源(可以推广到一般）：,1、其它因素的影响：影响身高,y,的因素不只是体重,x,，可能 还包括遗传基因、饮食习惯、生长环境等因素；,2、用线性回归模型近似真实模型所引起的误差；,3、身高 y 的观测误差。,线性回归模型y=bx+a+e增加了随机误差项e，,因变量y的值由自变量x和随机误差项e共同确定，,即,自变量x只能解析部分y的变化,。,在统计中，我们也把自变量x称为解析变量，,因变量y称为预报变量。,4、,线性回归模型,随机误差e是什么？,编号,1,2,3,4,5,6,7,8,身高/cm,165,165,157,170,175,165,155,170,体重/kg,48,57,50,54,64,61,43,59,残差e,-6.373,2.627,2.419,-4.618,1.137,6.627,-2.883,0.382,是一个变量,59,43,61,64,54,50,57,48,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,在例1中，残差平方和约为128.361。,因此，数据点和它在回归直线上相应位置的差异 是随机误差的效应，,称 为,残差,。,对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号,称为,残差平方和,，,它代表了随机误差的效应。,表示为：,对回归模型进行统计检验,离差平方和的分解,（三个平方和的意义）,总偏差平方和,(,SST,),反映因变量的,n,个观察值与其,均值,的总离差,回归平方和,(,SSR,),反映自变量,x,的变化对因变量,y,取值变化的影响，或者说，是由于,x,与,y,之间的线性关系引起的,y,的取值变化，也称为可解释的平方和,残差平方和,(,SSE,),反映除,x,以外的其他因素（,随机误差,e,）,对,y,取值的影响，也称为不可解释的平方和或剩余平方和,假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相,同。,在体重不受任何变量影响的假设下，设8名女大学生的体重都是她们的平均值，,即8个人的体重都为54.5kg。,54.5,54.5,54.5,54.5,54.5,54.5,54.5,54.5,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,54.5kg,在散点图中，所有的点应该落在同一条,水平直线上，但是观测到的数据并非如,此。,这就意味着,预报变量（体重）的值,受解析变量（身高）或随机误差的影响,。,59,43,61,64,54,50,57,48,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,例如，编号为6的女大学生的体重并没有落在水平直线上，她的体重为61kg。解析,变量（身高）和随机误差共同把这名学生的体重从54.5kg“推”到了61kg，相差6.5kg，,所以,6.5kg是解析变量和随机误差的,组合效应,。,编号为3的女大学生的体重并也没有落在水平直线上，她的体重为50kg。解析,变量（身高）和随机误差共同把这名学生的体重从50kg“推”到了54.5kg，相差-4.5kg，,这时解析变量和随机误差的组合效应为,-4.5kg,。,用这种方法可以对所有预报变量计算组合效应。,数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用,表示总的效应，称为,总偏差平方和,。,在例1中，总偏差平方和为354。,由于解析变量和随机误差的总效应（总偏差平方和）为354，而随机误差的效应为,128.361，所以解析变量的效应为,解析变量和随机误差的总效应（总偏差平方和）,=解析变量的效应（回归平方和）+随机误差的效应（残差平方和）,354-128.361=225.639,这个值称为,回归平方和。,思考：,如何刻画预报变量（体重）的变化？这个变化在多大程度上,与解析变量（身高）有关？在多大程度上与随机误差有关？,由于解析变量和随机误差的总效应（总偏差平方和）为354，而随机误差的效应为,128.361，所以解析变量的效应为,解析变量和随机误差的总效应（总偏差平方和）,=解析变量的效应（回归平方和）+随机误差的效应（残差平方和）,354-128.361=225.639,这个值称为,回归平方和。,我们可以用,相关指数R,2,来刻画回归的效果，其计算公式是,我们可以用,相关指数R,2,来刻画回归的效果，其计算公式是,显然，R,2,的值越大，说明残差平方和越小，也就是说模型拟合效果越好。,在线性回归模型中，R,2,表示解析变量对预报变量变化的贡献率,。,R,2,越接近1，表示回归的效果越好（因为R,2,越接近1，表示解析变量和预报变量的,线性相关性越强）。,如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R,2,的值,来做出选择，即,选取R,2,较大的模型作为这组数据的模型,。,总的来说：,相关指数R,2,是度量模型拟合效果的一种指标。,在线性模型中，它代表,解释变量(自变量)刻画预报变量,的能力。,我们可以用,相关指数R,2,来刻画回归的效果，其计算公式是,1,354,总计,0.36,128.361,残差变量,0.64,225.639,随机误差,比例,平方和,来源,表1-3,从表3-1中可以看出，解析变量对总效应约贡献了64%，即R,2,0.64，可以叙述为,“身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。,所以，身高对体重的效应比随机误差的效应大得多。,表1-4列出了女大学生身高和体重的原始数据以及相应的残差数据。,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，,是否可以用回归模型来拟合数据。,残差分析与残差图的定义：,然后，我们可以通过残差 来判断模型拟合的效果，判断原始,数据中是否存在可疑数据，,这方面的分析工作称为残差分析,。,编号,1,2,3,4,5,6,7,8,身高/cm,165,165,157,170,175,165,155,170,体重/kg,48,57,50,54,64,61,43,59,残差,-6.373,2.627,2.419,-4.618,1.137,6.627,-2.883,0.382,我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本,编号，或身高数据，或体重估计值等，这样作出的图形称为,残差图,。,残差图的制作及作用。,坐标纵轴为残差变量，横轴可以有不同的选择；,若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域,；,对于远离横轴的点，要特别注意,。,身高与体重残差图,异常点,错误数据,模型问题,几点说明：,第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。,另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,用身高预报体重时，需要注意下列问题：,1、回归方程只适用于我们所研究的样本的总体；,2、我们所建立的回归方程一般都有时间性；,3、样本采集的范围会影响回归方程的适用范围；
展开阅读全文