资源描述
,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,0,3.1 回归分析的基本思想及其初步应用,3.1 回归分析的基本思想及其初步应用,1,一、相关知识的回顾,回归分析,是对具有相关关系的两个变 量进行统计分析的一种方法。,2,、线性回归分析的步骤是什么？,（,1,）画出两个变量的散点图,。,（,2,）求回归直线方程。,（,3,）用回归直线方程进行预报。,1,、什么叫回归分析？,3.,求回归直线方程的截距 和斜率 是根据,估算得,最小二乘法,一、相关知识的回顾回归分析是对具有相关关系的两个变 量进行统,2,二、新课,（一）最小二乘法,二、新课（一）最小二乘法,3,例,从某大学中随机选取,8,名女大学生，其身高和体重数据如下表所示,：,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm,的女大学生的体重。,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,例 从某大学中随机选取8名女大学生，其身高和体重数据如下表,4,解：,1,、选取身高为自变量,x,，体重为因变量,y,，作散点,图：,2,、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。,解：1、选取身高为自变量x，体重为因变量y，作散点2、由散点,5,于是有,根据最小二乘法估计 和 就是未知参数,a,和,b,的最好估计，,所以回归方程是,所以，对于身高为,172cm,的女大学生，由回归方程可以预报其体重为,于是有根据最小二乘法估计 和 就是未知参数a和b的,6,从散点图可以看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以不能用一次函数,y=bx+a,描述它们关系。,我们可以用下面的,线性回归模型,来表示：,y=bx+a+e,，其中,a,和,b,为模型的未知参数，,e,称为随机误差,。,思考,产生随机误差项,e,的原因是什么？,探究：,身高为,172cm,的女大学生的体重一定是,60.316kg,吗？如果不是，你能解析一下原因吗？,从散点图可以看到，样本点散布在某一条直线的附近，而不是在一条,7,思考：,产生随机误差项,e,的原因是什么？,随机误差,e,的来源：,1,、其它因素的影响：影响体重,y,的因素不只是身高,x,，可能还包括遗传基因、饮食习惯、是否喜欢运动、生长环境等因素；,2,、用线性回归模型近似真实模型所引起的误差；,3,、体重,y,的观测误差。,（三）、随机误差、残差以及相关指数,思考：产生随机误差项e的原因是什么？随机误差e的来源：（三）,8,线性回归模型,y=bx+a+e,增加了随机误差项,e,，因变量,y,的值由自变量,x,和随机误差项,e,共同确定，即,自变量,x,只能解析部分,y,的变化,。,在统计中，我们也把自变量,x,称为解析变量，因变量,y,称为预报变量。,思考：我们如何研究随机误差？（阅读教材,P84,）,线性回归模型y=bx+a+e增加了随机误差项e，因变量y的值,9,下表列出了女大学生身高和体重的原始数据以及相应的残差数据。,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，,是否可以用回归模型来拟合数据。,残差分析与残差图的定义：,编号,1,2,3,4,5,6,7,8,身高,/cm,165,165,157,170,175,165,155,170,体重,/kg,48,57,50,54,64,61,43,59,残差,-6.373,2.627,2.419,-4.618,1.137,6.627,-2.883,0.382,我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为,残差图,。,然后，我们可以通过残差,，来判断模型拟合的效果，判断原始数据中是否存在可疑数据，这方面的分析工作称为残差分析,下表列出了女大学生身高和体重的原始数据以及相应的残差数据。,10,残差图的制作及作用。,坐标纵轴为残差变量，横轴可以有不同的选择；,若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域；,对于远离横轴的点，要特别注意。,身高与体重残差图,异常点,错误数据,模型问题,几点说明：,第一个样本点和第,6,个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。,另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,残差图的制作及作用。身高与体重残差图异常点 错误数据,11,假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相同。,在体重不受任何变量影响的假设下，设,8,名女大学生的体重都是她们的平均值，即,8,个人的体重都为,54.5kg,。,54.5,54.5,54.5,54.5,54.5,54.5,54.5,54.5,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,54.5kg,在散点图中，所有的点应该落在同一条水平直线上，但是观测到的数据并非如此。,这就意味着,预报变量（体重）的值受解析变量（身高）或随机误差的影响,。,假设身高和随机误差的不同不会对体重产生任何影响，,12,59,43,61,64,54,50,57,48,体重,/kg,170,155,165,175,170,157,165,165,身高,/cm,8,7,6,5,4,3,2,1,编号,例如，编号为,6,的女大学生的体重并没有落在水平直线上，她的体重为,61kg,。解析变量（身高）和随机误差共同把这名学生的体重从,54.5kg“,推”到了,61kg,，相差,6.5kg,，所以,6.5kg,是解析变量和随机误差的,组合效应,。,编号为,3,的女大学生的体重并也没有落在水平直线上，她的体重为,50kg,。解析变量（身高）和随机误差共同把这名学生的体重从,50kg“,推”到了,54.5kg,，相差,-4.5kg,，这时解析变量和随机误差的组合效应为,-4.5kg,。,用这种方法可以对所有预报变量计算组合效应。,数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用,表示总的效应，称为,总偏差平方和,。,在例,1,中，总偏差平方和为,354,。,5943616454505748体重/kg170155165,13,那么，在这个总的效应（总偏差平方和）中，有多少来自于解析变量（身高）？有多少来自于随机误差？,假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归直线上。,这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上,“推”开了,。,因此，数据点和它在回归直线上相应位置的差异 是随,机误差的效应，称 为,残差,。,那么，在这个总的效应（总偏差平方和）中，有多少来自,14,在例,1,中，残差平方和约为,128.361,。,例如，编号为,6,的女大学生，计算随机误差的效应（残差）为：,对每名女大学生计算这个差异，然后分别将所得的值平方后加,起来，用数学符号表示为：,它代表了随机误差的效应。,称为,残差平方和,，,在例1中，残差平方和约为128.361。例如，编号为6的女大,15,由于解析变量和随机误差的总效应（总偏差平方和）为,354,，而随机误差的效应为,128.361,，所以解析变量的效应为,解析变量和随机误差的总效应（总偏差平方和）,=,解析变量的效应（回归平方和）,+,随机误差的效应（残差平方和）,354-128.361=225.639,这个值称为,回归平方和。,我们可以用,相关指数,R,2,来刻画回归的效果，其计算公式是,由于解析变量和随机误差的总效应（总偏差平方和）为3,16,显然，,R,2,的值越大，说明残差平方和越小，也就是说模型拟合效果越好。,在线性回归模型中，,R,2,表示解析变量对预报变量变化的贡献率,。,R,2,越接近,1,，表示回归的效果越好（因为,R,2,越接近,1,，表示解析变量和预报变量的线性相关性越强）。,如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较,R,2,的值来做出选择，即,选取,R,2,较大的模型作为这组数据的模型,。,总的来说：,相关指数,R,2,是度量模型拟合效果的一种指标。,在线性模型中，它,代表自变量刻画预报变量的能力,。,显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果,17,1,354,总计,0.36,128.361,残差变量,0.64,225.639,解析变量,比例,平方和,来源,从上表中可以看出，解析变量对总效应约贡献了,64%,，即,R,2,0.64,，可以叙述为“身高解析了,64%,的体重变化”，而随机误差贡献了剩余的,36%,。所以，身高对体重的效应比随机误差的效应大得多。,我们可以用,相关指数,R,2,来刻画回归的效果，其计算公式是,1354总计0.36128.361残差变量0.64225.6,18,用身高预报体重时，需要注意下列问题：,1,、回归方程只适用于我们所研究的样本的总体；,2,、我们所建立的回归方程一般都有时间性；,3,、样本采集的范围会影响回归方程的适用范围；,4,、不能期望回归方程得到的预报值就是预报变量的精确值。,事实上，它是预报变量的可能取值的平均值。,这些问题也使用于其他问题。,涉及到统计的一些思想：,模型适用的总体；,模型的时间性；,样本的取值范围对模型的影响；,模型预报结果的正确理解。,用身高预报体重时，需要注意下列问题：1、回归方程只适用于我们,19,一般地，建立回归模型的基本步骤为：,（,1,）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。,（,2,）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。,（,3,）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程,y=bx+a,）,.,（,4,）按一定规则估计回归方程中的参数（如最小二乘法）。,（,5,）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），若存在异常，则检查数据是否有误，或模型是否合适等。,一般地，建立回归模型的基本步骤为：（1）确定研究对象，明确哪,20,学科,A,B,C,D,E,数学成绩,x,/,分,88,76,73,66,63,物理成绩,y,/,分,78,65,71,64,61,学科ABCDE 数学成绩x/分8876736663物理成绩y,21,根据表中数据可以求得,根据表中数据可以求得,22,小结：,2.,正确认识回归模型预报结果,3.,残差分析和相关指数,R,2,的作用,1.,如何求回归直线方程？,小结：2.正确认识回归模型预报结果3.残差分析和相关指数R,23,谢谢,谢谢,24,
展开阅读全文