回归分析的基本思想

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,回归分析的基本思想及其初步应用,1,3.1回归分析的基本思想及其初步应用（一）,高二数学 选修2-3,9/10/2024,2,两个变量的关系,不相关,相关关系,函数关系,线性相关,非线性相关,现实生活中两个变量间的关系:,相关关系,：对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系.,函数关系中的两个变量间是一种确定性关系,相关关系是一种非确定性关系,函数关系是一种理想的关系模型,相关关系在现实生活中大量存在，是更一般的情况,3,表示有一组具体的数据估计得到的截距和斜率;,a,b,y表示真实值;,表示由真实值a,b所确定的值.,表示由估计值 所确定的值.,4,这种方法称为回归分析.,两个具有线性相关关系的变量的统计分析：,（1）画散点图；,（2）求回归直线方程(最小二乘法)：,（3）利用回归直线方程进行预报；,回归分析,是对具有相关关系的两个变量进行统计分析的一种常用方法.,为样本点的中心,样本点：,5,2008年5月，中共中央国务院关于加强青少年体育、增强青少年体质的意见指出城市超重和肥胖青少年的比例明显增加.“身高标准体重”该指标对于学生形成正确的身体形态观具有非常直观的教育作用. “身高标准体重”从何而来？我们怎样去研究?,创设情境：,6,某大学中随机选取8名女大学生，其身高和体重数据如下表所示.,编号,1,2,3,4,5,6,7,8,身高/cm,165,165,157,170,175,165,155,170,体重/kg,48,57,50,54,64,61,43,59,求根据女大学生的身高预报体重的回归方程，并预报一名身高为172cm的女大学生的体重.,7,解：取身高为解释变量x，体重为预报变量y，作散点图：,样本点呈条状分布，身高和体重有较好的线性相关关系，因此可以用回归方程来近似的刻画它们之间的关系.,8,由,得：,故所求回归方程为：,因此，对于身高172cm的女大学生，由回归方程可以预报其体重为：,是斜率的估计值，说明身高x每增加1个单位时，体重y就增加0.849个单位，这表明体重与身高具有正的线性相关关系.,如何描述它们之间线性相关关系的强弱？,9,相关系数,相关系数的性质,(1)|r|1,(2)|r|越接近于1，相关程度越强；|r|越接近于0，相关程度越弱,注:b 与 r 同号,问题：达到怎样程度，x、y线性相关呢？它们的相关程度怎样呢？,r,10,相关系数,正相关；负相关,通常：,r,-1,-0.75-负相关很强;,r0.75,1正相关很强;,r-0.75,-0.3-负相关一般; r0.3, 0.75正相关一般;,r-0.25, 0.25-相关性较弱;,对r进行显著性检验,r,11,某大学中随机选取8名女大学生，其身高和体重数据如下表所示.,编号,1,2,3,4,5,6,7,8,身高/cm,165,165,157,170,175,165,155,170,体重/kg,48,57,50,54,64,61,43,59,求根据女大学生的身高预报体重的回归方程，并预报一名身高为172cm的女大学生的体重.,故所求回归方程为：,r=0.798,表明体重与身高有很强的线性相关性，从而说明我们建立的回归模型是有意义的.,认为她的平均体重的估计值是60.316kg.,12,因为所有的样本点不共线，所以线性函数模型只能近似地刻画身高和体重之间的关系，即：体重不仅受身高的影响，还受其他因素的影响，把这种影响的结果用e来表示，从而把线性函数模型修改为线性回归模型：y=bx+a+e.其中，e包含体重不能由身高的线性函数解释的所有部分.,13,线性回归模型,其中a和b为模型的未知参数，e是y与,之间的误差，通常,e为随机变量,，称为,随机误差,.,均值E(e)=0，方差D(e)=,2,0,线性回归模型的完整表达式为：,线性回归模型适用范围比一次函数的适用范围大得多.当随机误差e恒等于0时，线性回归模型就变成一次函数模型.即：一次函数模型是线性回归模型的特殊形式，线性回归模型是一次函数模型的一般形式.,14,随机误差是引起预报值 与真实值y之间的误差的原因之一，其大小取决于随机误差的方差.,和 为截距和斜率的估计值，它们与真实值a和b之间存在误差是引起预报值 与真实值y之间的误差的另一个原因.,15,随机误差e的主要来源：,（1）,用线性回归模型近似真实模型,（真实模型是客观存在的，但我们并不知道到底是什么）,所引起的误差,.可能存在非线性的函数能更好的描述y与x之间的关系，但我们现在却用线性函数来表述这种关系，结果就产生误差，这种由于模型近似所引起的误差包含在e中.,（2）,忽略了某些因素的影响.,影响变量y的因素不止变量x一个，可能还有其他因素，但通常它们每一个因素的影响可能都比较小，它们的影响都体现在e中.,（3）,观测误差,.由于测量工具等原因，得到的y的观测值一般是有误差的，这样的误差也包含在e中.,以上三项误差越小，则回归模型的拟合效果越好.,16,在线性回归模型中，e是用 预报真实值y的误差，它是一个不可观测的量，那么该怎样研究随机误差，如何衡量预报的精度？,由于随机误差e的均值为0，故采用方差 来衡量随机误差的大小.,17,假设 1:身高和随机误差的不同不会对体重产生任何影响，,54.5,54.5,54.5,54.5,54.5,54.5,54.5,54.5,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,54.5kg,怎样研究随机误差？,18,59,43,61,64,54,50,57,48,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,例如，编号为6的女大学生的体重并没有落在水平直线上，她的体重为61kg。解释变量（身高）和随机误差共同把这名学生的体重从54.5kg“推”到了61kg，相差6.5kg，所以,6.5kg,是解释变量和随机误差的,组合效应,。,用这种方法可以对所有预报变量计算组合效应。,数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用,表示总的效应，称为,总偏差平方和,。,19,59,43,61,64,54,50,57,48,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,假设2:随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图,中所有的点将完全落在回归直线上。,怎样研究随机误差？,20,因此，数据点和它在回归直线上相应位置的差异 是随机误差的效应，,称 为,残差,。,例如，编号为6的女大学生，计算随机误差的效应（残差）为：,对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号,称为,残差平方和,，,它代表了随机误差的效应。,表示为：,21,随机误差,e的估计量,样本点：,相应的随机误差为：,随机误差的估计值为：,称为相应于点 的,残差.,的估计量,为,称为,残差平方和.,22,残差分析,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否是线性相关，是否可以用线性回归模型来拟合数据.然后，可以通过残差 来判断模型拟合的效果，判断原始数据中是否存在可疑数据.这方面的分析工作称为残差分析.,23,0.382,-2.883,6.627,1.137,-4.618,2.419,2.627,-6.373,残差,59,43,61,64,54,50,57,48,体重/kg,170,155,165,175,170,157,165,165,身高/cm,8,7,6,5,4,3,2,1,编号,下表为女大学生身高和体重的原始数据以及相应的残差数据：,e,以纵坐标为残差，横坐标为编号，作出图形（,残差图,）来分析残差特性.,24,问题：,如何发现数据中的错误？,(1)我们可以通过分析发现原始数据中的可疑数据，判断建立模型的拟合效果。,25,残差图的制作和作用：,制作：坐标,纵轴,为残差变量，横轴可以有不同的选择.,横轴,为编号：可以考察残差与编号次序之间的关系， 常用于调查数据错误,.,横轴,为解释变量：可以考察残差与解释变量的关系，常用于研究模型是否有改进的余地,.,作用：判断模型的适用性若模型选择的正确，残差图中的点应该分布在以横轴为中心的带形区域,.,问题：,如何发现数据中的错误？,26,残差图的制作及作用。,坐标纵轴为残差变量，横轴可以有不同的选择；,若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域,；,对于远离横轴的点，要特别注意,。,身高与体重残差图,异常点,错误数据,模型问题,几点说明：,第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。,另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,27,我们可以用,相关指数R,2,来刻画回归的效果，其计算公式是,如何衡量预报的精度？,显然，R,2,的值越大，说明残差平方和越小，也就是说模型拟合效果越好。,如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R,2,的值来做出选择，即选取R,2,较大的模型作为这组数据的模型。,28,1,354,总计,0.36,128.361,残差变量,0.64,225.639,随机误差,比例,平方和,来源,从上中可以看出，解析变量对总效应约贡献了64%，即,R,2,0.64，可以叙述为“身高解析了64%的体重变化”，而随机误,差贡献了剩余的36%。,所以，身高对体重的效应比随机误差的效应大得多。,问题：,如何衡量随机模型的拟合效果？,下面我们用相关指数分析一下例1：,29,问题：结合例1思考：用回归方程预报体重时应注意什么？,用身高预报体重时应注意的问题：,1.回归方程只适用于我们所研究的样本的总体。,2.我们建立的回归方程一般都有时间性。,3.样本取值的范围会影响回归方程的适用范围。,4.不能期望回归方程得到的预报值就是预报变量的精确值。,涉及到统计的一些思想：,模型适用的总体；模型的时间性；,样本的取值范围对模型的影响；模型预报结果的正确理解。,30,一般地，建立回归模型的基本步骤为：,（1）确定研究对象，明确哪个变量是解释变量，哪个变量是预报变量。,（2）画出确定好的解释变量和预报变量的散点图，观察它们之间的关系,（如是否存在线性关系等）。,（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程y=bx+a）.,（4）按一定规则估计回归方程中的参数（如最小二乘法）。,（5）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），若存在异常，则检查数据是否有误，或模型是否合适等。,问题：,归纳建立回归模型的基本步骤。,31,问题六：,若两个变量呈现非线性关系，如何解决？（分析例2）,例2,一只红铃虫的产卵数y和温度x有关。现收集了7组观测数据列于表中：,温度,x,o,C,21,23,25,27,29,32,35,产卵数,y,/个,7,11,21,24,66,115,325,（1）试建立产卵数y与温度x之间的回归方程；并预测温度为28,o,C时产卵数目。,（2）你所建立的模型中温度在多大程度上解释了产卵数的变化？,32,选变量,解：选取气温为解释变量,x,，产卵数,为预报变量,y,。,画散点图,假设线性回归方程为,：,=bx+a,选 模 型,分析和预测,当,x,=28,时，,y =,19.8728-463.73 93,估计参数,由计算器得：线性回归方程为,y=,19.87,x,-463.73,相关指数R,2,=,r,2,0.864,2,=0.7464,所以，一次函数模型中温度解释了74.64%的产卵数变化。,0,50,100,150,200,250,300,350,0,3,6,9,12,15,18,21,24,27,30,33,36,39,当,x,=28时，,y =,19.8728-463.73 93,方法一：一元函数模型,问题六：,若两个变量呈现非线性关系，如何解决？（分析例2）,33,y=,c,1,x,2,+,c,2,变换,y=,c,1,t+,c,2,非线性关系 线性关系,问题,选用y=c,1,x,2,+c,2,，还是y=c,1,x,2,+cx+c,2,？,问题3,产卵数,气温,问题2,如何求c,1,、c,2,？,t,=x,2,方法二，二元函数模型,问题六：,若两个变量呈现非线性关系，如何解决？（分析例2）,34,平方变换,：,令,t=x,2,，产卵数,y,和温度,x,之间二次函数模型,y=bx,2,+a,就转化为产卵数,y,和温度的平方,t,之间线性回归模型,y=bt+a,温度,21,23,25,27,29,32,35,温度的平方,t,441,529,625,729,841,1024,1225,产卵数,y,/,个,7,11,21,24,66,115,325,作散点图，并由计算器得：,y,和,t,之间的线性回归方程为,y=,0.367,t,-202.54，相关指数R,2,=,r,2,0.896,2,=0.802,将,t=x,2,代入线性回归方程得：,y=,0.367,x,2,-202.54,当,x,=28时,，y,=0.36728,2,-202.5485，且,R,2,=0.802，,所以，二次函数模型中温度解,释了80.2%的产卵数变化。,t,问题六：,若两个变量呈现非线性关系，如何解决？（分析例2）,35,产卵数,气温,变换,y=bx+a,非线性关系 线性关系,对数,问题六：,若两个变量呈现非线性关系，如何解决？（分析例2）,方法三：指数函数模型,36,温度,x,o,C,21,23,25,27,29,32,35,z=lgy,0.85,1.04,1.32,1.38,1.82,2.06,2.51,产卵数,y,/,个,7,11,21,24,66,115,325,x,z,当x=28,o,C,时，y 44 ，指数回归模型中温度解释了98%的产卵数的变化,由计算器得：z关于,x,的线性回归方程,为z=0.272,x,-3.849 ，,相关指数R,2,=,r,2,0.9925,2,=0.98,对数变换：在 中两边取自然对数得,令 ，则,就转换为,z,=bx+a,问题六：,若两个变量呈现非线性关系，如何解决？（分析例2）,37,函数模型,相关指数,R,2,线性回归模型,0.7464,二次函数模型,0.802,指数函数模型,0.98,最好的模型是哪个?,显然，指数函数模型最好！,问题六：,若两个变量呈现非线性关系，如何解决？（分析例2）,38,课堂知识延伸,我们知道，刑警如果能在案发现场提取到罪犯的脚印，即将获得一条重要的破,案线索，其原因之一是人类的脚掌长度和身高存在着相关关系，可以根据一个人的,脚掌长度来来预测他的身高,我们还知道，在统计史上，很早就有人收集过人们的身高、前臂长度等数据，,试图寻找这些数据之间的规律,在上述两个小故事的启发下，全班同学请分成一些小组，每组4-6名同学，在老,师的指导下，开展一次数学建模活动，来亲自体验回归分析的思想方法，提高自己的,实践能力。,数学建模的题目是：收集一些周围人们的脚掌长度、前臂长度中的一个数据及其,身高，来作为两个变量画散点图，如果这两个变量之间具有线性相关关系，就求出回,归直线方程，另选一个人的这两个变量的数据，作一次预测，并分析预测结果。,最后以小组写出数学建模报告，报告要求过程清晰，结论明确，有关数学论述准,确，以下两个问题需要注意：,（1）如果脚掌长度不方便，可改量脚印的长度。,（2）数据尽量取得分散一些。,39,