《大数据处理与智能决策》教学ppt课件-一元线性回归分析案例

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,一元线性回归分析案例,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,一元线性回归分析案例课题：选修2-3 8.5 回归分析案例,回归分析,确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。,按照涉及的变量的多少，分为一元回归和多元回归分析。,按照因变量的多少，可分为简单回归分析和多重回归分析。,按照自变量和因变量之间的关系类型，可分为线性回归分析和非线性回归分析。,2,回归分析确定两种或两种以上变量间相互依赖的定量关系的一种统计,线性回归,简单线性回归模型有一个回归变量,x,，回归变量,x,与响应变量,y,之间存在直线关系，简单线性回归模型为：,X,Y,4.94,4.37,-1.58,1.7,-4.45,1.88,-6.06,0.56,-1.22,2.23,-3.55,1.53,样本数据集：,regressor_data.csv,样本散点图：,线性回归简单线性回归模型有一个回归变量x，回归变量x与响应变,线性回归实践（,Linear Regression.py,）,线性回归实践（Linear Regression.py）,岭回归（,Ridge,Regression,）,岭回归是一种改良的最小二乘估计法，以损失部分信息、降低精度为代价获得回归系数，它是更为符合实际、更可靠的回归方法,。,对存在离群点的数据的拟合要强于最小二乘法。,岭回归（Ridge Regression）岭回归是一种改良的,多项式回归,(Polynomial Regression),有时候，线性回归并不适用于所有全部的数据，需要曲线来适应数据，比如二次模型，三次模型等。,一元多项式回归可以表示成如下形式：,多项式回归(Polynomial Regression)有时,多项式回归,(PolynomialRegression.py),分析代码中如何构造多项式回归的模型？,各个变量的含义。,对变量进行的变换具有什么目的？,多项式回归(PolynomialRegression.py),作业：房屋价格预测,数据文件：,housing.data,用散点图分析各个属性与房价的关系,将数据划分为训练数据和测试数据,分别建立,linear regressor,和,ridge regressor,分析两个模型的预测结果,作业：房屋价格预测数据文件：housing.data,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,数学,统计内容,画散点图,了解最小二乘法的思想,求回归直线方程,y,bx,a,用回归直线方程解决应用问题,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,问题,1,：正方形的面积,y,与正方形的边长,x,之间,的,函数关系,是,y = x,2,确定性关系,问题,2,：某水田水稻产量,y,与施肥量,x,之间是否,有一个确定性的关系？,例如：在,7,块并排、形状大小相同的试验田上,进行施肥量对水稻产量影响的试验，得,到如下所示的一组数据：,施化肥量,x,15 20 25 30 35 40 45,水稻产量,y,330 345 365 405 445 450 455,复习 变量之间的两种关系,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,10 20 30 40 50,500,450,400,350,300,施化肥量,x,15 20 25 30 35 40 45,水稻产量,y,330 345 365 405 445 450 455,x,y,施化肥量,水稻产量,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系叫做,相关关系,。,1,、相关关系的定义,：,1,）：相关关系是一种不确定性关系；,注,对具有相关关系的两个变量进行统计分析的方法叫,回归分析,。,2,）：,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,自变量取值一定时，因变量的取值带有一定随机性的两,现实生活中存在着大量的相关关系。,如：人的身高与年龄；,产品的成本与生产数量；,商品的销售额与广告费；,家庭的支出与收入。等等,探索：水稻产量,y,与施肥量,x,之间大致有何规律？,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,现实生活中存在着大量的相关关系。探索：水稻产量y与施肥量x,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,10 20 30 40 50,500,450,400,350,300,发现：图中各点，大致分布在某条直线附近。,探索,2,：在这些点附近可画直线不止一条，哪条直线最能代表,x,与,y,之间的关系呢？,施化肥量,x,15 20 25 30 35 40 45,水稻产量,y,330 345 365 405 445 450 455,x,y,散点图,施化肥量,水稻产量,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,10 20 30 40 50,500,450,400,350,300,x,y,施化肥量,水稻产量,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,对于一组具有线性相关关系的数据,我们知道其回归方程的截距和斜率的最小二乘估计公式分别为：,称为样本点的中心。,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,对于一组具有线性相关关系的数据我们知道其回归方程的截距和斜率,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,1,、所求直线方程叫做,回归直线方程,；,相应的直线叫做,回归直线,。,2,、对两个变量进行的线性分析叫做,线性回归分析,。,1,、回归直线方程,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,2.,求回归直线的方法,最小二乘法：,称为样本点的中心,。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,4,、求回归直线方程的步骤：,（,3,）代入公式,（,4,）写出直线方程为,y=bx+a,即为所求的回归直线方程。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,应用：利用回归直线方程对总体进行线性相关性的检验,例,1,、炼钢是一个氧化降碳的过程，钢水含碳量的多少直接影响冶炼时间的长短，必须掌握,钢水含碳量和冶炼时间的关系。如果已测得炉料熔化完毕时，钢水的含碳量,x,与冶炼时间,y,（从炉料熔化完毕到出刚的时间）的一列数据，如下表所示：,x,（,0.01%,）,104,180,190,177,147,134,150,191,204,121,y,（,min,）,100,200,210,185,155,135,170,205,235,125,（,1,）,y,与,x,是否具有线性相关关系；,（,2,）如果具有线性相关关系，求回归直线方程；,（,3,）预测当钢水含碳量为,160,个,0.01%,时，应冶炼多少分钟？,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,解：,(1),列出下表,并计算,i,1,2,3,4,5,6,7,8,9,10,x,i,104,180,190,177,147,134,150,191,204,121,y,i,100,200,210,185,155,135,170,205,235,125,x,i,y,i,10400,36000,39900,32745,22785,18090,25500,39155,47940,15125,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,所以回归直线的方程为,=1.267x-30.51,(3),当,x=160,时, 1.267.160-30.51=172,(2),设所求的回归方程为,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,5.,如何描述两个变量之间线性相关关系的强弱？,在,数学,3,中，我们学习了用相关系数,r,来衡量两个变量,之间线性相关关系的方法。,相关系数,r,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,大数据处理与智能决策教学ppt课件-一元线性回归分析案例,大数据处理与智能决策教学ppt课件-一元线性回归分析案例,评价回归模型的指标,评价回归模型的指标,：,平均绝对误差（,Mean Absolute Error,，,MAE,）,均方误差（,Mean Squared Error,，,MSE,）,中值绝对误差（,Median Absolute Error,）,可释方差得分（,Explained,Variance,Score,）,R,2,决定系数（拟合优度，,R,2,Score,）,评价回归模型的指标评价回归模型的指标：,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,小结：回归分析的内容与步骤：,统计检验通过后，最后是,利用回归模型，根据自变量去估计、预测因变量,。,回归分析通过一个变量或一些变量的变化解释另一变量的变化。,其主要内容和步骤是：,首先根据理论和对问题的分析判断，,将变量分为自变量和因变量,；,其次，设法,找出合适的数学方程式（即回归模型）,描述变量间的关系；,由于涉及到的变量具有不确定性，接着还要,对回归模型进行统计检验,；,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,例,1,从某大学中随机选取,8,名女大学生，其身高和体重数据如表,1-1,所示。,编号,1,2,3,4,5,6,7,8,身高,/cm,165,165,157,170,175,165,155,170,体重,/kg,48,57,50,54,64,61,43,59,求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为,172cm,的女大学生的体重。,案例,1,：女大学生的身高与体重,解：,1,、选取身高为自变量,x,，体重为因变量,y,，作散点图：,2,、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程刻画它们之间的关系。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,分析：由于问题中要求根据身高预报体重，因此选取身高为自变量，体重为因变量,2.,回归方程：,1.,散点图；,本例中, r=0.7980.75,这表明体重与身高有很强的线性相关关系，从而也表明我们建立的回归模型是有意义的。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,探究：,身高为,172cm,的女大学生的体重一定是,60.316kg,吗？如果不是，你能解析一下原因吗？,答：身高为,172cm,的女大学生的体重不一定是,60.316kg,，但一般可以认为她的体重接近于,60.316kg,。,即，用这个回归方程不能给出每个身高为,172cm,的女大学生的体重的预测值，只能给出她们平均体重的值。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,比,数学,3,中“回归”增加的内容,数学,统计,画散点图,了解最小二乘法的思想,求回归直线方程,y,bx,a,用回归直线方程解决应用问题,选修,2-3,统计案例,引入线性回归模型,y,bx,a,e,了解模型中随机误差项,e,产生的原因,了解相关指数,R,2,和模型拟合的效果之间的关系,了解残差图的作用,利用线性回归模型解决一类非线性回归问题,正确理解分析方法与结果,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,1,、线性回归模型：,y=bx+a+e,，,(3),其中,a,和,b,为模型的未知参数，,e,称为随机误差,。,y=bx+a+e,，,E(e)=0,D(e)=,(4),2,、数据点和它在回归直线上相应位置的差异 是随机误差的效应，称 为,残差,。,3,、对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号表示为：,称为,残差平方和,，,它代表了随机误差的效应。,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,1、线性回归模型：y=bx+a+e，E(e)=0,D(e)=,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,4,、,两个指标：,（,1,）类比样本方差估计总体方差的思想，可以用作,为 的估计量， 越小，预报精度越高。,（,2,）我们可以用,相关指数,R,2,来刻画回归的效果，其,计算公式是：,R,2,1,，说明回归方程拟合的越好；,R,2,0,，说明回归方程拟合的越差。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,表,3-2,列出了女大学生身高和体重的原始数据以及相应的残差数据。,在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用回归模型来拟合数据。,5,、残差分析与残差图的定义：,然后，我们可以通过残差 来判断模型拟合的效果，判断原始数据中是否存在可疑数据，,这方面的分析工作称为残差分析,。,编号,1,2,3,4,5,6,7,8,身高,/cm,165,165,157,170,175,165,155,170,体重,/kg,48,57,50,54,64,61,43,59,残差,-6.373,2.627,2.419,-4.618,1.137,6.627,-2.883,0.382,我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为,残差图,。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,残差图的制作及作用,1,、坐标纵轴为残差变量，横轴可以有不同的选择；,2,、若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域；,3,、对于远离横轴的点，要特别注意。,身高与体重残差图,异常点,错误数据,模型问题,几点说明：,第一个样本点和第,6,个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。,另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,残差图的制作及作用身高与体重残差图异常点 错误数据,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,例,2,在一段时间内，某中商品的价格,x,元和需求量,Y,件之间的一组数据为：,求出,Y,对的回归直线方程，并说明拟合效果的好坏。,价格,x,14,16,18,20,22,需求量,Y,12,10,7,5,3,解：,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,例,2,在一段时间内，某中商品的价格,x,元和需求量,Y,件之间的一组数据为：,求出,Y,对的回归直线方程，并说明拟合效果的好坏。,价格,x,14,16,18,20,22,需求量,Y,12,10,7,5,3,列出残差表为,0.994,因而，拟合效果较好。,0,0.3,-0.4,-0.1,0.2,4.6,2.6,-0.4,-2.4,-4.4,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,练习：,关于,x,与,y,有如下数据：,有如下的两个线性模型：,（,1,） ；（,2,）,试比较哪一个拟合效果更好。,x,2,4,5,6,8,y,30,40,60,50,70,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,6,、注意回归模型的适用范围：,（,1,）回归方程只适用于我们所研究的样本的总体。样本数据来自哪个总体的，预报时也仅适用于这个总体。,（,2,）模型的时效性。利用不同时间段的样本数据建立的模型，只有用来对那段时间范围的数据进行预报。,（,3,）建立模型时自变量的取值范围决定了预报时模型的适用范围，通常不能超出太多。,（,4,）在回归模型中，因变量的值不能由自变量的值完全确定。正如前面已经指出的，某个女大学生的身高为,172cm,，我们不能利用所建立的模型预测她的体重，只能给出身高为,172cm,的女大学生的平均体重的预测值。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,7,、一般地，建立回归模型的基本步骤为：,（,1,）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。,（,2,）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。,（,3,）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程,y=bx+a,）,.,（,4,）按一定规则估计回归方程中的参数（如最小二乘法）。,（,5,）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或模型是否合适等。,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,案例,2,一只红铃虫的产卵数,y,和温度,x,有关。现收集了,7,组观测数据列于表中：,（,1,）试建立产卵数,y,与温度,x,之间的回归方程；并预测温度为,28,o,C,时产卵数目。,（,2,）你所建立的模型中温度在多大程度上解释了产卵数的变化？,温度,x,o,C,21,23,25,27,29,32,35,产卵数,y,/,个,7,11,21,24,66,115,325,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,选变量,解：选取气温为解释变量,x,，产卵数,为预报变量,y,。,画散点图,假设线性回归方程为,：,=bx+a,选 模 型,分析和预测,当,x,=28,时，,y =,19.8728-463.73 93,估计参数,由计算器得：线性回归方程为,y=,19.87,x,-463.73,相关指数,R,2,=,r,2,0.864,2,=0.7464,所以，二次函数模型中温度解释了,74.64%,的产卵数变化。,探索新知,0,50,100,150,200,250,300,350,0,3,6,9,12,15,18,21,24,27,30,33,36,39,方案,1,当,x,=28,时，,y =,19.8728-463.73 93,一元线性模型,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,y=bx,2,+a,变换,y=bt+a,非线性关系 线性关系,方案,2,问题,选用,y=bx,2,+a,，还是,y=bx,2,+cx+a,？,问题,3,产卵数,气温,问题,2,如何求,a,、,b,？,合作探究,t,=x,2,二次函数模型,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,方案,2,解答,平方变换,：,令,t=x,2,，产卵数,y,和温度,x,之间二次函数模型,y=bx,2,+a,就转化为产卵数,y,和温度的平方,t,之间线性回归模型,y=bt+a,温度,21,23,25,27,29,32,35,温度的平方,t,441,529,625,729,841,1024,1225,产卵数,y,/,个,7,11,21,24,66,115,325,作散点图，并由计算器得：,y,和,t,之间的线性回归方程为,y=,0.367,t,-202.54,，相关指数,R,2,=,r,2,0.896,2,=0.802,将,t=x,2,代入线性回归方程得：,y=,0.367,x,2,-202.54,当,x,=28,时,，,y,=0.36728,2,-202.5485,，且,R,2,=0.802,，,所以，二次函数模型中温度解,释了,80.2%,的产卵数变化。,t,方案2解答平方变换：令t=x2，产卵数y和温度x之间二次函数,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,问题,变换,y=bx+a,非线性关系 线性关系,问题,如何选取指数函数的底,?,产卵数,气温,指数函数模型,方案,3,合作探究,对数,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,方案,3,解答,温度,x,o,C,21,23,25,27,29,32,35,z=lgy,0.85,1.04,1.32,1.38,1.82,2.06,2.51,产卵数,y,/,个,7,11,21,24,66,115,325,x,z,当,x=28,o,C,时，,y 44,，指数回归模型中温度解释了,98.5%,的产卵数的变化,由计算器得：,z,关于,x,的线性回归方程,为,z=0.118,x,-1.665,，,相关指数,R,2,=,r,2,0.9925,2,=0.985,对数变换：在 中两边取常用对数得,令 ，则,就转换为,z,=bx+a,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,用身高预报体重时，需要注意下列问题：,1,、回归方程只适用于我们所研究的样本的总体；,2,、我们所建立的回归方程一般都有时间性；,3,、样本采集的范围会影响回归方程的适用范围；,4,、不能期望回归方程得到的预报值就是预报变量的精确值。,事实上，它是预报变量的可能取值的平均值。,这些问题也使用于其他问题。,涉及到统计的一些思想：,模型适用的总体；,模型的时间性；,样本的取值范围对模型的影响；,模型预报结果的正确理解。,小结,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,回归分析与相关分析的区别,相关分析中，变量,x,变量,y,处于平等的地位；回归分析中，变量,y,称为因变量，处在被解释的地位，,x,称为自变量，用于预测因变量的变化,相关分析中所涉及的变量,x,和,y,都是随机变量；回归分析中，因变量,y,是随机变量，自变量,x,可以是随机变量，也可以是非随机的确定变量,相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量,x,对变量,y,的影响大小，还可以由回归方程进行预测和控制,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,回归分析与相关分析的区别相关分析中，变量 x 变量 y 处于,课题：,选修,2-3,8.5,回归分析案例,再冷的石头，坐上三年也会暖,!,作业：,假设关于某设备的使用年限,x,和所支出的维修费用,y,（万元），有如下的统计资料。,使用年限,x,2,3,4,5,6,维修费用,y,2.2,3.8,5.5,6.5,7.0,若由资料知,y,对,x,呈线性相关关系。试求：,（,1,）线性回归方程 的回归系数 ；,（,2,）求残差平方和；,（,3,）求相关系数 ；,（,4,）估计使用年限为,10,年时，维修费用是多少？,课题：选修2-3 8.5 回归分析案例再冷的石头，坐上三年,大数据处理与智能决策教学ppt课件-一元线性回归分析案例,