两个量的关系

统计案例第一章1、两个变量的关系、两个变量的关系不相关不相关相关相关关系关系函数关系函数关系线性相关线性相关非线性相关非线性相关复习回顾：复习回顾：问题问题1：现实生活中两个变量间的关系有哪：现实生活中两个变量间的关系有哪些呢？些呢？相关关系：相关关系：对于两个变量，当自变量取值一定对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量时，因变量的取值带有一定随机性的两个变量之间的关系。之间的关系。思考：相关关系与函数关系有怎样的不同？函数关系中的两个变量间是一种确定性关系相关关系是一种非确定性关系 函数关系是一种理想的关系模型 相关关系在现实生活中大量存在，是更一般的情况问题问题2：对于线性相关的两个变量用什么方法：对于线性相关的两个变量用什么方法来刻划之间的关系呢？来刻划之间的关系呢？2、最小二乘估计、最小二乘估计最小二乘估计下的线性回归方程：最小二乘估计下的线性回归方程：ybxa121()()()niiiniixXyYbXX aYbX.,3.,行预报回归直线方程进并用求回归直线方程点图骤为画散其步行了研究利用回归分析的方法进系的变量关关我们对两个具有线性相中数学在析的一种常用方法计分个变量进行统是对具有相关关系的两析回归分定性关系而相关关系是一种非确性关系函数关系是一种确定我们知道.11,81所示重数据如表其身高和体名女大学生从某大学中随机选取例5943616454505748kg/170155165175170157165165cm/87654321体体重重身身高高编编号号.cm172,的的女女大大学学生生的的体体重重并并预预报报一一名名身身高高为为归归方方程程身身高高预预报报她她的的体体重重的的回回求求根根据据一一名名女女大大学学生生的的:)11.1(.,图图作散点体重为因变量真实取身高为自变量因此选据身高预报体重由于问题中要求根解yx11.1图xy.,11.1画它们之间的关系刻性回归方程以用线因此可线性相关关系较好的重有比高和体身样本点呈条状分布中可以看出从图,85.712,0.849.0.84985.712.abyx 根据线性回归方程中的系数公式 可以得到于是得到回归方程.kg316.60712.85172849.0y,cm172,预报其体重为由回归方程可以的女大学生对身高为所以11.1图xy:,y,x,y,x,y,xnn2211二乘估计公式分别为二乘估计公式分别为截距和斜率的最小截距和斜率的最小我们知道其回归方程的我们知道其回归方程的关系的数据关系的数据对于一组具有线性相关对于一组具有线性相关探究探究 1xbya 2,xxyyxxbn1i2in1iii111,.,nniiiixx yyx yn其中称为。样样本本点点的的中中心心.心心回回归归直直线线过过样样本本点点的的中中0.849,1,0.849,.bxy是斜率的估计值说明身高 每增加个单位时体重 就增加个单位这表明体重与身高具有正的线性相关关系?,?kg316.60cm172其原因是什么其原因是什么不是不是如果如果吗吗是是女大学生的体重一定女大学生的体重一定的的身高身高探究探究.21.1.316.60316.60172,位置说明了这一点本点和回归直线的相互中的样图以认为她的体重接近于但一般可是大学生的体重不一定的女身高显然kgkgcm21.1图,:,1ybxae由于所有的样本点不共线 而只是散布在某一条直线的附近 所以身高和体重的关系可用下面的线性回归模型来表示.y,x,yx,exy,称为预报变量称为预报变量把把称为解释变量称为解释变量因此我们把因此我们把的变化的变化只能解释部分只能解释部分即即共同确定共同确定素素和随机因和随机因的值由的值由在回归模型中在回归模型中与函数关系不同与函数关系不同,.,.:abeyybxae这里 和 为模型的未知参数 是 与之间的误差通常 为随机变量 称为这样线性回归模型的完整表达式为随机误差随机误差ybxae?e的原因是什么的原因是什么产生随机误差项产生随机误差项思考思考.,.,的产生差项误机随所有这些因素都会导致是一种近似的模型型往往只我们选用的线性模另外动、度量误差等食习惯、是否喜欢运例如饮许多其他因素的影响还受身高的影响外一个人的体重值除了受实际上e,?ey探究在线性回归模型中 是用bx+a预报真实值 的随机误差 它是一个不可观测的量 那么应该怎样研究随机误差 如何衡量预报的精度 12,ybxa根据截距和斜率的估计公式和可以建立回归方程 1.,.yeyeyye因此 是中的 bx+a的估计值由于随机误差（bx+a）所以是 的估计量 1122,1,2,.nniiix yxyxyeybxa in对于样本点而言 相应它们的随机误差为,1,2,().iiiiiiiieyyybxa inex yresidual其估计值为称为相应于点的残差.,e,e,e,.,n21这这方方面面的的分分析析工工作作称称为为在在可可疑疑数数据据判判断断原原始始数数据据中中是是否否存存来来判判断断模模型型拟拟合合的的效效果果可可以以通通过过残残差差然然后后性性回回归归模模型型来来拟拟合合数数据据是是否否可可以以用用线线线线性性相相关关来来粗粗略略判判断断它它们们是是否否相相首首先先要要根根据据散散点点图图系系时时在在研研究究两两个个变变量量间间的的关关 残差分析残差分析.21相应的残差数据重的原始数据以及列出女大学生身高和体表 382.0883.2627.6137.1618.4419.2627.2373.6e 5943616454505748kg/170155165175170157165165cm/87654321残差残差体重体重身高身高编号编号编号编号残差残差31.1图.31.1.,.残差图坐标的样本编号为横是以图这样作出的图形为等或体重估计值高数据或身可选为样本编号横坐标纵坐标为残差作图时分析残差特性我们可以利用图形来残残差差图图编号编号残差残差31.1图.,.,;,.,61,31.1越高回归方程的预报精确度拟合精度越高说明模型区域的宽度越窄均匀地落在水平的带状残差点比较另外则需要寻找其他的原因没有错误如果数据采集合数据归模型拟性回利用线然后再重新予以纠正就果数据采集有错误如是否有人为的错误点的过程中两个样本需要确认在采集这大个样本点的残差比较个样本点和第第出中可以看从图.yyy y1R:,R,n1i2in1i2ii22其计算公式是其计算公式是来刻画回归的效果来刻画回归的效果我们还可以用相关指数我们还可以用相关指数另外另外如果对某组数据如果对某组数据关性越强关性越强量和预报变量的线性相量和预报变量的线性相表示解释变表示解释变越接近于越接近于因为因为表示回归的效果越好表示回归的效果越好接近于接近于越越化的贡献率化的贡献率释变量对于预报变量变释变量对于预报变量变表示解表示解在线性回归模型中在线性回归模型中模型的拟合效果越好模型的拟合效果越好也就是说也就是说意味着残差平方和越小意味着残差平方和越小取值越大取值越大显然显然.),1R(,1R.R,.,R,2222.R,R,22据的模型据的模型大的模型作为这组数大的模型作为这组数选择选择可以通过比较几个可以通过比较几个也也回归分析回归分析种不同的回归方程进行种不同的回归方程进行取几取几可能性采可能性采.%64,%64,64.0R,12高引起的高引起的是由身是由身女大学生体重差异有女大学生体重差异有或者说或者说体重变化体重变化的的女大学生身高解释了女大学生身高解释了表明表明中中在例在例:,需要注意下列问题用身高预报体重时.,.,.1系木的高与直径之间的关描述北方干旱地区的树方程的高与直径之间的回归在南方多雨地区的树木不能用生长同样之间的关系女运动员的身高和体重描述和体重之间的回归方程不能用女大学生的身高例如所研究的样本的总体回归方程只适用于我们.,8020,.2之间的关系描述现在的身高和体重方程建立的回归年代的身高体重数据所世纪能用不例如一般都有时间性我们所建立的回归方程.),ycm70 x,cm170,cm155x,(,.3显然不合适值时的程计算而用这个方的样本的取值范围为解释变量即在回归方程中重之间的关系就不恰当幼儿时期的身高和体那么用它来描述一个人立的建大学生身高和体重数据我们的回归方程是由女例如归方程的适用范围样本取值范围会影响回.,.4值的平均值它是预报变量的可能取事实上精确值的的预报值就是预报变量不能期望回归方程得到:,骤为骤为建立回归模型的基本步建立回归模型的基本步一般地一般地;,1量是预报变量量是预报变量哪个变哪个变量量明确哪个变量是解释变明确哪个变量是解释变确定研究对象确定研究对象;,2如是否存在线性关系等如是否存在线性关系等观察它们之间的关系观察它们之间的关系散点图散点图释主变量和预报变量的释主变量和预报变量的画出确定好的解画出确定好的解);abxy,(3则选用线性回归方程则选用线性回归方程线性关系线性关系如我们观察到数据呈如我们观察到数据呈型型由经验确定回归方程类由经验确定回归方程类);(4乘法乘法如最小二如最小二程中的参数程中的参数按一定规则估计回归方按一定规则估计回归方.,),(5或模型是否合适等或模型是否合适等则检查数据是否有误则检查数据是否有误在异常在异常若存若存律性等等律性等等或残差呈现不随机的规或残差呈现不随机的规应残差过大应残差过大个别数据对个别数据对是否有异常是否有异常得出结果后分析残差图得出结果后分析残差图.,317.2之间的回归方程与试建立中观察数据列于表组现收集了有关和温度一只红铃虫的产卵数例xyxy31表325115662421117/y35322927252321C/0个个产卵数产卵数温度温度41.1图温度温度产卵数产卵数.41.1据作散点图根据收集的数解所以不能相关关系线性个变量不呈线因此两带状区域内某个布在有分并没样本点在散点图中,.cc,ecy,.21xc12是待定参数和其中的周围指数函数曲线某一条可以发现样本点分布在根据已有的函数知识系立两个变量之间的关建来直接利用线性回归方程.xy,.)cb,clna(abxz,ylnz.cc,2121了间的非线性回归方程之和型来建立就可以利用线性回归模这样的周围直线换后样本点应该分布在则变令系变为线性关过对数变换把指数关系我们可以通和参数问题变为如何估计待定现在.,abxy线线性性回回归归方方程程我我们们称称之之为为非非时时当当回回归归方方程程不不是是形形如如图的样本数据表的数据可以得到变换后由表,4131.,51.1.4151.1用线性回归方程来拟合因此可以一条直线的附近变换后的样本点分布在看出中可以从图中数据的散点图给出了表784.5745.4190.4178.3045.3398.2946.1z35322927252321x41表产卵数的对数温度51.1图.843.3272.041xz到线性回归方程中的数据得由表回归方程为数对温度的非线性因此红铃虫的产卵 6ey 843.3x272.01.,.,41.1,243423非线性回归方程之间的与从而得到之间的线性回归方程与立然后建即令变换因此可以对温度变量做数为待定参和其中的附近次曲线中样本点集中在某二可以认为图另一方面xytyxtcccxcy.61.1,51是相应的散点图图应的温度的平方是红铃虫的产卵数和对表325115662421117y12251024841729625529441t51表.,61.1423下面介绍具体方法到还可以通过残差分析得这个结论之间的关系与来拟合二次曲线即不宜用合它回归方程来拟此不宜用线性因直线的周围不分布在一条的散点图并与可以看出中从图xycxcyty温度的平方数卵产61.1图中用线性回归模型拟合表的二次回归方程关于下面建立的指数回归方程关于前面已经建立了方程归需要建立两个相应的回残差为比较两个不同模型的51.,.,xyxy 7.54.202x367.0y xy,54.202t367.0y ty,222的二次回归方程为关于即的线性回归方程关于得到的数据 的残差计算公式分别为和则回归方程列的数据行第第表示表用的拟合效果和个回归方程可以通过残差来比较两76,1151.76ixi ;7,2,1i,eyy ye 843.3x272.0i1ii1i .7,2,1i,54.202x367.0yy ye 2ii2ii2i .76,76.61的拟合效果好型的拟合效果比模因此模型的残差的绝对值小模型的残差的绝对值显然比模型从表中的数据可以看出残差的两个回归方程的给出了原始数据及相应表 965.77268.58107.4041003835.5397.19693.47e 928.32153.14889.8149.9760.1617.0518.0e 325115662421117y35322927252321x2161表 .76.432.15448,673.14507661.,.,.,21型的拟合效果远远优于模因此模型的残差平方和分别为和算出模型容易由表拟合的效果越好残差平方和越小的模型合效果的大小来判断模型的拟两个模型的残差平方和这时可以通过比较则相反而另一些样本点的情况的小型差的绝对值比另一个模的残某些样本点上一个模型原因是在较困难比较两个模型的残差比在一般情况下QQ ,b,xgya,xfy,y,x,y,x,y,x21nn2211 和和含有未知数的模型含有未知数的模型两个两个对于给定的样本点对于给定的样本点:.ba较它们的拟合效果较它们的拟合效果可以按如下的步骤来比可以按如下的步骤来比都是未知参数都是未知参数和和其中其中 ;baba,b,xgy a ,xfy 121的估计值的估计值和和分别是参数分别是参数和和其中其中与与型的回归方程型的回归方程分别建立对应于两个模分别建立对应于两个模 ;y yQy yQ2n1i22iin1i221ii1与与的残差平方和的残差平方和分别计算两个回归方程分别计算两个回归方程 .b,xgy a ,xfy ,;b,xgy a ,xfy,QQ3212121的好的好的效果不如的效果不如反之反之的好的好的效果比的效果比则则若若