一元线性回归方程PPT课件

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,回归分析,变量间的关系,确定性关系或函数关系,y,=,f,(,x,),人的身高和体重,家庭的收入和消费,商品的广告费和销售额,粮食的施肥量和产量,非确定性关系,称这种非确定性关系为统计关系或相关,(,相依,),关系,.,x,Y,相关关系,第一章 一元线性回归模型,以下设,x,为自变量(,普通变量,),Y,为因变量(,随机变量,) .现给定,x,的,n,个值,x,1,x,n, 观察,Y,得到相应的,n,个值,y,1,y,n,(,x,i,y,i,),i,=1,2,n,称为,样本点,.,以 (,x,i,y,i,),为坐标在平面直角坐标系中描点,所得到的这张图便称之为,散点图,.,1.1 模型的建立及其假定条件,例如：研究某市可支配收入X对人均消费支出Y 的影响。建立如下,理论回归模型,：,Y,i,=,0,+ ,1,X,i,+,i,其中：,Y,i,被解释变量；,X,i,解释变量；,I,随机误差项；,0,，,1,回归系数,随机变量,i,包含：,回归模型中省略的变量;,确定数学模型的误差；,测量误差,一、一元线性回归模型,X,Y,80,100,120,140,160,180,200,220,240,260,55,65,79,80,102,110,120,135,137,150,60,70,84,93,107,115,136,137,145,152,65,74,90,95,110,120,140,140,155,175,70,80,94,103,116,130,144,152,165,178,75,85,98,108,118,135,145,157,175,180,88,113,125,140,160,189,185,115,162,191,户数,5,6,5,7,6,6,5,7,6,5,总支出,325,462,445,707,678,750,685,1043,966,1211,假设调查了某社区所有居民，他们的人均可支配收入和消费支出数据如下：,Y,X,55,100,120,140,160,80,描出散点图发现：随着收入的增加，消费“平均地说”也在增加，且Y的条件均值均落在一根正斜率的直线上。这条直线称为,总体回归线,。,二、随机误差项,i,的假定条件,为了估计总体回归模型中的参数，需对随机误差项作出如下假定：,假定1：,零期望假定,：,E(,i,) = 0。,假定2：,同方差性假定,：,Var,(,i,) =,2,。,假定4：,i,服从正态分布,，,即,i,N (0,2,)。,假定3：,无序列相关假定,：,Cov(,i,j,) = 0, (,i,j,)。,前三个条件称为G-M条件,1.2 一元线性回归模型的参数估计,普通最小二乘法（Ordinary Least Squares）,OLS回归直线的性质,OLSE的性质,一、普通最小二乘法,对于所研究的问题，通常真实的回归直线,E(Y,i,|X,i,),=,0,+ ,1,X,i,是观测不到的。可以通过收集样本来对真实的回归直线做出估计。,经验回归直线：,其中：,为,Y,i,的估计值（拟合值）；,为,0, ,1,的估计值；,如果观测值到这条直线的纵向距离（真实值与估计值的偏差）用,e,i,表示（称为残差），则,经验回归模型,为：,（,e,i,为,i,的估计值）,注意：分清4个式子的关系,（4）经验（估计的）回归直线：,（1）理论（真实的）回归模型：,（3）经验（估计的）回归模型：,（2）理论（真实的）回归直线：,对于参数的估计采用最小二乘估计法、最小二乘法的原则是以“,残差平方和最小,” 确定直线位置（即估计参数）。（Q为残差平方和）,Q,=,=,=,则通过,Q,最小确定这条直线，即确定 ，以 为变量，把它们看作是Q的函数，就变成了一个求极值的问题，可以通过求导数得到。,求Q对 两个待估参数 的偏导数：,=,=,0,=,=,0,正规方程组,即,根据以上两个偏导方程得以下,正规方程,（Normal equation） ：,若记,则,二、OLS回归直线的性质,（1）估计的回归直线 过点 .,（3）,Y,i,的拟合值的平均数等于其样本观测值的平均数 .,=,=,=,（2）,统计性质,线性,无偏性,有效性,2,的估计,三、OLSE回归直线的性质,1、线性,这里指 都是,Y,i,的线性函数。,证明：,=,=,令,代入上式，得：,同理可证：,0,也具有线性特性,。,=,2、无偏性,证明：,=,=,=,=,=,=,类似可证,3、有效性,0,，,1,的OLS估计量的方差比其他线性无偏估计量的方差都小。,总体（随机误差项）真实方差,2,的无偏估计量：,三、,2,的估计,1.3 回归方程的显著性检验,一、回归参数的显著性检验（,t,检验,）,首先，提出原假设和备择假设：,H,0,：,H,1,：,其次，确定并计算统计量：,如果 不能拒绝,H,0,： ，认为X对Y没有显著影响。,如果 拒绝,H,0,：,，认为X对Y有显著影响。,同理,可对 进行显著性检验。,二、回归方程的显著性检验（,F,检验,）,总离差平方和,回归平方和,残差平方和,SST = SSR + SSE,H,0,：,H,1,：,拒绝域,F,F,(1,n,-2),三、 用样本可决系数检验回归方程的拟合优度,R,2,=,R,2,=0时 表明解释变量X与被解释变量Y之间不存在线性关系；,R,2,=1时 表明样本回归线与样本值重合，这种情况极少发生；,一般情况下，,R,2,越接近1表示拟合程度越好，X对Y的解释能力越强。,四.,相关系数检验法,1. 提出原假设,2. 选择统计量,3. 对给定的显著性水平, 查临界值,r,(,n,-2),得否定域为 |,R,|,r,(,n,-2);,1.4,回归系数估计值的置信区间,-t,/2,(n-2),0,t,/2,(n-2),由于：,由大括号内不等式表示的,1,的1,-,的,置信区间为：,得：,P ,t,/2,(,n,-2),=,1-,同理,可，并求得 的置信区间为：,1. 5 一元线性回归方程的预测和控制,点预测,Y,i,区间预测,（1）,单个值,Y,i,的区间预测,（2）,均值E(,Y,i,)的区间预测,控制,如果经过检验，样本回归方程的拟合优度好，且回归系数的估计值显著不为,0,，则可以用回归方程进行预测和控制。,1、点预测,假设,X,0,为解释变量的一个已知点，则带入样本回归方程,即可得到,Y,0,的估计值:,2、区间预测,估计值 是一个点预测值，它可以是（1）总体真值,Y,0,的预测值；也可以是（,2,）总体回归线,E(Y,0,）,的预测值。现在根据 来对（,1,）（,2,）进行区间预测。,（,1,）,Y,0,的预测区间,的分布是：,所以，,Y,0,的预测区间是,:,（,2,）平均值E(,Y,0,),的预测区间,的分布是：,所以，E(,Y,0,),的预测区间是,:,3、控制问题,是预测的反问题,如何控制,X,？,