经济计量学讲义(线性回归的基本思想)(精品)

,单击此处编辑母版标题样式,*,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,计量经济学讲义,线性回归的基本思想,重庆大学贸易与行政学院,2003年12月,本次课主要讲解四部分内容：,1、,回归的含义,2、,总体回归函数,3、,样本回归函数,4、,参数的估计,引言,在对经济现象(例如需求法则)建立经济计量模型时，经济计量学大量地使用了回归分析这一统计技术；,通过最简单的线性模型双变量模型来介绍回归分析的基本思想,：参数估计和假设检验；,本此课讲解：如何进行参数估计。,一、回归的含义,回归分析是用来研究一个变量与另一个或多个变量之间的关系。,1、举例：需求的价格函数；,2、我们用,Y,代表应变量，,X,代表自变量或解释变量。如果有多个解释变量，用适当的下标，表示各个不同的,X，,如,X,1,，,X,2,，,X,3,等；,3、回归分析并不一定表明一个应变量与另一或多个自变量之间存在因果关系，因果关系的判定或推断必须依据经过实践检验的相关理论。,回归分析的作用：,通过已知变量的值来估计应变量的均值；,对独立性进行假设检验根据经济理论建立适当的假设；,通过自变量的值，对应变量的均值进行预测；,上述多个目标的综合。,二、总体回归函数,一个例子：对计量经济学教科书的需求分析,概念：,总体回归直线告诉我们对应于每一个,X,值(或任一个自变量)相应的,Y,(,或任何一个应变量)的均值。如：,Q,D,=a,0,-a,1,P,D,，,右图。,右图画出的总体回归直线是线性的，用函数的形式来表示：,E,(,Y,X,i,)=,B,1,+,B,2,X,i,(,1,),E,(,Y,X,i,),表示给定,X,值相应的,Y,的均值（条件期望或条件均值）,下标,i,代表第,i,个子总体。,总体回归直线经过,Y,的条件期望值。式(,1,)是总体回归函数的数学形式。在这里，总体回归函数是线性函数。,B,1,，,B,2,为参数,，,也称为回归系数,。,B,1,又称为截距,，,B,2,又称为斜率,。,斜率度量了,X,每变动一单位，,Y,的均值的变化率。,回归分析就是条件分析，因此式（1）表示为：,E,(,Y,)=,B,1,+,B,2,X,i,总体回归函数误差的设定,总体回归函数给出了对应于每一个自变量的应变量的平均值。,由式（1）得到：,Y,i,=,E(Y),+,u,i,=,B,1,+,B,2,X,i,+,u,i,(,2,),其中，,u,i,表示随机误差项或简称为误差项。,在某一价格水平上，个人,i,的需求量是两部分之和：,(,1,)(,B,1,+,B,2,X,i,)，,即第,i,个子总体的平均需求量，称为系统的或决定的部分。,(,2,),u,i,，,称为非系统或随机的部分(由价格以外的因素所决定)。,式（2）称为随机总体回归函数,为什么要加上随机误差项？,随机误差项的性质,随机误差项可能代表了模型中并未包括的变量的影响；,u,i,反映了人类行为中的一些内在随机性，即使模型中包括了所有决定需求量的有关变量；,u,i,也可以代表测量误差；,“简单优于复杂”。,在价格的需求函数中，可能会由于上述一个或几个原因导致个人需求量偏离群体均值(即系统部分)。在随后的分析中，我们将会看到，随机误差项在回归分析中有着至关重要的作用。,用样本回归函数来表示样本回归线：,(,3,),其中，表示总体条件均值,E,(,Y,),的估计量；,b,1,表示,B,1,的估计量；,b,2,表示,B,2,的估计量；,读作“帽”。,三、样本回归函数,总体的数据很难获得；,样本回归的任务就是根据样本提供的信息来估计总体回归函数。,右图中，并非所有的样本数据都准确地落在各自的样本回归线上。,因此，与建立随机总体回归函数一样，我们需要建立随机的样本回归函数：,Y,i,=,b,1,+,b,2,X,i,+,e,i,(,4,),其中，,e,i,是,u,i,的估计量，称,e,i,为残差项(,residual term,)，,或简称为残差。,注意：样本回归函数中生成,e,i,的原因与总体回归函数中生成,u,i,的原因相同。,回归分析的主要目的是根据样本回归函数：,Y,i,=,b,1,+,b,2,X,i,+,e,i,来估计总体回归函数：,Y,i,=,B,1,+,B,2,X,i,+,u,i,由于抽样的不同，所以对总体回归函数的估计仅仅是近似估计，如右图所示。,“线性”回归的特殊含义,解释变量线性,下面的函数形式不是线性的：,a),E,(,Y,)=,B,1,+,B,2,X,2,2,b),参数线性,下面的模型就是非线性的，因为,B,2,以平方的形式出现：,E,(,Y,)=,B,1,+,B,2,2,X,i,(5),计量经济学主要关注参数线性的模型，因此，线性回归是指参数线性的回归，而解释变量并不一定是线性的。,四、参数的估计：普通最小二乘法,如何进行估计总体回归函数？,式(2)所描述的双变量总体回归方程：,Y,i,=,B,1,+,B,2,X,i,+,u,1,用下面的样本回归函数来估计它：,Y,i,=,b,1,+,b,2,X,i,+,e,i,估计总体回归函数的最优方法：,选择,B,1,，,B,2,的估计量,b,1,，,b,2,，,使得残差,e,i,尽可能的小。,由式（4）得：,e,i,=,Y,i,b,1,b,2,X,i,（6）,=,利用式(3),=,实际的,Y,i,估计的,Y,i,(7),(8),譬如：,最小二乘法的原理：,所有,Y,i,的真实值与估计值之差的平方和最小,普通最小二乘法(,OLS),是选择参数,b,1,，,b,2,，,使得全部观察值的残差平方和最小。用数学形式表示为：,普通最小二乘估计量的性质：,运用,OLS,法得出的样本回归线经过样本均值点，因为,残差的均值总为零，即：,对残差与解释变量的积求和，其值为零，即：,五、应用举例,上,表给出,1967,1990,年期间男女学生的词汇及数学分数,，,假设,要,根据男生的数学分数,(,X,),来预测男生的词汇分数,(,Y,),。,利用表,中,提供的数据，运用,OLS,法，得到下面的回归结果：,该数据为时间序列，所以把时间,t,作为变量的下标。,小结,回归分析的含义、作用。,从总体回归函数开始，建立了线性总体回归函数的概念。,线性回归是指参数线性的，而不论变量线性与否。,介绍了随机的总体回归函数，并且详细讨论了随机误差项的一些特性及作用。,讨论建立样本回归函数的重要意义所在。,讨论了如何获得样本回归函数；介绍了普通最小二乘法，并给出估计总体回归函数参数的相应计算公式。,致谢,感谢各位老师和同学，请提出宝贵的改进意见。,对于我讲课中的不足之处，我会虚心听取您的意见，并在今后的教学实践中加以改进。,