多元线性回归模型及参数估计

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,2.3多元线性回归模型的参数估计,Estimation of Multiple Linear Regression Model,一、,多元线性回归模型,二、多元线性回归模型的参数估计,三、,OLS参数估计量的统计性质,四、样本容量问题,五、,多元线性回归模型实例,一、,多元线性回归模型,1、多元线性回归模型的形式,由于：,在实际经济问题中，一个变量往往受到多个原因变量的影响；,“从一般到简单”的建模思路。,所以，,线性回归模型中的解释变量往往有多个，,至少开始是这样。,这样的模型被称为,多元线性回归模型,。,多元线性回归模型参数估计的原理与一元和二元线性回归模型相同，只是计算更为复杂。,多元线性回归模型的一般形式,为：,习惯上，把常数项,i,看成为一个,虚变量,的系数，在参数估计过程中该虚变量的样本观测值始终取1。,这样：,模型中解释变量的数目为（k+1）。,i=1,2,n,多元线性回归模型的,矩阵表达式,为：,其中,2、多元线性回归模型的基本假定,多元线性回归,模型在满足下列,基本假设,的情况下，可以采用,普通最小二乘法,（OLS）估计参数。,关于多元线性回归模型的基本假定,二、多元线性回归模型的参数估计,1、普通最小二乘估计,普通最小二乘估计,（i=1,2,n）,根据最小二乘原理，参数估计值应该是下列方程组的解：,其中,于是得到,关于待估参数估计值的正规方程组,：,上述估计过程的矩阵表示：,其中,从而，被解释变量的观测值与估计值之差的平方和为：,随机误差项的均值为0，方差的估计量为：,于是，得到,正规方程组：,参数的最小二乘估计值为：,2、最大或然估计,Y的随机抽取的,n,组样本观测值的联合概率,对数或然函数为,参数的最大或然估计,结果与参数的普通最小二乘估计相同,三、OLS参数估计量的统计性质,1,线性,2,无偏性,这里利用了解释变量与随机误差项不相关的假设，即,3,有效性,其中利用了,根据高斯马尔可夫定理，上述方差在所有无偏估计量的方差中是最小的,，所以普通最小二乘参数估计量具有有效性。,参数估计量的方差-协方差矩阵,4,随机误差项方差估计量的性质,由于被解释变量的估计值与观测值之间的残差,残差的平方和为:,所以有,其中符号“tr”表示矩阵的迹，其定义为矩阵主对角线元素的和。于是,所以，,随机误差项方差的无偏估计量为,四、样本容量问题,1、,最小样本容量,2、满足基本要求的样本容量,计量经济学模型，说到底是从表现已经发生的经济活动的样本数据中寻找经济活动中内含的规律性，所以，它对样本数据具有很强的依赖性。,最小样本容量,最小样本容量：,是指从最小二乘原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。,样本容量必须不少于模型中解释变量的数目（包括常数项）,，这就是最小样本容量：,2、满足基本要求的样本容量,虽然当,nk+1,时，可以得到参数估计量，但除了参数估计量质量不好以外，一些建立模型所必须的后续工作也无法进行。,一般经验认为当,n,30,或者至少,n,k,+,3,1,(,),时，,才能说满足模,型估计的基本要求。,五、,多元线性回归模型实例,中国消费函数模型,根据消费模型的一般形式，选择消费总额为被解释变量，国内生产总值和前一年的消费总额为解释变量，变量之间关系为简单线性关系，选取1981年至1996年统计数据为样本观测值。,中国消费数据表 单位：亿元,模型估计结果,拟合效果,