第3章多元回归分析：估计

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,第,3,章 多元回归分析：估计,3.1,使用多元回归的动因,3.2,普通最小二乘法的操作和解释,3.3,OLS,估计量的期望值,3.4,OLS,估计量的方差,3.5,OLS,的有效性：高斯,-,马尔可夫定理,3.1,使用多元回归的动因,1,、可以度量在其他条件不变情况下,y,相对于某一因素的变化；,2,、简单回归分析中 被包括在误差项中，而,x1,与 可能相关，从而导致在两变量模型中对 的估计有偏误。,3,、多元回归分析对推广两变量之间的函数关系有帮助。,3.2,普通最小二乘法的操作和解释,如何得到,OLS,估计值,最小化残差平方和,对,OLS,回归方程的解释,偏效应，其他情况不变,对多元回归“排除其他变量影响”的解释,是将,x1,对其他解释变量回归得到的残差,简单回归和多元回归估计值的比较,二者在两种情况下相等：,1,样本中,x2,对,y,的偏效应为零；,2,样本中,x1,与,x2,不相关。,拟合优度,3.3,OLS,估计量的期望值,假定,1,：关于参数的线性方程,假定,2,：随机抽样,假定,3:,不存在完全共线性,在样本中，没有一个自变量是常数，自变量之间也不存在严格的线性关系。,假定,4,：条件均值为零,给定自变量的任何值，误差,u,的期望值为零。,1,、在模型中包含了无关变量,不影响,OLS,估计量的无偏性，但是增大了方差。,2,、遗漏变量,3.4,OLS,估计量的方差,假定,5,：同方差性,在假定,1-5,下，以自变量的样本值为条件，对所有的,j=1,，,，,k,，都有,OLS,方差的成分：多重共线性,误差方差：越大意味着,OLS,估计量的方差就越大；,Xj,的总样本变异，越小，方差越大，但是其等于,0,违背假定,3,；,自变量之间的线性关系，是将,Xj,对所有其他自变量进行回归得到的。时方差最小，,违背假定,3,。两个或多个自变量之间高度相关（但不完全）相关，被称为多重共线性。模型中某些自变量之间高度相关，对模型中其他参数的估计效果不重要（从方差公式看）。,小样本容量可能导致很大的抽样方差。,误设模型中的方差,真实模型：,遗漏了,X2,：,得：,1,、时，是有偏的，无偏，且,2,、时，二者都无偏，且,从第,2,个结论看，模型中包括无关变量的后果是参数估计量的方差较高。,第,1,种情况下，我们更偏好在模型中包括,X2,，即更偏好 ，因为,A,：在大样本情况下，偏误对任何样本容量都大致相等，随着,n,变大，都趋于,0,；,B,：模型错误的遗漏了,X2,，误差方差因为有效地包含了部分,X2,而提高。,估计：,OLS,估计量的标准误,定理,3.3,：是 的无偏估计,定理,3.5,：高斯,-,马尔可夫定理,在假定,1-5,下，可以得到最优无偏估计量。,