资源描述
第三部分 实践中的回归分析,Chp 12 多重共线性,主要内容,多重共线性的概念性质 多重共线性的理论后果 多重共线性的实际后果 多重共线性的诊断 多重共线性的补救措施 小结,一、多重共线性的概念及性质,对于模型 Yi=B0+B1X1i+B2X2i+BkXki+ui i=1,2,n 其基本假设之一是解释变量是互相独立的。 如果某两个或多个解释变量之间出现了相关性,则称为多重共线性(Multicollinearity)。,如果存在不全为0的 ci,使得 c1X1i+c2X2i+ckXki=0 i=1,2,n 则称为解释变量间存在完全共线性(perfect multicollinearity)。,如果存在 c1X1i+c2X2i+ckXki+vi=0 i=1,2,n 其中ci不全为0,vi为随机误差项,则称为 近似共线性(approximate multicollinearity)或交互相关(intercorrelated)。,完全多重共线性的例子:P266 Yi=A1+A2X2i+A3X3i+ui 其中,X3i=300-2X2i or X2i=150-X3i/2 进行迭代后(将X3i的表达式代入初始方程),可以看到,该例不是多元回归,而是简单的双变量回归: Yi=A1+A2X2i+A3(300-2X2i)+ui =(A1+300A2)+(A2-2A3)X2i+ui =C1+C2X2i+ui,可以看到,在完全多重共线性的情况下,不可能对多元回归模型中的单个回归系数进行估计和假设检验。 我们可以得到原始系数线性组合的一个估计值,但无法获得每个系数的估计值。,二、接近或不完全多重共线性的情形,接近或不完全多重共线性的例子:P268 Yi=A1+A2X2i+A3X4i+ui(12-8) =145.37-2.7975X2i -0.3191X4i (1.2107) (-3.4444) (-0.7971), R2=0.9778,对模型12-8的回归结果的分析: 对比前一例,虽然X3和X4 很接近,但前者无法估计,后者仍可估计; 对价格回归的说明; 对判定系数的说明; 对收入(工资)系数的说明统计不显著,且符号错误; X4不显著,但F检验表明,联合假设B2=B4=0却是显著的,即价格和工资同时对商品的需求有显著影响 原因在于,X2 与X4 二者高度相关:(在只有两个解释变量的情形下,相关系数可用于共线性程度的度量。) X4i=299.92-2.0055X2i +ei(见P269, 图12-2),实际经济问题中的多重共线性,一般地,产生多重共线性的主要原因有以下三个方面: 1. 经济变量相关的共同趋势 时间序列样本:经济繁荣时期,各基本经济变量(收入、消费、投资、价格)都趋于增长;衰退时期,又同时趋于下降。 横截面数据:生产函数中,资本投入与劳动力投入往往出现高度相关情况,大企业二者都大,小企业都小。,2. 滞后变量的引入 在经济计量模型中,往往需要引入滞后经济变量来反映真实的经济关系。 例如,消费=f(当期收入, 前期收入) 显然,两期收入间有较强的线性相关性。,3. 样本资料的限制 由于完全符合理论模型所要求的样本数据较难收集,特定样本可能存在某种程度的多重共线性。 一般经验: 时间序列数据样本:简单线性模型,往往存在多重共线性。 截面数据样本:问题不那么严重,但多重共线性仍然是存在的。,三、多重共线性的理论后果,只要共线性是不完全的,则OLS估计量仍然是最优线性无偏估计量,但其仍然存在如下问题: 在接近共线性的情形下,OLS估计量仍然是无偏的; 但无偏性是在重复抽样的情形下得出的,对单个样本仍存在重大影响 接近共线性并未破坏OLS估计量最小方差性,但并不意味着任何一个样本的OLS估计量的方差会很小; 即使变量X与总体不线性相关,但可能与某一样本线性相关: 原因:多数经济数据都不是通过实验获得的,四、多重共线性的实际后果( ),OLS估计量的方差和标准误较大; 置信区间变宽; t值不显著; R2值较高; OLS估计量及其标准误对数据的微小变化非常敏感趋于不稳定; 回归系数符号有误; 难以评估各个解释变量对回归平方和或R2的贡献。 分别就支出对价格、收入,及价格和收入作回归,得到的R2都很大,故难以区别哪一部分归于收入,哪一部分归于价格。,变量的显著性检验失去意义,存在多重共线性时,参数估计值的方差与标准差变大,容易使通过样本计算的t值小于临界值, 误导作出参数为0的推断,可能将重要的解释变量排除在模型之外,五、多重共线性的诊断,应注意的几个问题: 多重共线性是一个程度问题,而非存在与否的问题 多重共线性针对的是解释变量是非随机的情形 ,因而它是一个样本特征,而不是总体特征,诊断多重共线性的经验法则(重点) R2较高,但t值统计显著的不多; 解释变量两两高度相关; 存在问题:两两相关系数可能较低,但却可能存在共线性 检验偏相关系数 类似于偏回归系数 从属回归或辅助回归 做每个变量对其他剩余变量的回归并计算出相应的R2值,例,考虑Y对X2,X3,,X7这6个解释变量的回归,如果回归结果表明存在多重共线性,如R2值很高,但解释变量的系数很少是统计显著的,我们可找出哪些变量可能是其他变量的线性组合,步骤如下: 做X2对其他剩余变量的回归,并求样本判定系数,记为R22; 做X3对其他剩余变量的回归,并求样本判定系数,记为R32; 重复以上步骤,得到6个这样的辅助回归,检验R2的显著性,*:1%的显著性水平 *:5%的显著性水平,诊断多重共线性的经验法则(续) 方差膨胀因子(VIF),结论: 较高的Ri2既非较高标准误的必要条件,也非充分条件,多重共线性本身并不必然导致较高的标准误。 诊断多重共线性的方法有多种,但没有哪一种方法能够彻底诊断多重共线性问题。 多重共线性是一个程度问题,它是一种样本特殊现象。,如何看待多重共线性,多重共线性的好坏取决于研究的目的。 如果是为了利用模型预测应变量的未来均值,则多重共线性未必是一件坏事。 如果研究的目的不仅仅是预测,而且还要可靠地估计出模型的参数,则严重的共线性就是件坏事其导致估计量的标准误增大。,例:1960-1982年期间美国的鸡肉需求 回归的初步结论: 收入弹性和自身价格均统计显著, 收入弹性(大于0)小于1:非奢侈品; 自身价格弹性(小于0)绝对值小于1:缺乏弹性。 两个交叉弹性(替代品)(大于0)不显著 两种肉类与鸡肉是互为竞争的 鸡肉的需求并不猪肉和牛肉价格的影响,对鸡肉需求函数的共线性诊断: 相关矩阵 相关系数很高,但并不表明需求函数中一定存在共线性,只是有存在的可能 辅助回归 所有的R2都统计显著,表明回归方程中每个解释变量都与其他解释变量高度共线。,多重共线性的解决办法( ),方法1:从模型中删除一个变量 例:关于鸡肉猪肉牛肉价格对鸡肉消费量的影响 存在的问题 为了削弱共线性的严重程度,得到的系数估计值可能是有偏的 从模型中删除这些变量可能导致模型设定错误,使简化模型估计得到的参数是有偏的 建议:不要仅仅因为共线性很严重就从一个经济上可行的模型中删除变量,方法2:获取额外的数据或新的样本 有时获得额外的数据将削减共线性程度; 但出于成本和其他一些因素的考虑,获得变量的额外数据也许并不可行,否则,这一实施措施肯定是可行的。,对于上式,给定2和R2,n越大,Var越小。,方法3:重新考虑模型 原模型可能是由于省略了一些重要变量,或者是没有正确选择函数形式。 例:P278, 原来为对数形式,现在用原始数据进行回归。,方法4:先验信息 根据先验研究了解有关参数的某些信息。例如对于: Demand=B1+B2price+B3 salary+u We know that B3=0.9, so (Demard-0.9salary)=B1+B2price +u 该方法的缺陷在于外生的或先验的信息并不总是可获得的。 如果各样本之间的收入效应预期变化不大,且得知有关收入系数的先验信息,那么该方法将较为可行。,方法5:变量变换 有时通过对模型中的变量进行变换也能降低共线性程度。对于Y(进口)X2(GNP)X3(CPI) T检验表明,收入和价格系数都不统计显著,但F检验却拒绝零假设,表明回归方程之间存在共线性,作如下变换,得,差分法 时间序列数据、线性模型:将原模型变换为差分模型: Yi=B1 X1i+B2 X2i+Bk Xki+ ui 可以有效地消除原模型中的多重共线性。 一般讲,增量之间的线性关系远比总量之间的线性关系弱得多。,2. 第二类方法:差分法,例如:在中国消费模型中的2个变量:,由表中的比值可以直观地看到,两变量增量的线性关系弱于总量之间的线性关系。,进一步分析: Y与C(-1)之间的判定系数为0.9845, Y与C(-1)之间的判定系数为0.7456。 一般认为:两个变量之间的判定系数大于0.8时,二者之间存在线性关系。 所以,原模型经检验地被认为具有多重共线性,而差分模型则可认为不具有多重共线性。,其他补救措施 因子或主成分分析 岭回归,本章小结,多重共线性:两个或多个变量高度线性相关 多重共线性的后果 多重共线性的检验 多重共线性的诊断,案例中国粮食生产函数,根据理论和经验分析,影响粮食生产(Y)的主要因素有: 农业化肥施用量(X1) 粮食播种面积(X2) 成灾面积(X3) 农业机械总动力(X4) 农业劳动力(X5),已知中国粮食生产的相关数据,建立中国粮食生产函数: Y=B0+B1 X1 +B2 X2 +B3 X3 +B4 X4 +B4 X5 +u,表:中国粮食生产与相关投入资料,1. 用OLS法估计上述模型:,R2接近于1; 给定=5%,得F临界值 F0.05(5,12)=3.11 F=638.4 15.19,故认上述粮食生产的总体线性关系显著成立。但X4 、X5 的参数未通过t检验,且符号不正确,故解释变量间可能存在多重共线性。,(-0.91) (8.39) (3.32) (-2.81) (-1.45) (-0.14),2. 检验简单相关系数,发现: X1与X4间存在高度相关性。,列出X1,X2,X3,X4,X5的相关系数矩阵:,3. 找出最简单的回归形式,可见,应选第一个式子为初始的回归模型。,分别作Y与X1,X2,X4,X5间的回归:,(25.58) (11.49) R2=0.8919 F=132.1 DW=1.56,(-0.49) (1.14) R2=0.075 F=1.30 DW=0.12,(17.45) (6.68) R2=0.7527 F=48.7 DW=1.11,(-1.04) (2.66) R2=0.3064 F=7.07 DW=0.36,4. 逐步回归,将其他解释变量分别导入上述初始回归模型,寻找最佳回归方程。,回归方程以Y=f(X1,X2,X3)为最优:,5. 结论,4. 变量的显著性检验失去意义,存在多重共线性时,参数估计值的方差与标准差变大,容易使通过样本计算的t值小于临界值, 误导作出参数为0的推断,可能将重要的解释变量排除在模型之外,
展开阅读全文