异方差性课件

第四章第四章 放宽基本假定的模型放宽基本假定的模型 4.1 4.1 异方差性异方差性 4.2 4.2 序列相关性序列相关性 4.3 4.3 多重共线性多重共线性 4.4 4.4 随机解释变量随机解释变量1 1、违背基本假定的情形：、违背基本假定的情形： 随机误差项随机误差项 i i 的方差不一致的方差不一致异方差性异方差性； 随机误差项随机误差项 i i 之间存在相关之间存在相关序列相关性序列相关性； 解释变量解释变量 X X 之间存在相关之间存在相关多重共线性多重共线性； 解释变量解释变量 X X 是随机变量是随机变量随机解释变量问题随机解释变量问题； 模型形式设定错误模型形式设定错误设定偏误问题设定偏误问题 解释变量的方差不随样本容量的增加而收敛解释变量的方差不随样本容量的增加而收敛伪回归问题伪回归问题2 2、对于每一种情形：、对于每一种情形： 表现形式表现形式是什么？是什么？ 产生的原因何在？产生的原因何在？ 造成的造成的后果后果如何？如何？ 如何如何检验检验其存在？其存在？ 如何如何解决解决和处理？和处理？对于模型：对于模型：ikikiiiiXXXY2210如果出现如果出现Varii()2 一、异方差性的概念一、异方差性的概念注意：此处讨论异方差性时，并未改变其它基本假设，此时随机误差项注意：此处讨论异方差性时，并未改变其它基本假设，此时随机误差项仍然满足：仍然满足：E(E(i i)=0,cov()=0,cov(i i,j j)=0)=0。# # 异方差下随机误差项的方差协方差阵异方差下随机误差项的方差协方差阵在其他假设不变的情况下，异方差意味着：在其他假设不变的情况下，异方差意味着：22var()()cov(,)()0iiiijijEE 2211122122()()0cov( )()()()0 =nnnnEEEEEWI 异方差的类型异方差的类型 1 1、同方差同方差假定：假定： var(var(i i) ) 2 2( (常数常数) ) f(X f(Xi i) ) 即：即：每个样本点上的每个样本点上的 i i 围绕其均值围绕其均值0 0的分布的分布与解释变量与解释变量X X无关无关 2 2、异方差异方差时：时：var(var(i i) ) i i2 2 = f(X = f(Xi i) ) 即：每个样本点上的即：每个样本点上的 i i 的方差的方差随随X X的变化而变化的变化而变化 异方差性的类型图示异方差性的类型图示 二、实际经济问题中的异方差性二、实际经济问题中的异方差性【例例4.1.14.1.1】：】：居民家庭储蓄行为（截面资料）居民家庭储蓄行为（截面资料） Y Yi i= = 0 0+ + 1 1X Xi i+ + i i Y Yi i: :第第i i个家庭的储蓄额个家庭的储蓄额 X Xi i: :第第i i个家庭的可支配收入个家庭的可支配收入 被解释变量：产出量被解释变量：产出量Y Y 解释变量：资本解释变量：资本K K、劳动、劳动L L、技术、技术A A分析：分析： 每个企业所处的外部环境对产出量的影响被包含在随机误差项中。每个企业所处的外部环境对产出量的影响被包含在随机误差项中。 每个企业所处的外部环境对产出量的影响程度不同，造成了随机误每个企业所处的外部环境对产出量的影响程度不同，造成了随机误差项的异方差性。差项的异方差性。 这时，随机误差项的方差并不随某一个解释变量观测值的变化而呈这时，随机误差项的方差并不随某一个解释变量观测值的变化而呈规律性变化，呈现规律性变化，呈现复杂型复杂型。一般而言：一般而言： 对于采用对于采用截面数据截面数据作样本的计量经济学问题，由于在不同样本点上作样本的计量经济学问题，由于在不同样本点上解释变量以外的其他因素的差异较大，所以解释变量以外的其他因素的差异较大，所以往往存在异方差性往往存在异方差性经验总结经验总结 三、异方差性的后果三、异方差性的后果计量经济学模型一旦出现异方差性，如果仍采用计量经济学模型一旦出现异方差性，如果仍采用OLSOLS估计模型参数，估计模型参数，会产生下列不良后果：会产生下列不良后果：1 1、参数估计量仍然无偏，但非有效、参数估计量仍然无偏，但非有效因为在有效性证明中利用：因为在有效性证明中利用：E(E()=)= 2 2I I而且，在而且，在大样本大样本情况下，尽管参数估计量情况下，尽管参数估计量具有一致性具有一致性，但仍然，但仍然不具不具有渐近有效性。有渐近有效性。这意味着，在异方差情形下，如果仍采用这意味着，在异方差情形下，如果仍采用OLSOLS估计，则可能估计，则可能低估或高低估或高估估参数估计量的方差。参数估计量的方差。2 2、变量的显著性检验失去意义、变量的显著性检验失去意义 变量的显著性检验中，构造了变量的显著性检验中，构造了t t统计量统计量3 3、模型的预测失效、模型的预测失效一方面，由于上述后果，使得模型不具有良好的统计性质；一方面，由于上述后果，使得模型不具有良好的统计性质；所以：所以：当模型出现异方差性时，参数当模型出现异方差性时，参数OLSOLS估计值的变异程度增大，从而估计值的变异程度增大，从而造成对造成对Y Y的预测误差变大，降低预测精度，的预测误差变大，降低预测精度，预测功能失效预测功能失效。 另一方面，在预测值的置信区间中也包含有误差方差的估计量：另一方面，在预测值的置信区间中也包含有误差方差的估计量：2 四、异方差性的检验四、异方差性的检验检验思路：检验思路： 由于异方差性就是相对于不同的解释变量观测值，随机误差项具有不由于异方差性就是相对于不同的解释变量观测值，随机误差项具有不同的方差同的方差 检验异方差性，也就是检验检验异方差性，也就是检验随机误差项的方差随机误差项的方差Var(Var(i i) )与解释变量与解释变量X X观观测值之间的相关性测值之间的相关性问题：用什么来表示随机误差项的方差?随机误差项的方差的表示随机误差项的方差的表示首 先 采 用OL S 法 估 计 模 型 ， 以 求 得 随 机 误 差 项 的估 计 量（ 注 意 ，该 估 计 量 是 不 严 格 的 ） ，我 们 称 之 为“ 近近似似 估估 计计 量量 ” ， 用ei表 示 。 于 是 有VarEeiii()()22( )eyyiiils0（一）图示检验法（一）图示检验法22();();(); jiiijA XeB YeCXY 看散点图是否具有看散点图是否具有水平直线水平直线趋势趋势ei2 ei2 X X 同方差 递增异方差ei2 ei2 X X 递减异方差 复杂型异方差2( )jiAXe ( )jCXY 看散点图是否存在明显的看散点图是否存在明显的扩大、缩小或复杂扩大、缩小或复杂趋势趋势 基本思想基本思想: :ijiiXfe)(2ijiiXfe)(|选择关于变量选择关于变量X X的不同的函数形式，对方程进行估计并进行显著性的不同的函数形式，对方程进行估计并进行显著性检验，如果存在某一种函数形式，使得方程显著成立，则说明原模检验，如果存在某一种函数形式，使得方程显著成立，则说明原模型存在异方差性。型存在异方差性。由帕克由帕克(Park)(Park)和戈里瑟和戈里瑟(Gleiser)(Gleiser)在在19691969年提出。采用辅助回归方法进行判断年提出。采用辅助回归方法进行判断 以以 或或 为被解释变量，以原模型的某一个解释变量为被解释变量，以原模型的某一个解释变量 为为解释变量，尝试建立方程：解释变量，尝试建立方程：2ie e jX（二）帕克检验与戈里瑟检验（二）帕克检验与戈里瑟检验戈里瑟戈里瑟提出如下假定函数形式：提出如下假定函数形式：等等如如：ihjiihjiihjiihjiihjiixxxxxxxxhxaae1;,.21,2,1,210 帕克帕克提出如下假定函数形式：提出如下假定函数形式：120201lnlnlniaijiiiieaxeeaax 即即 ：如果上述方程能够显著成立，或者某一回归系数能够显著不为如果上述方程能够显著成立，或者某一回归系数能够显著不为0 0，则认，则认为存在异方差性为存在异方差性（三）戈德菲尔德（三）戈德菲尔德- -匡特检验（匡特检验（GQGQ检验）检验） 基本思想基本思想 如果随机误差项的方差与某一解释变量如果随机误差项的方差与某一解释变量X X相关且呈现相关且呈现递增递增变化，则在变化，则在X X值值较大较大的样本点上进行回归，其回归残差平方和的样本点上进行回归，其回归残差平方和eei i2 2应该比在应该比在X X值较小的样本值较小的样本点上施行同样的回归所得到的残差平方和要点上施行同样的回归所得到的残差平方和要大大，反之前者的残差平方和应该，反之前者的残差平方和应该较后者要小。较后者要小。 在按某一解释变量对样本在按某一解释变量对样本排序排序，再将排序后的样本，再将排序后的样本一分为二一分为二，对子样，对子样和子样和子样分别作分别作OLSOLS回归回归，然后利用两个子样的，然后利用两个子样的残差平方和之比残差平方和之比构造统计量构造统计量进行异方差检验。进行异方差检验。G-QG-Q检验由戈德菲尔德检验由戈德菲尔德(Goldfeld)(Goldfeld)和匡特和匡特(Quandt)(Quandt)在在19651965年提出年提出G-QG-Q检验以检验以F F检验检验为基础，适用于样本容量较大（一般在参数个数的两倍以上）、为基础，适用于样本容量较大（一般在参数个数的两倍以上）、异方差递增或递减异方差递增或递减的情况。的情况。 G-Q G-Q检验的步骤检验的步骤 1 1、排序排序将将n n组样本观察值组样本观察值(X(Xi i,Y,Yi i) )按观察值按观察值X Xi i的大小排序（的大小排序（X X为某一为某一 被认为有可能引起异方差的解释变量）被认为有可能引起异方差的解释变量） 2 2、划分划分将序列中间的将序列中间的c=n/4c=n/4个个观察值除去（也可以不去除，视样观察值除去（也可以不去除，视样本资料的丰富程度而定），并将剩下的观察值划分为前、后两个容本资料的丰富程度而定），并将剩下的观察值划分为前、后两个容量相同的子样本，每个子样本容量均为量相同的子样本，每个子样本容量均为(n-c)/2(n-c)/23 3、回归回归对每个子样本分别进行对每个子样本分别进行OLSOLS回归回归，并计算各自的残差平方和，并计算各自的残差平方和， 分别用分别用 和和 表示较小的残差平方和和表示较小的残差平方和和 较大的残差平方和，其自由度均为：较大的残差平方和，其自由度均为：21iRSSe 小小22iRSSe 大大12nck 4 4、构造统计量构造统计量在同方差性假定下在同方差性假定下（HH0 0：u ui i同方差），同方差），构造如下满足构造如下满足F F分布的统计量（注意：分布的统计量（注意：RSSRSS大大/RSS/RSS小小）)12, 12()12()12(2122kcnkcnFkcnekcneFii5 5、检验结论检验结论给定显著性水平给定显著性水平 ，确定临界值：，确定临界值：F F ( (v v1 1,v,v2 2) )，若，若FFFF ( (v v1 1,v,v2 2) ) 则则拒绝拒绝同方差性假设，表明同方差性假设，表明存在异方差存在异方差。 （右侧检验）（右侧检验）注：可根据两个残差平方和对应的子样的顺序判断是递增型异方差还是注：可根据两个残差平方和对应的子样的顺序判断是递增型异方差还是递减异型方差。递减异型方差。 G-Q G-Q检验的步骤检验的步骤由怀特（由怀特（White)White)在在19801980年提出，通过辅助回归模型判断，怀特检验不需要排年提出，通过辅助回归模型判断，怀特检验不需要排序，适合任何形式的异方差序，适合任何形式的异方差iiiiXXY22110iiiiiiiiXXXXXXe2152242132211021 1、怀特检验的基本思想与步骤（以二元为例）：、怀特检验的基本思想与步骤（以二元为例）：2ie （四）怀特检验（四）怀特检验（WhiteWhite）1 1、辅助回归中的次数问题辅助回归中的次数问题 辅助回归仍是检验与解释变量可能的组合的显著性，因此，辅助回辅助回归仍是检验与解释变量可能的组合的显著性，因此，辅助回归方程中还可引入解释变量的更高次方，但通常只是使用至归方程中还可引入解释变量的更高次方，但通常只是使用至2 2次项次项2 2、辅助回归中的交叉项问题辅助回归中的交叉项问题 多元回归中，由于辅助回归方程中可能有太多解释变量，从而使自多元回归中，由于辅助回归方程中可能有太多解释变量，从而使自由度减少，有时可去掉交叉项，由此有两种检验模式：由度减少，有时可去掉交叉项，由此有两种检验模式： 无交叉项的无交叉项的WhiteWhite检验（检验（without cross termswithout cross terms） 带交叉项的带交叉项的WhiteWhite检验（检验（with cross termswith cross terms）# # 怀特检验的说明怀特检验的说明 五、异方差的修正五、异方差的修正 检验结果证实存在异方差性时，需要针对不同的情况进行修正：检验结果证实存在异方差性时，需要针对不同的情况进行修正： （1 1）如果异方差性是由于模型遗漏了重要的解释变量，或者模型的）如果异方差性是由于模型遗漏了重要的解释变量，或者模型的 函数形式设立错误引起函数形式设立错误引起 增补变量或改变模型设定形式增补变量或改变模型设定形式 （2 2）如果异方差性仅仅是由样本观测值引起的）如果异方差性仅仅是由样本观测值引起的 变换变量的形式或者采用合适的估计方法变换变量的形式或者采用合适的估计方法 常用的估计方法：常用的估计方法：加权最小二乘法加权最小二乘法（Weighted Least SquareWeighted Least Square， WLSWLS）（一）模型的对数变换（一）模型的对数变换如果模型：如果模型：011.iikkiiYXX存在异方差存在异方差则对则对Y Y和和X X进行进行对数变换对数变换，拟合以下模型：，拟合以下模型：011lnln.lniikkiiYbbXbX 这通常可以降低异方差性的影响这通常可以降低异方差性的影响原因在于：原因在于： 对数变换能使测定变量值的尺度缩小，将两个数值之间的对数变换能使测定变量值的尺度缩小，将两个数值之间的1010倍差异缩小到倍差异缩小到大约只有大约只有2 2倍的差异倍的差异 变换后的模型，其残差表示相对误差，而相对误差往往具有较小的差异变换后的模型，其残差表示相对误差，而相对误差往往具有较小的差异 实际上这一变换相当于改变了模型的设定形式实际上这一变换相当于改变了模型的设定形式 上述模型称为上述模型称为双对数模型双对数模型，类似地可以建立，类似地可以建立单对数模型单对数模型 （二）加权最小二乘法（二）加权最小二乘法1 1、对原模型进行加权，使之变成一个新的不存在异方差性的模型，然、对原模型进行加权，使之变成一个新的不存在异方差性的模型，然后再采用后再采用OLSOLS估计参数估计参数2 2、基本思想：、基本思想： 误差方差较小的点，偏离总体回归线的程度小，代表性强误差方差较小的点，偏离总体回归线的程度小，代表性强 误差方差较大的点，偏离总体回归线的程度大，代表性弱误差方差较大的点，偏离总体回归线的程度大，代表性弱 对误差方差较小的点（代表性较强的点）赋予较大的权数，对误差方对误差方差较小的点（代表性较强的点）赋予较大的权数，对误差方差较小的点（代表性较弱的点）赋予较小的权数，以反映代表性不同差较小的点（代表性较弱的点）赋予较小的权数，以反映代表性不同的样本点在拟合过程中的重要性的样本点在拟合过程中的重要性3 3、实质：最小化加权后的残差平方和：、实质：最小化加权后的残差平方和：22min()iiiiiwew YY 1. 1. 已知异方差形式时，已知异方差形式时， i i的选择的选择模型变换法模型变换法对于多元线性回归模型：对于多元线性回归模型：011iikk iiYXX22var()()iijif X011111()()()11 ()()iijijijikk iijijiYXfXfXfXXfXfX 1()ijif X 1*11,()()()1 ,()()iijijijik iiijijiXYXXfXfXfXXXfXfX * * * *i i0 0i i1 1i i* *k k, ,i i令令 ： Y Y*0011,iiikk iiYXXX*2211v a r ()v a r ()v a r ()()()1 =()()iiijijijijifXfXfXfX 模型变换法中的模型变换法中的 f(X) f(X) 可以利用可以利用帕克检验帕克检验或者或者戈里瑟检验戈里瑟检验予以寻找。予以寻找。一般一般 f(X) f(X) 可以取如下形式：可以取如下形式：# # 模型变换法的说明模型变换法的说明2()()ijiijifXXfXX . . . . . . . . . . .注意变换后的模型参数与原模型参数的对应关系注意变换后的模型参数与原模型参数的对应关系0101011(1)(1)(1)*iiiiiiiiiiiiYXYXXXXYbbX 011iiiii11111iikk iiYXX *222111v a r ()v a r ()v a r ()=1iiiiiii 2 2、未知异方差形式时，、未知异方差形式时， i i的选择的选择直接加权法直接加权法对于多元线性回归模型：对于多元线性回归模型：011iikk iiYXX2var()ii 1ii 实际中，可以采用实际中，可以采用|ei|ei|作为作为ii的估计，即权数可以取为：的估计，即权数可以取为：# # 直接加权法的说明直接加权法的说明采用直接加权法后，所得模型的异方差性消除地较为彻底，所得模型采用直接加权法后，所得模型的异方差性消除地较为彻底，所得模型的拟合优度往往大为提高，但这种将误差方差强制性归的拟合优度往往大为提高，但这种将误差方差强制性归1 1的方法仍值得的方法仍值得商榷。商榷。1iie 对于模型对于模型: : Y=XY=X + + （X X为设计矩阵，为设计矩阵，Y Y、 、 为列向量）为列向量）# # 加权最小二乘法的一般过程（矩阵表示加权最小二乘法的一般过程（矩阵表示) )DXDYD111*XY记为：记为：21220cov( )()=0nEW *1*)(YXXXYWXXWXYDDXXDDX11111111)()(1111*1212112()()() =EEDDDEDDW DDDD DI # # 如何得到加权矩阵如何得到加权矩阵DD-1-1 ？ie221111220000=0000nnnneeeWeee 111210111(,)10nneDd i a geeee 六、案例六、案例（中国农村居民人均消费函数）（中国农村居民人均消费函数） 22110lnlnlnXXY21ln5084. 0ln3166. 0655. 1lnXXY (1.87) (3.02) （10.04） 2R=0.7831 2R=0.7676 DW=1.89 F=50.53 RSS=0.8232 21ln119. 0ln343. 0061. 4lnXXY (3.18) (4.13) (0.94) (3.18) (4.13) (0.94) R R2 2=0.7068=0.7068， RSSRSS1 1=0.0648=0.064821ln776. 0ln138. 0791. 0lnXXY# Eviews# Eviews程序：程序：SortSort lnx2 lnx2 按按lnX2lnX2排序排序SmplSmpl 1 12 1 12 选定第选定第1 1组样本（组样本（1 11212号样本点号样本点) )LsLs lny c lnx1 lnx2 lny c lnx1 lnx2 进行回归，记录进行回归，记录RSS1RSS1SmplSmpl 20 31 20 31 选定第选定第2 2组样本（组样本（20203131号样本点号样本点) )(1)(1)LsLs lny c lnx1 lnx2 lny c lnx1 lnx2 进行回归，记录进行回归，记录RSS2RSS22222112)(ln026. 0ln055. 0)(ln015. 0ln102. 017. 0XXXXe21lnln043. 0XX# Eviews# Eviews程序：程序：LsLs lny c lnx1 lnx2 lny c lnx1 lnx2 进行回归，出现方程窗口进行回归，出现方程窗口(1)(1)在方程窗口依次选择：在方程窗口依次选择：Views Residual Test White HetroViews Residual Test White Hetro 21ln527. 0ln319. 0497. 1lnXXY (5.12) (5.94) （28.94） 2R=0.9999 2R=0.9999 DW=2.49 F=924432 RSS=0.0706 3 3、模型修正、模型修正WLSWLS( (直接加权法直接加权法) )