第三章回归诊断课件

第三章 回归诊断及处理方法第三章 回归诊断及处理方法1主要内容n异方差的产生原因、后果、诊断方法以及处理方法；n自相关的产生原因、后果、诊断方法以及处理方法；n多重共线性的产生原因、后果、诊断方法以及处理方法；主要内容异方差的产生原因、后果、诊断方法以及处理方法；2一、异方差问题及其处理v异方差产生的经济背景v异方差的影响v异方差诊断方法v异方差的处理一、异方差问题及其处理异方差产生的经济背景3（一）异方差产生的经济背景n异方差（heteroscedasticity）（一）异方差产生的经济背景异方差（heteroscedast4（一）异方差产生的经济背景n收入与消费nCD生产函数（一）异方差产生的经济背景5（一）异方差产生的经济背景v随解释变量数值的变化，随机因素影响的力度不同v遗漏重要的解释变量（一）异方差产生的经济背景随解释变量数值的变化，随机因素影响6（二）异方差的影响1、最小二乘估计不再具有最小方差的优良性2、将使得回归系数标准差的估计失准，使得t检验失效3、SSR/（n-k-1）不再是随机误差方差的无偏估计，从而使得F检验失效（二）异方差的影响1、最小二乘估计不再具有最小方差的优良性7（二）异方差的影响n以一元线性回归模型为例（二）异方差的影响以一元线性回归模型为例8（二）异方差的影响n普通最小二乘的标准误估计n存在异方差时真实的标准误（二）异方差的影响普通最小二乘的标准误估计9（二）异方差的影响n普通最小二乘的t统计量n如果分母并非真正的标准误，那么该统计量也不会服从t分布（二）异方差的影响普通最小二乘的t统计量10（二）异方差的影响n在OLS中，估计随机误差项的方差采用如下公式：n如果存在异方差，该公式将不再合适（二）异方差的影响在OLS中，估计随机误差项的方差采用如下公11（二）异方差的影响（二）异方差的影响12（二）异方差的影响（二）异方差的影响13（二）异方差的影响n正规的分析（二）异方差的影响正规的分析14（二）异方差的影响同方差时的估计量异方差时的估计量异方差下错误的估计量（二）异方差的影响同方差时的估计量异方差时的估计量异方差下错15（二）异方差的影响n可以证明，如果参数估计量具有一致性，则有：（二）异方差的影响可以证明，如果参数估计量具有一致性，则有：16（二）异方差的影响（二）异方差的影响17112112221112212211*11+21*2111*12+21*2212*11+22*2112*12+22*22112112221112212211*11+21*2111*18（二）异方差的影响n模拟分析 通过模拟，可以直观的观察到不同异方差模式下，普通最小二乘法回归系数标准误估计失准的不同程度。（二）异方差的影响模拟分析19（三）异方差诊断方法n利用残差图进行诊断n各种检验（三）异方差诊断方法利用残差图进行诊断20（三）异方差诊断方法n残差图是否具有某种趋势（三）异方差诊断方法残差图是否具有某种趋势21（三）异方差诊断方法（三）异方差诊断方法22（三）异方差诊断方法n检验1、Glejser检验2、等级相关系数检验3、Breusch-Pagan检验4、White检验（三）异方差诊断方法检验231、Glejser检验n假定残差与自变量存在密切联系，是自变量的函数，这样通过对残差与自变量建模并进行检验，可以判断关系是否显著，籍此可以进一步判断异方差的存在n步骤：得到残差；以残差为被解释变量，以某个解释变量为解释变量建模并进行通常的F、t检验，如果拒绝原假设，则存在异方差，反之不能如此认为1、Glejser检验假定残差与自变量存在密切联系，是自变量241、Glejser检验n常用函数形式1、Glejser检验常用函数形式252、等级相关系数检验n如果自变量与残差具有共变性，此增彼增或者相反，则存在异方差，采用等级相关，可以适用更广泛的异方差模式n步骤：1）获得残差并取绝对值 2）计算残差与自变量的Spearman系数 3）进行检验2、等级相关系数检验如果自变量与残差具有共变性，此增彼增或者262、等级相关系数检验2、等级相关系数检验273、Breusch-Pagan检验n如果同方差假定正确，则有：n如果不正确，则有：3、Breusch-Pagan检验如果同方差假定正确，则有：283、Breusch-Pagan检验n可以构造F统计量来检验所有回归系数是否都为0步骤：1）得到残差并计算其平方；2）残差对自变量作回归，并得到F统计量3）如果大于临界值，则存在异方差3、Breusch-Pagan检验可以构造F统计量来检验所有294、White检验n思想与Breusch-Pagan检验完全相同，只不过增加了所有自变量的平方与交叉乘积项4、White检验思想与Breusch-Pagan检验完全相304、White检验n一种比较节省自由度的方法是对如下函数建模并进行F检验4、White检验一种比较节省自由度的方法是对如下函数建模并31（三）异方差诊断方法n检验未能拒绝原假设，并不意味着不存在异方差n检验拒绝了原假设并不意味着存在异方差，其他如设定错误、序列相关也会导致类似的结果（三）异方差诊断方法检验未能拒绝原假设，并不意味着不存在异方32（四）异方差的处理n处理异方差的方法按建模阶段大致可以分为三类：n数据变换n改进参数估计方法n改进检验统计量（四）异方差的处理处理异方差的方法按建模阶段大致可以分为三类331、数据变换对数据进行幂变换，以获得同方差性v获得p值的方法（适用于一元回归）首先将数据按自变量的大小分组，然后计算每一组因变量的中位数和四分位距；对四分位距取对数为纵坐标，对中位数取对数为横坐标；拟合一条直线，1-斜率就是所需要的p值 1、数据变换对数据进行幂变换，以获得同方差性341、数据变换n变换的机制 假设经过变换获得同方差的数据 1、数据变换变换的机制351、数据变换1、数据变换361、数据变换1、数据变换371、数据变换n上述变换图的方法适用于数据较多的一元回归情况，能给出相对可靠的p值估计，更为通常的做法是：对每个变量取对数n对数变换可以压缩变量尺度，降低异方差的影响1、数据变换上述变换图的方法适用于数据较多的一元回归情况，能382、加权最小二乘（WLS）2、加权最小二乘（WLS）392、加权最小二乘（WLS）n权数的确定 在一元回归情况下，可以用类似Glejser检验中的方法得到异方差的确切形式 在多元回归情况下，可以利用White检验的方法得到估计，如下的模型也可以采用：2、加权最小二乘（WLS）权数的确定402、加权最小二乘（WLS）n对该方程进行回归，得到拟合值2、加权最小二乘（WLS）对该方程进行回归，得到拟合值41 结束语当你尽了自己的最大努力时，失败也是伟大的，所以不要放弃，坚持就是正确的。When You Do Your Best,Failure Is Great,So DonT Give Up,Stick To The End 结束语42谢谢大家荣幸这一路，与你同行ItS An Honor To Walk With You All The Way演讲人：XXXXXX 时 间：XX年XX月XX日 谢谢大家演讲人：XXXXXX 43