多元回归分析课件

多元回归多元回归多元回归1多元回归多元回归 多元多元线线性回性回归归模型模型 多元多元线线性回性回归归模型的参数估模型的参数估计计多元多元线线性回性回归归模型的模型的统计检验统计检验多元多元线线性回性回归归模型的模型的预测预测回回归归模型的其他形式模型的其他形式多元回归 多元线性回归模型 2多元线性回归模型多元线性回归模型 一、一、多元线性回归模型多元线性回归模型 二、二、多元线性回归模型的基本假定多元线性回归模型的基本假定 多元线性回归模型 一、多元线性回归模型 3 一、多元线性回归模型一、多元线性回归模型 多元多元线线性回性回归归模型模型:表现在线性回归模型中的解释变量有多个。一般表现形式一般表现形式：i=1,2,n其中:k为解释变量的数目，j称为回回归归参数参数（regression coefficient）。习习惯惯上上：把常常数数项项看成为一虚虚变变量量的系数，该虚变量的样本观测值始终取1。这样：模型中解模型中解释变释变量的数目量的数目为为（k+1）一、多元线性回归模型 多元线性回归模型:表现4也也被被称称为为总总体体回回归归函函数数的的随随机机表表达达形形式式。它它 的的非随机表达式非随机表达式为为:方程表示：方程表示：各各变变量量X值值固定固定时时Y的平均响的平均响应应。j也也被被称称为为偏偏回回归归系系数数，表表示示在在其其他他解解释释变变量量保保持持不不变变的的情情况况下下，Xj每每变变化化1个个单单位位时时，Y的的均值均值E(Y)的变化的变化;或或者者说说j给给出出了了Xj的的单单位位变变化化对对Y均均值值的的“直直接接”或或“净净”（不含其他变量）影响。（不含其他变量）影响。也被称为总体回归函数的随机表达形式。它 的非随机表达式为:5总体回归模型总体回归模型n个随机方程的个随机方程的矩阵表达式矩阵表达式为为 其中其中总体回归模型n个随机方程的矩阵表达式为 其中6样样本回本回归归函数函数：用来估计总体回归函数：用来估计总体回归函数其其随机表示式随机表示式:ei称为称为残差残差或或剩余剩余项项(residuals)，可看成是总，可看成是总体回归函数中随机扰动项体回归函数中随机扰动项 i的近似替代。的近似替代。样样本回本回归归函数函数的的矩矩阵阵表达表达:或或其中：其中：样本回归函数：用来估计总体回归函数其随机表示式:7二、多元线性回归模型的基本假定二、多元线性回归模型的基本假定 假设1，解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。假设2，随机误差项具有零均值、同方差及不序列相关性 假设3，解释变量与随机项不相关 假设4，随机项满足正态分布 二、多元线性回归模型的基本假定 假设1，解释变量是非随8上述假设的上述假设的矩阵符号表示矩阵符号表示 式：式：假设1，n(k+1)矩阵X是非随机的，且X的秩=k+1，即X满秩。假设2，假设3，E(X)=0，即 上述假设的矩阵符号表示 式：假设1，n(k+1)矩阵9假设4，向量 有一多维正态分布，即 同一元回归一样，多元回归还具有如下两个重要假设：同一元回归一样，多元回归还具有如下两个重要假设：假设5，样本容量趋于无穷时，各解释变量的方差趋于有界常数，即n时，或 其中：Q为一非奇异固定矩阵，矩阵x是由各解释变量的离差为元素组成的nk阶矩阵 假设6，回归模型的设定是正确的。假设4，向量 有一多维正态分布，即 同一元回归一样，多10多元线性回归模型的估计多元线性回归模型的估计 估计方法：OLS、ML或者MM一、普通最小二乘估一、普通最小二乘估计计*二、最大或然估二、最大或然估计计*三、矩估三、矩估计计 四、参数估四、参数估计计量的性量的性质质 五、五、样样本容量本容量问题问题 六、估六、估计实计实例例 多元线性回归模型的估计 估计方法：OLS、ML或者MM一、普11一、普通最小二乘估一、普通最小二乘估计计对于随机抽取的n组观测值如果样样本函数本函数的参数估计值已经得到，则有：i=1,2n根据最小二乘原理最小二乘原理，参数估计值应该是下列方程组的解 其中一、普通最小二乘估计对于随机抽取的n组观测值如果样本函数的参12于是得到关于待估参数估计值的正正规规方程方程组组：于是得到关于待估参数估计值的正规方程组：13正正规规方程方程组组的矩矩阵阵形式形式即由于XX满秩，故有 正规方程组的矩阵形式即由于XX满秩，故有 14样样本回本回归归函数的离差形式函数的离差形式i=1,2n其矩阵形式矩阵形式为 其中：在离差形式下，参数的最小二乘估计结果为 样本回归函数的离差形式i=1,2n其矩阵形式为 其中：15随机误差项随机误差项 的方差的方差 的无偏估计的无偏估计 可以证明，随机误差项的方差的无偏估计量为 随机误差项的方差的无偏估计 可以证明，随机误差项16 *二、最大或然估二、最大或然估计计 对于多元线性回归模型易知 Y的随机抽取的n组样本观测值的联合概率即为变量Y的或然函数或然函数 *二、最大或然估计 对于多元线性回归模型易知 Y17对数或然函数为对对数或然函数求极大值，也就是对 求极小值。因此，参数的最大或然估最大或然估计计为为结结果与参数的普通最小二乘估果与参数的普通最小二乘估计计相同相同对数或然函数为对对数或然函数求极大值，也就是对 求极小值。18*三、矩估三、矩估计计（Moment Method,MM）OLS估计是通过得到一个关于参数估计值的正正规规方程方程组组并对它进行求解而完成的。该该正规方程组正规方程组 可以从另外一种思路来导:求期望:*三、矩估计（Moment Method,MM）19称为原总体回归方程的一组矩条件矩条件，表明了原总体回归方程所具有的内在特征。由此得到正正规规方程方程组组 解此正规方程组即得参数的MM估计量。易知MM估计量与与OLS、ML估计量等价。称为原总体回归方程的一组矩条件，表明了原总体回归方程所具有的20矩方法矩方法是是工具工具变变量方法量方法(Instrumental Variables,IV)和和广广义义矩估矩估计计方法方法(Generalized Moment Method,GMM)的基础的基础 在在矩方法矩方法中关键是利用了中关键是利用了 E(X)=0 如果某个解释变量与随机项相关，只要能找到1个工具变量，仍然可以构成一组矩条件。这就是IV。如果存在k+1个变量与随机项不相关，可以构成一组包含k+1方程的矩条件。这就是GMM。矩方法是工具变量方法(Instrumental Variab21 *四、参数估四、参数估计计量的性量的性质质 在满足基本假设的情况下，其结构参数 的普通最小二乘估计、最大或然估最大或然估计计及矩估矩估计计仍具有：线性性线性性、无偏性无偏性、有效性有效性。同时，随着样本容量增加，参数估计量具有：渐近无偏性、渐近有效性、一致性渐近无偏性、渐近有效性、一致性。1、线线性性性性 其中,C=(XX)-1 X 为一仅与固定的X有关的行向量 *四、参数估计量的性质 在满足基本假设的情况下，其结22 2、无偏性、无偏性 这里利用了假设:E(X)=0 3、有效性（最小方差性）、有效性（最小方差性）2、无偏性 这里利用了假设:E(X)=0 323其中利用了 和其中利用了 和24 五、样本容量问题五、样本容量问题 所谓“最小样本容量最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。最小最小样样本容量本容量 样样本最小容量必本最小容量必须须不少于模型中解不少于模型中解释变释变量量的数目（包括常数的数目（包括常数项项）,即 n k+1因为，无多重共线性要求：秩(X)=k+1 五、样本容量问题 所谓“最小样本容量”，即从最小25 2、满满足基本要求的足基本要求的样样本容量本容量 从统计检验的角度从统计检验的角度：n30 时，Z检验才能应用；n-k8时,t分布较为稳定 一般经验认为一般经验认为:当n30或者至少n3(k+1)时，才能说满足模型估计的基本要求。模型的良好性模型的良好性质质只有在大只有在大样样本下才能得本下才能得到理到理论论上的上的证证明明 2、满足基本要求的样本容量 从统计检验的角度：一般经验26多元线性回归模型的统计检验多元线性回归模型的统计检验 一、一、拟拟合合优优度度检验检验 二、方程的二、方程的显显著性著性检验检验(F检验检验)三、三、变变量的量的显显著性著性检验检验（t检验检验）四、参数的置信区四、参数的置信区间间 多元线性回归模型的统计检验 一、拟合优度检验27 一、一、拟拟合合优优度度检验检验 1、可决系数与、可决系数与调调整的可决系数整的可决系数则 总离差平方和的分解总离差平方和的分解 一、拟合优度检验 1、可决系数与调整的可决系数28由于=0所以有：注意：注意：一个有趣的一个有趣的现现象象由于=0所以有：注意：一个有趣的现象29 可决系数可决系数该统计量越接近于1，模型的拟合优度越高。问题：问题：在应用过程中发现，如果在模型中增加一个解释变量，R2往往增大（Why?)这就给人一个错觉一个错觉：要使得模型要使得模型拟拟合得好，只合得好，只要增加解要增加解释变释变量即可量即可。但是，现实情况往往是，由增加解释变量个数引起的R2的增大与拟合好坏无关，R2需调整需调整。可决系数该统计量越接近于1，模型的拟合优度越高。30 调整的可决系数调整的可决系数（adjusted coefficient of determination）在样本容量一定的情况下，增加解释变量必定使得自由度减少，所以调整的思路是:将残差平方将残差平方和与和与总总离差平方和分离差平方和分别别除以各自的自由度，以剔除以各自的自由度，以剔除除变变量个数量个数对拟对拟合合优优度的影响度的影响:其中：n-k-1为残差平方和的自由度，n-1为总体平方和的自由度。调整的可决系数（adjusted coefficie31多元回归分析课件32 *2、赤池信息准、赤池信息准则则和施瓦茨准和施瓦茨准则则 为了比较所含解释变量个数不同的多元回归模型的拟合优度，常用的标准还有:赤池信息准赤池信息准则则（Akaike information criterion,AIC）施瓦茨准施瓦茨准则则（Schwarz criterion，SC）这两准则均要求这两准则均要求仅仅当所增加的解当所增加的解释变释变量能量能够够减少减少AIC值值或或AC值时值时才在原模型中增加才在原模型中增加该该解解释变释变量量。*2、赤池信息准则和施瓦茨准则 为了比较所含解33 二、方程的显著性检验二、方程的显著性检验(F检验检验)方程的方程的显显著性著性检验检验，旨在，旨在对对模型中被解模型中被解释变释变量与解量与解释变释变量之量之间间的的线线性关系性关系在在总总体上体上是否是否显显著著成立作出推断。成立作出推断。1、方程、方程显显著性的著性的F检验检验 即检验模型 Yi=0+1X1i+2X2i+kXki+i i=1,2,n中的参数j是否显著不为0。可提出如下原假设与备择假设：H0：0=1=2=k=0 H1：j不全为0 二、方程的显著性检验(F检验)方程的显著性检验34 F检验检验的思想的思想来自于总离差平方和的分解式：TSS=ESS+RSS 如果这个比值较大，则X的联合体对Y的解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。因此因此,可通可通过该过该比比值值的大小的大小对总对总体体线线性关系性关系进进行推行推断断。F检验的思想来自于总离差平方和的分解式：如果35 根据数理统计学中的知识，在原假设H0成立的条件下，统计量 服从自由度为(k,n-k-1)的F分布 给定显著性水平，可得到临界值F(k,n-k-1)，由样本求出统计量F的数值，通过 F F(k,n-k-1)或 FF(k,n-k-1)来拒绝或接受原假设H0，以判定原方程总体上总体上的线性关系是否显著成立。根据数理统计学中的知识，在原假设H0成立的条件下，统计36 2、关于关于拟拟合合优优度度检验检验与方程与方程显显著性著性检检验验关系的关系的讨论讨论 由可推出：与或 2、关于拟合优度检验与方程显著性检验关系的讨论 37在在中国居民人均收入中国居民人均收入-消费消费一元模型一元模型中，中，在在中国居民人均收入中国居民人均收入-消费消费二元模型二元模型中中，在中国居民人均收入-消费一元模型中，在中国居民人均收入-消费38 三、变量的显著性检验（三、变量的显著性检验（t检验）检验）方程的总总体体线线性性关系显著 每个解每个解释变释变量量对被解释变量的影响都是显著的 因此，必须对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。这这一一检验检验是由是由对变对变量的量的 t 检验检验完成的。完成的。三、变量的显著性检验（t检验）方程的总体线39 1、t统计统计量量 由于 以cii表示矩阵(XX)-1 主对角线上的第i个元素，于是参数估计量的方差为：其中2为随机误差项的方差，在实际计算时，用它的估计量代替:1、t统计量 由于 以cii表示矩阵(XX)-40因此，可构造如下t统计量 因此，可构造如下t统计量 41 2、t检验检验 设计原假设与备择假设：H1：i0 给定显著性水平，可得到临界值t/2(n-k-1)，由样本求出统计量t的数值，通过|t|t/2(n-k-1)或|t|t/2(n-k-1)来拒绝或接受原假设H0，从而判定判定对应对应的解的解释变释变量是否量是否应应包括在模型中。包括在模型中。H0：i=0 （i=1,2k）2、t检验 设计原假设与备择假设：H1：i42注意：注意：一元一元线线性回性回归归中，中，t检验检验与与F检验检验一致一致 一方面一方面，t检验与F检验都是对相同的原假设H0：1=0=0 进行检验;另一方面另一方面，两个统计量之间有如下关系：注意：一元线性回归中，t检验与F检验一致 一方面，t检验43在中中国国居居民民人人均均收收入入-消消费费支支出出二二元元模模型型例中，由应用软件计算出参数的t值：给定显著性水平=0.05，查得相应临界值：t0.025(19)=2.093。可见，计计算算的的所所有有t值值都都大大于于该该临临界界值值，所以拒绝原假设。即:包包括括常常数数项项在在内内的的3个个解解释释变变量量都都在在95%的的水水平下平下显显著，都通著，都通过过了了变变量量显显著性著性检验检验。在中国居民人均收入-消费支出二元模型例中，由应用软件计算出参44 四、参数的置信区间四、参数的置信区间 参参数数的的置置信信区区间间用来考察：在在一一次次抽抽样样中中所所估估计计的参数的参数值值离参数的真离参数的真实值实值有多有多“近近”。在变量的显著性检验中已经知道：在变量的显著性检验中已经知道：容易推出容易推出：在(1-)的置信水平下i的置信区间是 其中，t/2为显著性水平为、自由度为n-k-1的临界值。四、参数的置信区间 参数的置信区间用来考察：在一45 在中国居民人均收入中国居民人均收入-消消费费支出支出二元模型二元模型例中,给定=0.05，查表得临界值：t0.025(19)=2.093计算得参数的置信区间：0：(44.284,197.116)1：(0.0937,0.3489)2：(0.0951,0.8080)从回归计算中已得到：在中国居民人均收入-消费支出二元模型例中,计算得参数46如何才能缩小置信区间？如何才能缩小置信区间？增大样本容量增大样本容量n n，因为在同样的样本容量下，因为在同样的样本容量下，n n越越大，大，t t分布表中的临界值越小，同时，增大样本容分布表中的临界值越小，同时，增大样本容量，还可使样本参数估计量的标准差减小；量，还可使样本参数估计量的标准差减小；提高模型的拟合优度提高模型的拟合优度，因为样本参数估计量的标，因为样本参数估计量的标准差与残差平方和呈正比，模型优度越高，残差准差与残差平方和呈正比，模型优度越高，残差平方和应越小。平方和应越小。提高样本观测值的分散度提高样本观测值的分散度,一般情况下，样本观测一般情况下，样本观测值越分散值越分散，(XX)-1的分母的的分母的|XX|的值越大，致使的值越大，致使区间缩小。区间缩小。如何才能缩小置信区间？增大样本容量n，因为在同样的样本容量47多元线性回归模型的预测多元线性回归模型的预测 一、一、E(Y0)的置信区的置信区间间 二、二、Y0的置信区的置信区间间多元线性回归模型的预测 一、E(Y0)的置信区间 48对于模型 给 定 样 本 以 外 的 解 释 变 量 的 观 测 值X0=(1,X10,X20,Xk0)，可以得到被解释变量的预测值：它可以是总体均值E(Y0)或个值Y0的预测。但严格地说，这只是被解释变量的预测值的估计值，而不是预测值。为为了了进进行科学行科学预测预测，还还需求出需求出预测值预测值的置信的置信区区间间，包括，包括E(Y0)和和Y0的的置信区置信区间间。对于模型 给定样本以外的解释变量的观测值X0=(1,X10,49 一、一、E(Y0)的置信区的置信区间间易知 一、E(Y0)的置信区间易知 50容易证明 于是，得到(1-)的置信水平下E(Y0)的置信区置信区间间：其中，t/2为(1-)的置信水平下的临临界界值值。容易证明 于是，得到(1-)的置信水平下E(Y0)的置信区51 二、二、Y0的置信区的置信区间间 如果已经知道实际的预测值Y0，那么预测误差为：容易证明 二、Y0的置信区间 如果已经知道实际的预测值Y0，那52e0服从正态分布，即 构造t统计量 可得给定(1-)的置信水平下Y0的置信区置信区间间：e0服从正态分布，即 构造t统计量 可得给定(1-)的置信53 中国居民人均收入中国居民人均收入-消消费费支出支出二元模型二元模型例中：2001年人均GDP：4033.1元，于是人均居民消人均居民消费费的的预测值预测值为 2001=120.7+0.22134033.1+0.45151690.8=1776.8（元）实测值实测值（90年价）=1782.2元，相相对误对误差：差：-0.31%预测的置信区间预测的置信区间：中国居民人均收入-消费支出二元模型例中：2001年人均54于是E(E(2001）的95%的置信区间为:或 （1741.8，1811.7）或 （1711.1,1842.4）同样，易得2001的95%的置信区间为于是E(2001）的95%的置信区间为:或 55回归模型的其他函数形式回归模型的其他函数形式 一、模型的类型与变换一、模型的类型与变换 二、非线性回归实例二、非线性回归实例回归模型的其他函数形式 一、模型的类型与变换 56 在实际经济活动中，经济变量的关系是复杂的，直接表现为线性关系的情况并不多见。如著名的恩格恩格尔尔曲曲线线(Engle curves)表现为幂幂函数曲函数曲线线形式、宏观经济学中的菲利普斯曲菲利普斯曲线线（Pillips cuves）表现为双曲双曲线线形式等。但是，大部分非线性关系又可以通过一些简单的数学处理，使之化为数学上的线性关系，从而可以运用线性回归的方法进行计量经济学方面的处理。在实际经济活动中，经济变量的关系是复杂的，直接表现为57 一、模型的类型与变换一、模型的类型与变换 1、倒数模型、多、倒数模型、多项项式模型与式模型与变变量的直接置量的直接置换换法法 例如，例如，描述税收与税率关系的拉弗曲线拉弗曲线：抛物线 s=a+b r+c r2 c0 s：税收；r：税率设X1=r，X2=r2，则原方程变换为 s=a+b X1+c X2 c0 一、模型的类型与变换 1、倒数模型、多项式模型与变量的直582、幂幂函数模型、指数函数模型与函数模型、指数函数模型与对对数数变换变换法法 例如例如，Cobb-Dauglas生产函数：幂函数 Q=AKLQ：产出量，K：投入的资本；L：投入的劳动 方程两边取对数：ln Q=ln A+ln K+ln L2、幂函数模型、指数函数模型与对数变换法 例如，Co593、复、复杂杂函数模型与函数模型与级级数展开法数展开法 方程两边取对数后，得到：(1+2=1)Q:产出量，K：资本投入，L：劳动投入 ：替代参数，1、2：分配参数例如例如，常替代弹性CES生产函数 将式中ln(1K-+2L-)在=0处展开台劳级数,取关于的线性项，即得到一个线性近似式。如取0阶、1阶、2阶项，可得 3、复杂函数模型与级数展开法 方程两边取对数后，得到：(60并非所有的函数形式都可以线性化并非所有的函数形式都可以线性化 无法线性化模型的一般形式为:其中，f(x1,x2,Xk)为非线性函数。如：并非所有的函数形式都可以线性化 无法线性化模型的一般形式为:61 二、非线性回归实例二、非线性回归实例 例例3.5.1 建立中国城镇居民食品消费需求函数模型。根据需求理论，居民对食品的消费需求函数大致为 Q:居民对食品的需求量，X：消费者的消费支出总额P1：食品价格指数，P0：居民消费价格总指数。零零阶齐阶齐次性次性，当所有商品和消费者货币支出总额按同一比例变动时，需求量保持不变(*)(*)为为了了进进行比行比较较，将同，将同时时估估计计（*）式与（）式与（*）式。）式。二、非线性回归实例 例3.5.1 建立中国城镇居62 根据恩格恩格尔尔定律定律，居民对食品的消费支出与居民的总支出间呈幂函数幂函数的变化关系:首先,确定具体的函数形式对数变换:考虑到零零阶齐阶齐次性次性时时(*)(*)(*)式也可看成是对（*）式施加如下约束而得因此，对对（*）式式进进行行回回归归，就就意意味味着着原原需需求求函数函数满满足零足零阶齐阶齐次性条件次性条件。根据恩格尔定律，居民对食品的消费支出与居民的总支出间63X：人均消费X1：人均食品消费GP：居民消费价格指数FP：居民食品消费价格指数XC：人均消费（90年价）Q：人均食品消费（90年价）P0：居民消费价格缩减指数（1990=100）P：居民食品消费价格缩减指数（1990=100X：人均消费64中中国国城城镇镇居居民民人人均均食食品品消消费费 特征：特征：消费行为在19811995年间表现出较强的一致性1995年之后呈现出另外一种变动特征。建立19811994年中国城镇居民对食品的消费需求模型:(9.03)(25.35)(-2.28)(-7.34)中国城镇居民人均食品消费 特征：建立19811994年中国65按按零零阶齐阶齐次性次性表达式回归表达式回归:（75.86）(52.66)(-3.62)为了比较，改写该式为：发现与接近。意味着：所建立的食品需求函数所建立的食品需求函数满满足零足零阶齐阶齐次性特征次性特征按零阶齐次性表达式回归:（75.86）(52.66)66