多元线性回归模型的统计检验

2.4 2.4 多元线性回归模型的统计检验多元线性回归模型的统计检验Statistical Test of Multiple Statistical Test of Multiple Linear Regression ModelLinear Regression Model 一、拟合优度检验一、拟合优度检验二、变量显著性检验二、变量显著性检验三、方程显著性检验三、方程显著性检验 我们所要进行的统计检验包括两个方我们所要进行的统计检验包括两个方面，一方面检验回归方程对样本数据的面，一方面检验回归方程对样本数据的拟合程度，通过可决系数来分析；另一拟合程度，通过可决系数来分析；另一方面检验回归方程的显著性，方面检验回归方程的显著性，通过假设通过假设检验检验对模型中被解释变量与解释变量之对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作间的线性关系在总体上是否显著成立作出推断出推断，包括对回归方程线性关系的检包括对回归方程线性关系的检验和对回归系数显著性的检验。验和对回归系数显著性的检验。一、拟合优度检验一、拟合优度检验Testing the Simulation Level1、总体平方和、残差平方和和回归平方和、总体平方和、残差平方和和回归平方和 TSS TSS为总体平方和为总体平方和（Total Sum of SquaresTotal Sum of Squares），反，反映样本观测值总体离差的大小；映样本观测值总体离差的大小；ESSESS为回归平方和为回归平方和（Explained Sum of SquaresExplained Sum of Squares），反映由模型中，反映由模型中解释变量所解释的那部分离差的大小；解释变量所解释的那部分离差的大小；RSSRSS为残差为残差平方和平方和（Residual Sum of SquaresResidual Sum of Squares），反映样本，反映样本观测值与估计值偏离的大小，也是模型中解释变观测值与估计值偏离的大小，也是模型中解释变量未解释的那部分离差的大小。量未解释的那部分离差的大小。TSS=RSS+ESS 2 2、拟合优度检验统计量：、拟合优度检验统计量：可决系数可决系数R2和校正可决系数和校正可决系数Back二、变量显著性检验二、变量显著性检验Testing the Individual Significance关于假设检验关于假设检验假设检验是统计推断的一个主要内容，它的基本任假设检验是统计推断的一个主要内容，它的基本任务是根据样本所提供的信息，对未知总体分布的某务是根据样本所提供的信息，对未知总体分布的某些方面的假设作出合理的判断。些方面的假设作出合理的判断。假设检验的程序是，先根据实际问题的要求提出一假设检验的程序是，先根据实际问题的要求提出一个论断，称为统计假设；然后根据样本的有关信息，个论断，称为统计假设；然后根据样本的有关信息，对假设的真伪进行判断，作出拒绝或接受假设的决对假设的真伪进行判断，作出拒绝或接受假设的决策。策。假设检验的基本思想是概率性质的反证法。假设检验的基本思想是概率性质的反证法。概率性质的反证法的根据是小概率事件原理，该原概率性质的反证法的根据是小概率事件原理，该原理认为理认为“小概率事件在一次试验中几乎是不可能发小概率事件在一次试验中几乎是不可能发生的生的”。变量显著性检验即变量显著性检验即对回归系数的显著对回归系数的显著性进行检验，性进行检验，如果变量是显著的，那么如果变量是显著的，那么回回归系数归系数应该显著地不为应该显著地不为0。于是，在变量显。于是，在变量显著性检验中设计的原假设为著性检验中设计的原假设为：H0：i=0而备择假设为：而备择假设为：H1:i 0 其中其中 的下角标的下角标i，在一元回归模型中取值，在一元回归模型中取值1：在二元回归模型中取值在二元回归模型中取值1、2。然后根据样本观测值和估计值，计算统计量然后根据样本观测值和估计值，计算统计量：Back三、方程显著性检验三、方程显著性检验Testing the Overall SignificanceF F检验的思想检验的思想来自于总离差平方和的分解式：TSS=ESS+RSS由于回归平方和ESS是解释变量X联合体对被解释变量Y的线性作用的结果，所以，如果ESS/RSS的比值较大，则X的联合体对Y的解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。因此因此,可通过该比值的大小对总体线性关系进可通过该比值的大小对总体线性关系进行推断行推断。1 1、F F检验的思想检验的思想进一步根据数理统计学中的定义，如果构造一个统计量 则该统计量服从自由度为（k，n-k-1）的F分布。3 3、方程显著性、方程显著性F F检验的例题检验的例题3 3、在一元线性回归中，、在一元线性回归中，t t检验与检验与F F检验是一致的检验是一致的4 4、关于拟合优度检验与方程显著性检验、关于拟合优度检验与方程显著性检验关系的讨论关系的讨论 可见，与R2同向变化：当R2 时，；当R2=时，为无穷大；R2越大，值也越大。因此，检验是所估计回归总显著性的一个度量，也是对的一个显著性检验。即：检验原假设，等价于检验Back