多元线性回归模型的统计检验

第 三 节 多 元 线 性 回 归 模 型 的 统 计 检 验1、 拟 合 优 度 检 验 （ R2检 验 ）2、 方 程 的 显 著 性 检 验 （ F检 验 ）3、 变 量 的 显 著 性 检 验 （ t检 验 ） 一 、 拟 合 优 度 检 验 残 差 平 方 和回 归 平 方 和总 离 差 平 方 和 iiii YYRSS YYESS YYTSS 222RSSESSTSS TSSRSSTSSESSR 1 2可 决 系 数R2越 接 近 于 1， 模 型 的 拟 合 效 果 越 好 。 问 题v如 果 在 模 型 中 增 加 一 个 解 释 变 量 ， R2往 往 会增 大 （ Why?）v容 易 产 生 错 觉 ： 要 使 模 型 拟 合 得 好 ， 只 要 增加 解 释 变 量 即 可 。v但 实 际 上 ， 通 过 增 加 解 释 变 量 引 起 的 R2的 增大 与 拟 合 好 坏 无 关 。vR2度 量 模 型 拟 合 效 果 失 真 ， R2需 调 整 。 调 整 的 思 路 ： 将 RSS与 TSS分 别 除 以 各 自的 自 由 度 。因 为 ， 在 样 本 容 量 一 定 的 情 况 下 ， 增 加 解释 变 量 一 方 面 可 以 减 小 残 差 ， 另 一 方 面 也使 其 自 由 度 减 少 。 )1/( )1/(1 2 nTSS knRSSR R2与 调 整 的 R2 )1( )1()1(1 22 kn nRR 调 整 的 R2小 于 R2； 调 整 的 R2可 以 为 负 。 二 、 方 程 的 显 著 性 检 验 （ F检 验 ） 检 验 模 型 中 被 解 释 变 量 与 解 释 变 量 之间 的 线 性 关 系 在 总 体 上 是 否 显 著 成 立 。即 检 验 模 型中 的 参 数 j (j =1,k)是 否 显 著 不 为 0。ni XXXY iikkiii ,2,122110 （ 1） 提 出 原 假 设 与 备 选 假 设 ： H 0： 1= 2 = = k=0 H 1： j 不 全 为 0 (j =1,k)（ 2） 构 造 检 验 统 计 量 并 计 算 其 值 F统 计 量 F检 验 的 思 想 来 自 于 TSS的 分 解 ： TSS = ESS + RSS其 中 ， ESS表 示 X对 Y的 线 性 作 用 结 果 。 考 虑 比 值 ： ESS / RSS 如 果 这 个 比 值 较 大 ， 则 X对 Y的 解 释程 度 较 高 ， 可 认 为 二 者 在 总 体 上 存 在 线性 关 系 ； 反 之 ， 则 二 者 在 总 体 上 不 存 在 线 性关 系 。 若 H 0 成 立 ， 则 有 ： 由 样 本 数 据 求 出 F统 计 量 的 值 。（ 3） 给 定 显 著 性 水 平 ， 查 表 得 到 临 界 值 F(k , n-k-1)。 )1,(1/ / knkFknRSS kESSF 1- F Ff (F) F检 验 的 拒 绝 域 （ 4） 比 较 、 判 断v若 F F (k , n-k-1)， 拒 绝 H 0， 接 受 H 1 ， 模型 在 总 体 上 存 在 显 著 的 线 性 关 系 ； v若 F F (k , n-k-1)， 接 受 H 0 ， 模 型 在 总 体上 的 线 性 关 系 不 显 著 。 vF检 验 只 是 把 模 型 作 为 一 个 整 体 ， 对 总 体 线 性 关 系 进 行 检 验 ；v方 程 在 总 体 上 存 在 显 著 的 线 性 关 系 每 个 解 释 变 量 对 被 解 释 变 量 都 具 有 显 著 影 响v还 应 对 模 型 中 的 各 个 解 释 变 量 进 行 显 著 性 检 验 ， 以 决 定 它 们 是 否 应 当 作 为 解 释 变 量 被 保 留 在 模 型 之 中 。 三 、 变 量 的 显 著 性 检 验 （ t检 验 ）v检 验 目 的 ： 剔 除 模 型 中 回 归 系 数 与 0差 异 不显 著 的 解 释 变 量 ， 使 模 型 更 简 洁 实 用 。v检 验 要 求 ： 一 次 只 能 检 验 一 个 解 释 变 量 。 （ 1） 提 出 原 假 设 与 备 选 假 设 ： H 0： j=0 H 1： j0 （ j =1,2,k） （ 2） 以 原 假 设 H 0构 造 t 统 计 量 ， 并 由 样 本 计 算 其 值（ 3） 给 定 显 著 性 水 平 ， 查 表 得 临 界 值 t/2(n-k-1)，（ 4） 若 | t | t/2(n-k-1) ， 拒 绝 H 0， 接 受 H 1， 系 数 显 著 不 为 0； 若 | t | t /2(n-k-1)， 接 受 H 0 ， 系 数 不 显 著 。 t 检 验 的 步 骤)1( kntst i ii