自变量的选择与逐步回归

第 五 章 自 变 量 的 选 择 与 逐 步 回 归 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响5.2 所 有 子 集 回 归5.3 逐 步 回 归5.4 本 章 小 结 与 评 注 第 5章 自 变 量 选 择 与 逐 步 回 归 从 20世 纪 60年 代 开 始 ， 关 于 回 归 自 变 量 的 选 择 成 为 统计 学 中 研 究 的 热 点 问 题 。 统 计 学 家 们 提 出 了 许 多 回 归 选元 的 准 则 ， 并 提 出 了 许 多 行 之 有 效 的 选 元 方 法 。 本 章 从 回 归 选 元 对 回 归 参 数 估 计 和 预 测 的 影 响 开 始 ，介 绍 自 变 量 选 择 常 用 的 几 个 准 则 ； 扼 要 介 绍 所 有 子 集 回归 选 元 的 几 个 方 法 ； 详 细 讨 论 逐 步 回 归 方 法 及 其 应 用 。 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 一 、 全 模 型 和 选 模 型 设 研 究 某 一 实 际 问 题 涉 及 到 对 因 变 量 有 影 响 的 因 素 共有 m个 ， 回 归 模 型 为 ： y= 0+ 1x1+ 2x2+ mxm+ （ 5.1）称 为 全 回 归 模 型 。 如 果 我 们 从 所 有 可 供 选 择 的 m个 变 量 中 挑 选 出 p个 ， 记为 x1,x2,， xp,构 成 的 回 归 模 型 为 ： y= 0p+ 1px1+ 2px2+ ppxp+ p （ 5.2） 称 模 型 （ 5.2） 式 为 选 模 型 。 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 一 、 全 模 型 和 选 模 型 模 型 选 择 不 当 会 给 参 数 估 计 和 预 测 带 来 什 么 影 响 ?下面 我 们 将 分 别 给 予 讨 论 。 为 了 方 便 ， 我 们 把 模 型 （ 5.1） 式 的 参 数 估 计 向 量 和 2的 估 计 记 为 ： yXXX m-1mmm )( mm SSEmn 112 把 模 型 （ 5.2） 式 的 参 数 估 计 向 量 记 为yXXX p-1ppp )( pp SSEpn 112 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 二 、 自 变 量 选 择 对 预 测 的 影 响 关 于 自 变 量 选 择 对 预 测 的 影 响 可 以 分 成 两 种 情 况 ：第 一 种 情 况 是 全 模 型 正 确 而 误 用 了 选 模 型 ；第 二 种 情 况 是 选 模 型 正 确 而 误 用 了 全 模 型 式 。 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 （ 一 ） 全 模 型 正 确 而 误 用 选 模 型 的 情 况 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 （ 一 ） 全 模 型 正 确 而 误 用 选 模 型 的 情 况 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 （ 一 ） 全 模 型 正 确 而 误 用 选 模 型 的 情 况 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 （ 一 ） 全 模 型 正 确 而 误 用 选 模 型 的 情 况 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 （ 一 ） 全 模 型 正 确 而 误 用 选 模 型 的 情 况 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 （ 二 ） 选 模 型 正 确 而 误 用 全 模 型 的 情 况 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 （ 二 ） 选 模 型 正 确 而 误 用 全 模 型 的 情 况 5.1 自 变 量 选 择 对 估 计 和 预 测 的 影 响 （ 二 ） 选 模 型 正 确 而 误 用 全 模 型 的 情 况 上 述 结 论 告 诉 我 们 ， 一 个 好 的 回 归 模 型 ， 并 不 是 考 虑 的自 变 量 越 多 越 好 。 在 建 立 回 归 模 型 时 ， 选 择 自 变 量 的 基 本指 导 思 想 是 “ 少 而 精 ” 。 哪 怕 我 们 丢 掉 了 一 些 对 因 变 量 y还有 些 影 响 的 自 变 量 ， 由 选 模 型 估 计 的 保 留 变 量 的 回 归 系 数的 方 差 ， 要 比 由 全 模 型 所 估 计 的 相 应 变 量 的 回 归 系 数 的 方差 小 。 而 且 ， 对 于 所 预 测 的 因 变 量 的 方 差 来 说 也 是 如 此 。丢 掉 了 一 些 对 因 变 量 y有 影 响 的 自 变 量 后 ， 所 付 出 的 代 价 是估 计 量 产 生 了 有 偏 性 。 然 而 ， 尽 管 估 计 量 是 有 偏 的 ， 但 预测 偏 差 的 方 差 会 下 降 。 另 外 ， 如 果 保 留 下 来 的 自 变 量 有 些对 因 变 量 无 关 紧 要 ， 那 么 ， 方 程 中 包 括 这 些 变 量 会 导 致 参数 估 计 和 预 测 的 有 偏 性 和 精 度 降 低 。 5.2 所 有 子 集 回 归 一 、 所 有 子 集 的 数 目 mmmmm CCC 210 有 m个 可 供 选 择 的 变 量 x1,x2,， xm,由 于 每 个 自 变 量都 有 入 选 和 不 入 选 两 种 情 况 ， 这 样 y关 于 这 些 自 变 量 的所 有 可 能 的 回 归 方 程 就 有 2m-1个 。 从 另 一 个 角 度 看 5.2 所 有 子 集 回 归 二 、 关 于 自 变 量 选 择 的 几 个 准 则 从 数 据 与 模 型 拟 合 优 劣 的 直 观 考 虑 出 发 ， 认 为 残差 平 方 和 SSE最 小 的 回 归 方 程 就 是 最 好 的 。 还 曾 用 复 相关 系 数 R来 衡 量 回 归 拟 合 的 好 坏 。 然 而 这 两 种 方 法 都 有明 显 的 不 足 ， 这 是 因 为 ： 5.2 所 有 子 集 回 归 准 则 1 自 由 度 调 整 复 相 关 系 数 达 到 最 大 )1(111 22 Rpn nRa 5.2 所 有 子 集 回 归 准 则 1 自 由 度 调 整 复 相 关 系 数 达 到 最 大 从 另 外 一 个 角 度 考 虑 回 归 的 拟 合 效 果 ，回 归 误 差 项 方 差 2的 无 偏 估 计 为 ：SSEpn 112 此 无 偏 估 计 式 中 也 加 入 了 惩 罚 因 子 n-p-1 5.2 所 有 子 集 回 归 准 则 1 自 由 度 调 整 复 相 关 系 数 达 到 最 大 22 11 SSTnRa 5.2 所 有 子 集 回 归 准 则 2 赤 池 信 息 量 AIC达 到 最 小 AIC准 则 是 日 本 统 计 学 家 赤 池 (Akaike)1974年 根 据 极大 似 然 估 计 原 理 提 出 的 一 种 较 为 一 般 的 模 型 选 择 准 则 ， 人们 称 它 为 Akaike信 息 量 准 则 (Akaike Information Criterion,简 记 为 AIC)。 AIC准 则 既 可 用 来 作 回 归 方 程 自 变 量 的 选 择 ，又 可 用 于 时 间 序 列 分 析 中 自 回 归 模 型 的 定 阶 上 。 由 于 该 方法 的 广 泛 应 用 ， 使 得 赤 池 乃 至 日 本 统 计 学 家 在 世 界 的 声 誉大 增 。 5.2 所 有 子 集 回 归 准 则 2 赤 池 信 息 量 AIC达 到 最 小 设 回 归 模 型 的 似 然 函 数 为 L(,x), 的 维 数 为 p， x为 样 本 ， 在回 归 分 析 中 样 本 为 y=（ y1， y2， yn） ， 则 AIC定 义 为 ： 5.2 所 有 子 集 回 归 准 则 2 赤 池 信 息 量 AIC达 到 最 小 假 定 回 归 模 型 的 随 机 误 差 项 遵 从 正 态 分 布 ， 即 N(0,2)对 数 似 然 函 数 为 SSEnnL LL 22max 21)ln(2)2ln(2ln 2)ln(2)2ln(2ln max nnSSEnnL 5.2 所 有 子 集 回 归 准 则 2 赤 池 信 息 量 AIC达 到 最 小 带 入 公 式 中 这 里 似 然 函 数 中 的 未 知 参 数 个 数 为 p+2， 略 去 与 p无 关 的常 数 ， 得 回 归 模 型 的 AIC公 式 为AIC=nln(SSE)+2p 对 每 一 个 回 归 子 集 计 算 AIC， 其 中 AIC最 小 者 所 对应 的 模 型 是 “ 最 优 ” 回 归 模 型 5.2 所 有 子 集 回 归 准 则 4 Cp统 计 量 达 到 最 小 1964年 马 勒 斯 (Mallows)从 预 测 的 角 度 提 出 一 个 可以 用 来 选 择 自 变 量 的 统 计 量Cp统 计 量 。 根 据 性 质 5，即 使 全 模 型 正 确 ， 但 仍 有 可 能 选 模 型 有 更 小 的 预 测 误 差 。Cp正 是 根 据 这 一 原 理 提 出 来 的 。 5.2 所 有 子 集 回 归 准 则 4 Cp统 计 量 达 到 最 小 考 虑 在 n个 样 本 点 上 ， 用 选 模 型 （ 5.2） 式 作 回 报 预 测时 ， 预 测 值 与 期 望 值 的 相 对 偏 差 平 方 和 为 ： ni immiipppippni iipp xxxxyEyJ 1 21101102 1 22 )(1 )(1 5.2 所 有 子 集 回 归 准 则 4 Cp统 计 量 达 到 最 小 可 以 证 明 ， Jp的 期 望 值 是 )1(2)()( 2 pnSSEEJE pp 略 去 无 关 的 常 数 2， 据 此 构 造 出 Cp统 计 量 为 pnSSESSEmnpnSSEC mppp 2)1( 22 5.2 所 有 子 集 回 归 准 则 4 Cp统 计 量 达 到 最 小 5.2 所 有 子 集 回 归 例 5.1 y表 示 某 种 消 费 品 的 销 售 额 ，x1表 示 居 民 可 支 配 收 入 ，x2表 示 该 类 消 费 品 的 价 格 指 数 ，x3表 示 其 他 消 费 品 平 均 价 格 指 数 。表 5.1给 出 了 某 地 区 18年 某 种 消 费 品 销 售 情 况 资料 ， 试 建 立 该 地 区 该 消 费 品 销 售 额 预 测 方 程 。 5.2 所 有 子 集 回 归 序 号 x1（ 元 ） x2(%) x3(%) （ 百 万 元 ）1 81.2 85.0 87.0 7.82 82.9 92.0 94.0 8.43 83.2 91.5 95.0 8.74 85.9 92.9 95.5 9.05 88.0 93.0 96.0 9.66 99.9 96.0 97.0 10.37 102.0 95.0 97.5 10.68 105.3 95.6 97.0 10.99 117.7 98.9 98.0 11.310 126.4 101.5 101.2 12.311 131.2 102.0 102.5 13.512 148.0 105.0 104.0 14.2 13 153.0 106.0 105.9 14.914 161.0 109.0 109.5 15.915 170.0 112.0 111.0 18.516 174.0 112.5 112.0 19.517 185.0 113.0 112.3 19.918 189.0 114.0 113.0 20.5表 5.1 5.2 所 有 子 集 回 归 这 个 例 子 中 ，n=18,m=3，所 有 的 自 变 量子 集 有 2m-1=7个 ， 即 有 7个回 归 子 集 。 2aR自 变 量 子 集 R2 AIC Cpx1 0.9728 0.9711 40.06 4.134x2 0.9566 0.9539 48.48 16.151x3 0.9508 0.9477 50.74 20.452x 1,x2 0.9747 0.9714 40.76 4.734x1,x3 0.9784 0.9755 37.93 2.005x2,x3 0.9576 0.9519 50.09 17.461x1,x2,x3 0.9811 0.9771 37.52 2.000表 5.2 5.2 所 有 子 集 回 归 由 表 5.2的 3项 指 标 均 可 看 到 x1， x2， x3是 “ 最 优 ” 子 集 ，x1， x3是 “ 次 优 ” 子 集 。 回 归 方 程 分 别 为 5.2 所 有 子 集 回 归 三 、 用 SAS软 件 寻 找 最 优 子 集 SAS软 件 共 有 三 个 基 本 窗 口 ， 分 别 为 ：（ 1） 程 序 编 辑 窗 （ PROGRAM EDITOR） ， 用 来 编 辑 程 序 。（ 2） 日 志 窗 （ LOG） ， 显 示 已 执 行 的 语 句 和 系 统 信 息 ， 包 括错 误 信 息 。（ 3） 输 出 窗 （ OUTPUT） 显 示 程 序 运 行 结 果 。 用 主 菜 单 的 Window命 令 可 以 实 现 在 三 个 窗 口 间 的 转 换 。 5.2 所 有 子 集 回 归 data data1;input x1-x12 y;cards;1.94 4.5 154.45 207.33 246.87 277.64 135.79 30.58 110.67 80.83 51.83 14.09 23840.33 6.49 133.16 127.29 120.17 114.88 81.21 14.05 35.7 16 27.1 2.93 202；proc reg; model y=x1-x12/selection=adjrsq;run; 5.2 所 有 子 集 回 归 以 下 是 部 分 输 出 结 果 ： Adjusted R-square Variables in Model R-square In 0.82985517 0.86388414 6 X3 X5 X8 X9 X10 X11 0.82692850 0.86731185 7 X3 X5 X6 X8 X9 X10 X11 0.82487399 0.85989919 6 X3 X6 X8 X9 X10 X11 0.82366778 0.86481197 7 X3 X4 X5 X8 X9 X10 X11 0.82343275 0.86463178 7 X3 X5 X8 X9 X10 X11 X12 0.82311828 0.86439068 7 X3 X5 X7 X8 X9 X10 X11 5.3 逐 步 回 归 一 、 问 题 的 提 出 及 逐 步 回 归 的 思 想 自 变 量 的 所 有 可 能 子 集 构 成 2m-1个 回 归 方 程 ， 当 可 供 选 择的 自 变 量 不 太 多 时 ， 用 前 边 的 方 法 可 以 求 出 一 切 可 能 的 回 归方 程 ， 然 后 用 几 个 选 元 准 则 去 挑 出 “ 最 好 ” 的 方 程 ， 但 是 当自 变 量 的 个 数 较 多 时 ， 要 求 出 所 有 可 能 的 回 归 方 程 是 非 常 困难 的 。 为 此 ， 人 们 提 出 了 一 些 较 为 简 便 、 实 用 、 快 速 的 选 择“ 最 优 ” 方 程 的 方 法 。 人 们 所 给 出 的 方 法 各 有 优 缺 点 ， 至 今还 没 有 绝 对 最 优 的 方 法 ， 目 前 常 用 的 方 法 有 “ 前 进 法 ” 、“ 后 退 法 ” 、 “ 逐 步 回 归 法 ” ， 而 逐 步 回 归 法 最 受 推 崇 。 5.3 逐 步 回 归 一 、 问 题 的 提 出 及 逐 步 回 归 的 思 想 在 后 边 的 讨 论 中 ， 无 论 我 们 从 回 归 方 程 中 剔 除 某 个 自变 量 ， 还 是 给 回 归 方 程 增 加 某 个 自 变 量 都 要 利 用 （ 3.42）式 的 偏 F检 验 ， 这 个 偏 F检 验 与 （ 3.40） 式 的 t检 验 是 等 价 的 ，F检 验 的 定 义 式 的 统 计 意 义 更 为 明 了 ， 并 且 容 易 推 广 到 对 多个 自 变 量 的 显 著 性 检 验 ， 因 而 采 用 F检 验 。 jjjj ct )1/( 1/)( pnSSESSRF jj 5.3 逐 步 回 归 一 、 前 进 法 5.3 逐 步 回 归 一 、 问 题 的 提 出 及 逐 步 回 归 的 思 想 5.3 逐 步 回 归 一 、 问 题 的 提 出 及 逐 步 回 归 的 思 想 依 上 述 方 法 接 着 做 下 去 。 直 至 所 有 未 被 引 入 方程 的 自 变 量 的 F值 均 小 于 F (1,n-p-1)时 为 止 。 这 时 ，得 到 的 回 归 方 程 就 是 最 终 确 定 的 方 程 。 每 步 检 验 中 的 临 界 值 F(1,n-p-1)与 自 变 量 数 目 p有 关 ， 在 用 软 件 计 算 时 ， 我 们 实 际 使 用 的 是 显 著 性P值 （ 或 记 为 sig） 做 检 验 。 5.3 逐 步 回 归 一 、 问 题 的 提 出 及 逐 步 回 归 的 思 想 例 5.4 对 例 3.1国 际 旅 游 外 汇 收 入 y对 第 三 产 业 的 12个 变 量 做 回 归 的 数 据 ， 用 前 进 法 做 变 量 选 择 ， 取 显 著 性水 平 进 =0.05。 首 先 进 入 线 性 回 归 对 话 框 ， 将 y与 x1至 x12分 别 选 入各 自 的 变 量 框 ， 然 后 在 Method对 话 框 中 点 选 前 进 法Forward,点 选 Options选 项 看 到 默 认 的 显 著 性 水 平 进 正是 0.05。 部 分 运 行 结 果 如 下 ： Coefficients -209.535 124.469 -1.683 .103 6.907 1.163 .741 5.938 .000 -96.142 108.300 -.888 .382 13.791 2.101 1.479 6.564 .000 -2.520 .682 -.832 -3.695 .001 -174.886 108.984 -1.605 .120 11.152 2.351 1.196 4.744 .000 -2.034 .685 -.672 -2.970 .006 10.761 5.139 .260 2.094 .046 -228.815 104.015 -2.200 .037 8.786 2.417 .942 3.635 .001 -3.261 .832 -1.077 -3.919 .001 13.864 4.965 .335 2.792 .010 2.849 1.244 .647 2.290 .030 -140.625 102.304 -1.375 .181 3.910 3.003 .419 1.302 .205 -1.997 .927 -.660 -2.154 .041 18.431 4.939 .446 3.732 .001 5.090 1.473 1.157 3.455 .002 -7.442 3.086 -.551 -2.411 .024 (Constant) X7 (Constant) X7 X4 (Constant) X7 X4 X10 (Constant) X7 X4 X10 X3 (Constant) X7 X4 X10 X3 X11 Model 1 2 3 4 5 B Std. Error Unstandardized Coefficients Beta Standardi zed Coefficie nts t Sig. 5.3 逐 步 回 归 5.3 逐 步 回 归 Model Summary .741 .549 .533 455.9279 .835 .697 .675 380.4405 .860 .739 .710 359.3347 .885 .783 .749 334.0439 .908 .824 .789 306.8386 Model 1 2 3 4 5 R R Square Adjusted R Square Std. Error of the Estimate 5.3 逐 步 回 归 ANOVA 7329802.2 1 7329802.2 35.261 .000 6028236.5 29 207870.22 13358039 30 9305460.3 2 4652730.1 32.147 .000 4052578.4 28 144734.94 13358039 30 9871760.2 3 3290586.7 25.484 .000 3486278.6 27 129121.43 13358039 30 10456820 4 2614204.9 23.428 .000 2901218.9 26 111585.34 13358039 30 11004290 5 2200858.1 23.376 .000 2353748.2 25 94149.928 13358039 30 Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Model 1 2 3 4 5 Sum of Squares df Mean Square F Sig. 5.3 逐 步 回 归 一 、 问 题 的 提 出 及 逐 步 回 归 的 思 想 5.3 逐 步 回 归 二 、 后 退 法 5.3 逐 步 回 归 二 、 后 退 法 5.3 逐 步 回 归 二 、 后 退 法 续 例 5.4 对 例 3.1国 际 旅 游 外 汇 收 入 y对 第 三 产 业 的12个 变 量 做 回 归 的 数 据 ， 用 后 退 法 做 变 量 选 择 ， 取 显 著 性水 平 出 =0.10。 首 先 进 入 线 性 回 归 对 话 框 ， 将 y与 x1至 x12分 别 选 入各 自 的 变 量 框 ， 然 后 在 Method对 话 框 中 点 选 后 退 法Backward,点 选 Options选 项 看 到 默 认 的 显 著 性 水 平 出 正 是0.10。 部 分 运 行 结 果 见 表 5.4： 5.3 逐 步 回 归 二 、 后 退 法 Coefficients Unstandardized Coefficients Standardized Coefficients t Sig. Model B Std. Error Beta 8 (Constant) -184.690 98.357 -1.878 0.0721 X3 4.325 0.873 0.9825 4.955 0.0000 X8 -20.188 7.089 -0.6813 -2.848 0.0087 X9 17.334 7.102 1.0377 2.441 0.0221 X10 11.644 6.450 0.2815 1.805 0.0831 X11 -12.998 3.558 -0.9625 -3.653 0.0012 5.3 逐 步 回 归 二 、 后 退 法 Model Summary .935 .875 .791 304.8038 .935 .875 .802 296.7067 .935 .875 .812 289.3330 .935 .874 .820 282.8410 .933 .870 .823 281.0489 .931 .867 .827 277.6026 .929 .864 .830 275.2454 .923 .851 .822 281.7979 Model 1 2 3 4 5 6 7 8 R R Square Adjusted R Square Std. Error of the Estimate 5.3 逐 步 回 归 二 、 后 退 法 ANOVA 11685742 12 973811.87 10.482 .000 1672296.2 18 92905.347 13358039 30 11685377 11 1062307.0 12.067 .000 1672662.2 19 88034.853 13358039 30 11683766 10 1168376.6 13.957 .000 1674272.2 20 83713.612 13358039 30 11678059 9 1297562.1 16.220 .000 1679979.8 21 79999.039 13358039 30 11620291 8 1452536.4 18.389 .000 1737747.2 22 78988.510 13358039 30 11585585 7 1655083.6 21.477 .000 1772453.4 23 77063.193 13358039 30 11539798 6 1923299.6 25.387 .000 1818241.0 24 75760.040 13358039 30 11372787 5 2274557.4 28.643 .000 1985251.8 25 79410.074 13358039 30 Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Regression Residual Total Model 1 2 3 4 5 6 7 8 Sum of Squares df Mean Square F Sig. 5.3 逐 步 回 归 三 、 逐 步 回 归 法 逐 步 回 归 的 基 本 思 想 是 “ 有 进 有 出 ” 。 具 体 做 法 是 将变 量 一 个 一 个 引 入 ， 当 每 引 入 一 个 自 变 量 后 ， 对 已 选 入 的 变量 要 进 行 逐 个 检 验 ， 当 原 引 入 的 变 量 由 于 后 面 变 量 的 引 入 而变 得 不 再 显 著 时 ， 要 将 其 剔 除 。 这 个 过 程 反 复 进 行 ， 直 到 既无 显 著 的 自 变 量 选 入 回 归 方 程 ， 也 无 不 显 著 自 变 量 从 回 归 方程 中 剔 除 为 止 。 这 样 就 避 免 了 前 进 法 和 后 退 法 各 自 的 缺 陷 ，保 证 了 最 后 所 得 的 回 归 子 集 是 “ 最 优 ” 回 归 子 集 。 5.3 逐 步 回 归 三 、 逐 步 回 归 法 在 逐 步 回 归 中 需 要 注 意 的 一 个 问 题 是 引 入 自 变 量 和 剔 除自 变 量 的 显 著 性 水 平 值 是 不 相 同 的 ， 要 求进 出否 则 可 能 产 生 “ 死 循 环 ” 。 也 就 是 当 进 出 时 ， 如 果 某 个 自变 量 的 显 著 性 P值 在 进 与 出 之 间 ， 那 末 这 个 自 变 量 将 被 引 入 、剔 除 、 再 引 入 、 再 剔 除 、 ， 循 环 往 复 ， 以 至 无 穷 。 5.3 逐 步 回 归 三 、 逐 步 回 归 法 续 例 5.4 对 例 3.1国 际 旅 游 外 汇 收 入 y对 第 三 产 业 的 12个 变 量 做 回 归 的 数 据 ， 用 逐 步 回 归 法 做 变 量 选 择 ， 取 显 著性 水 平 进 =0.05， 出 =0.10。 首 先 进 入 线 性 回 归 对 话 框 ， 将 y与 x1至 x12分 别 选 入 各自 的 变 量 框 ， 然 后 在 Method对 话 框 中 点 选 逐 步 回 归 法Stepwise,点 选 Options选 项 看 到 默 认 的 显 著 性 水 平 正 是进 =0.05， 出 =0.10。 部 分 运 行 结 果 见 表 5.5： 5.3 逐 步 回 归 三 、 逐 步 回 归 法 5.3 逐 步 回 归 Model Summary .741a .549 .533 455.9279 .835b .697 .675 380.4405 .860c .739 .710 359.3347 .885d .783 .749 334.0439 .908e .824 .789 306.8386 .901f .812 .783 310.9102 .889g .791 .768 321.5075 Model 1 2 3 4 5 6 7 R R Square Adjusted R Square Std. Error of the Estimate Predictors: (Constant), X7a. Predictors: (Constant), X7, X4b. Predictors: (Constant), X7, X4, X10c. Predictors: (Constant), X7, X4, X10, X3d. Predictors: (Constant), X7, X4, X10, X3, X11e. Predictors: (Constant), X4, X10, X3, X11f. Predictors: (Constant), X10, X3, X11g. 5.4 本 章 小 结 与 评 注 一 、 逐 步 回 归 实 例 分 析 例 5.5 为 了 研 究 香 港 股 市 的 变 化 规 律 ， 此 例 以 恒 生 指 数为 例 ， 建 立 回 归 方 程 ， 分 析 影 响 股 票 价 格 趋 势 变 动 的 因 素 。这 里 我 们 选 了 6个 影 响 股 票 价 格 指 数 的 经 济 变 量 ： x1(百 万 $) 成 交 额 , x2九 九 金 价 （ $/两 ), x3港 汇 指 数 ， x4人 均 生 产 总 值 (现 价 $)， x5建 筑 业 总 开 支 (现 价 百 万 $)， x 6房 地 产 买 卖 金 额 (百 万 $)， x7优 惠 利 率 (最 低 %)。 y为 恒 生 指 数 。 5.3 逐 步 回 归 年 份 y x1 x2 x3 x4 x5 x6 x71974 172.9 11246 681 105.9 10183 4110 11242 91975 352.94 10335 791 107.4 10414 3996 12693 6.51976 447.67 13156 607 114.4 13134 4689 16681 61977 404.02 6127 714 110.8 15033 6876 22131 4.751978 409.51 27419 911 99.4 17389 8636 31353 4.751979 619.71 25633 1231 91.4 21715 12339 43528 9.51980 1121.17 95684 2760 90.8 27075 16623 70752 101981 1506.94 105987 2651 86.3 31827 19937 125989 161982 1105.79 46230 2105 125.3 35393 24787 99468 10.5 1983 933.03 37165 3030 107.4 38823 25112 82478 10.51984 1008.54 48787 2810 106.6 46079 24414 54936 8.51985 1567.56 75808 2649 115.7 47871 22970 87135 61986 1960.06 123128 3031 110.1 54372 24403 129884 6.51987 2884.88 371406 3644 105.8 65602 30531 153044 51988 2556.72 198569 3690 101.6 74917 37861 215033 5.25 5.3 逐 步 回 归 Y X1 X2 X3 X4 X5 X6 X7Y 1.0000 0.9171 0.8841 -0.0425 0.9382 0.8786 0.9372 -0.0955X1 0.9171 1.0000 0.7375 -0.1293 0.7842 0.6973 0.7817 -0.1732X2 0.8841 0.7375 1.0000 -0.1083 0.9195 0.9477 0.8747 0.1517X3 -0.0425 -0.1293 -0.1083 1.0000 0.0725 0.0469 -0.0952 -0.4164X4 0.9382 0.7842 0.9195 0.0725 1.0000 0.9601 0.9137 -0.1409X5 0.8786 0.6973 0.9477 0.0469 0.9601 1.0000 0.9167 0.0666X6 0.9372 0.7817 0.8747 -0.0952 0.9137 0.9167 1.0000 0.0617X7 -0.0955 -0.1732 0.1517 -0.4164 -0.1409 0.0666 0.0617 1.0000 5.3 逐 步 回 归 Model Summary .938a .880 .871 295.57599 .983b .966 .960 164.57982 .991c .981 .976 126.49374 Model 1 2 3 R R Square Adjusted R Square Std. Error of the Estimate Predictors: (Constant), x4a. Predictors: (Constant), x4, x1b. Predictors: (Constant), x4, x1, x6c. 5.3 逐 步 回 归 ANOVAd 8347442 1 8347442.122 95.547 .000a 1135747 13 87365.165 9483189 14 9158151 2 4579075.528 169.054 .000b 325038.2 12 27086.517 9483189 14 9307182 3 3102393.974 193.892 .000c 176007.3 11 16000.667 9483189 14 Regression Residual Total Regression Residual Total Regression Residual Total Model 1 2 3 Sum of Squares df Mean Square F Sig. Predictors: (Constant), x4a. Predictors: (Constant), x4, x1b. Predictors: (Constant), x4, x1, x6c. Dependent Variable: yd. 5.3 逐 步 回 归 Coefficientsa -147.176 151.913 -.969 .350 .038 .004 .938 9.775 .000 38.563 91.146 .423 .680 .023 .003 .569 6.604 .000 .004 .001 .471 5.471 .000 75.807 71.109 1.066 .309 .013 .004 .319 3.038 .011 .004 .001 .417 6.086 .000 .004 .001 .319 3.052 .011 (Constant) x4 (Constant) x4 x1 (Constant) x4 x1 x6 Model 1 2 3 B Std. Error Unstandardized Coefficients Beta Standardized Coefficients t Sig. Dependent Variable: ya.