计量经济学答案第二章简单线性回归模型

1 计 量 经 济 学 未 来 我 国 旅 游 需 求 将 快 速 增 长 ， 根 据 中 国 政 府 所 制 定 的远 景 目 标 ， 到 2020年 ， 中 国 入 境 旅 游 人 数 将 达 到 2.1亿 人次 ； 国 际 旅 游 外 汇 收 入 580亿 美 元 ， 国 内 旅 游 收 入 2500亿美 元 。 到 2020年 ， 中 国 旅 游 业 总 收 入 将 超 过 3000亿 美 元 ，相 当 于 国 内 生 产 总 值 的 8%至 11%。（ 来 源 ： 2008年 中 国 旅 行 社 发 展 研 究 咨 询 报 告 ） （ 参 考 现 状 ： 第 一 产 业 占 GDP的 15%， 建 筑 业 占 GDP 的 7%） 什 么 决 定 性 因 素 能 使 中 国 旅 游 业 总 收 入 超 过 3000亿 美 元 ? 旅 游 业 的 发 展 与 这 种 决 定 性 因 素 的 数 量 关 系 究 竟 是 什 么 ？ 怎 样 具 体 测 定 旅 游 业 发 展 与 这 种 决 定 性 因 素 的 数 量 关 系 ? 2 需 要 研 究 经 济 变 量 之 间 数 量 关 系 的 方 法为 了 不 使 问 题 复 杂 化 , 我 们 先 在 某 些 标 准 的 (古 典 的 )假 定 条 件 下 ， 用 最 简 单 的 模 型 ， 对 最 简 单 的 变 量 间 数量 关 系 加 以 讨 论显 然 ， 对 旅 游 起 决 定 性 影 响 作 用 的 是 “ 中 国 居 民 的 收入 水 平 ” 以 及 “ 入 境 旅 游 人 数 ” 等 因 素 。“ 旅 游 业 总 收 入 ” （ Y） 与 “ 居 民 平 均 收 入 ” （ X1） 或者 “ 入 境 旅 游 人 数 ” （ X2） 有 怎 样 的 数 量 关 系 呢 ？ 能 否 用 某 种 线 性 或 非 线 性 关 系 式 Y= f ( X ) 去 表 现 这 种 数 量 关 系 呢 ? 具 体 该 怎 样 去 表 现 和 计 量 呢 ? 4 第 一 节 回 归 分 析 与 回 归 函 数 一 、 相 关 分 析 与 回 归 分 析 （ 对 统 计 学 的 回 顾 ）1、 经 济 变 量 之 间 的 相 互 关 系 性 质 上 可 能 有 三 种 情 况 : 确 定 性 的 函 数 关 系 Y=f (X) 可 用 数 学 方 法 计 算 不 确 定 的 统 计 关 系 相 关 关 系 Y= f（ X） + (为 随 机 变 量 ) 可 用 统 计 方 法 分 析 没 有 关 系 不 用 分 析 相 关 关 系 的 描 述 最 直 观 的 描 述 方 式 坐 标 图 （ 散 布 图 、 散 点 图 ） ） 5函 数 关 系 相 关 关 系 (线 性 )没 有 关 系相 关 关 系 (非 线 性 ) 2、 相 关 关 系 66 相 关 关 系 的 类 型 从 涉 及 的 变 量 数 量 看 简 单 相 关 多 重 相 关 （ 复 相 关 ） 从 变 量 相 关 关 系 的 表 现 形 式 看 线 性 相 关 散 布 图 接 近 一 条 直 线 非 线 性 相 关 散 布 图 接 近 一 条 曲 线 从 变 量 相 关 关 系 变 化 的 方 向 看 正 相 关 变 量 同 方 向 变 化 ， 同 增 同 减 负 相 关 变 量 反 方 向 变 化 ， 一 增 一 减 不 相 关 7 3、 相 关 程 度 的 度 量 相 关 系 数 如 果 和 总 体 的 全 部 数 据 都 已 知 ， 和 的 方 差 和协 方 差 也 已 知 ， 则 X和 Y的 总 体 线 性 相 关 系 数 ： 其 中 ： -X 的 方 差 -Y的 方 差 -X和 Y的 协 方 差特 点 ： 总 体 相 关 系 数 只 反 映 总 体 两 个 变 量 和 的 线 性 相 关 程 度 对 于 特 定 的 总 体 来 说 ， 和 的 数 值 是 既 定 的 ， 总 体 相 关 系数 是 客 观 存 在 的 特 定 数 值 。 总 体 的 两 个 变 量 和 的 全 部 数 值 通 常 不 可 能 直 接 观 测 ， 所以 总 体 相 关 系 数 一 般 是 未 知 的 。 ( , )( ) ( )Cov X YVar X Var Y ( , )Cov X Y( )Var X ( )Var Y XXXX YYY YYX 8 如 果 只 知 道 X 和 Y 的 样 本 观 测 值 ， 则 X和 Y的 样 本 线 性相 关 系 数 为 ： 其 中 ： 和 分 别 是 变 量 X和 Y的 样 本 观 测 值 ， 和 分 别 是 变 量 X 和 Y 样 本 值 的 平 均 值注 意 : 是 随 抽 样 而 变 动 的 随 机 变 量 。iY _X _Y _ _ _2 2( )( )( ) ( )i iXY i iX X Y Yr X X Y Y iX XYr X和 Y的 样 本 线 性 相 关 系 数 ：相 关 系 数 较 为 简 单 , 也 可 以 在 一 定 程 度 上 测 定 变 量间 的 数 量 关 系 ,但 是 对 于 具 体 研 究 变 量 间 的 数 量 规 律性 还 有 局 限 性 。 X和 Y 都 是 相 互 对 称 的 随 机 变 量 ， 线 性 相 关 系 数 只 反 映 变 量 间 的 线 性 相 关 程 度 ， 不能 说 明 非 线 性 相 关 关 系 样 本 相 关 系 数 是 总 体 相 关 系 数 的 样 本 估 计 值 ， 由于 抽 样 波 动 ， 样 本 相 关 系 数 是 随 抽 样 而 变 动 的 随 机 变 量 ， 其 统 计 显 著 性 还 有 待 检 验 9 XY YXr r对 相 关 系 数 的 正 确 理 解 和 使 用 10 4、 回 归 分 析回 归 的 古 典 意 义 ： 高 尔 顿 遗 传 学 的 回 归 概 念 ( 父 母 身 高 与 子 女 身 高 的 关 系 )子 女 的 身 高 有 向 人 的 平 均 身 高 回 归 的 趋 势回 归 的 现 代 意 义 ：一 个 被 解 释 变 量 对 若 干 个解 释 变 量 依 存 关 系 的 研 究回 归 的 目 的 （ 实 质 ） ：由 解 释 变 量 去 估 计 被 解 释 变量 的 平 均 值 11 被 解 释 变 量 Y的 条 件 分 布 和 条 件 概 率 ： 当 解 释 变 量 X取 某 固 定 值 时 （ 条 件 ） ， Y 的 值 不 确 定 ， Y的 不 同 取 值 会 形 成 一 定 的 分 布 ， 这 是 Y 的 条 件 分 布 。 X取 某 固 定 值 时 ， Y 取 不 同 值 的 概 率 称 为 条 件 概 率 。 被 解 释 变 量 Y 的 条 件 期 望 ： 对 于 X 的 每 一 个 取 值 ， 对 Y 所 形 成 的 分 布 确 定 其 期 望 或 均 值 ， 称 为 Y 的 条 件 期 望 或 条 件 均 值 ， 用 表 示 。 注 意 :Y的 条 件 期 望 是 随 X的 变 动 而 变 动 的 iX)( iXYE)( iXYE Y X 明 确 几 个 概 念 （ 为 深 刻 理 解 “ 回 归 ” ） 12 回 归 线 ： 对 于 每 一 个 X的 取 值 ， 都 有 Y的 条 件 期 望 与 之 对 应 ， 代 表 Y的 条 件 期 望 的 点 的 轨 迹 形 成的 直 线 或 曲 线 称 为 回 归 线 。 回 归 函 数 ： 被 解 释 变 量 Y的 条 件 期 望 随解 释 变 量 X的 变 化 而 有 规 律的 变 化 ， 如 果 把 Y的 条 件 期望 表 现 为 X 的 某 种 函 数 ，这 个 函 数 称 为 回 归 函 数 。回 归 函 数 分 为 ： 总 体 回 归 函 数 和 样 本 回 归 函 数 iX X YiX( )iE Y X( )iE Y X ( )iE Y XE( ) ( ) i iY X f X 13 每 月 家 庭 可 支 配 收 入 X2000 2500 3000 3500 4000 4500 5000 5500 6000 65001312 1530 1631 1843 2037 2277 2469 2924 3515 35211340 1619 1726 1974 2210 2388 2889 3338 3721 39541400 1713 1786 2006 2325 2526 3090 3650 3865 4108每 1548 1750 1835 2265 2419 2681 3156 3802 4026 4345月 1688 1814 1885 2367 2522 2887 3300 4087 4165 4812家 1738 1985 1943 2485 2665 3050 3321 4298 4380庭 1800 2041 2037 2515 2799 3189 3654 4312 4580消 1902 2186 2078 2689 2887 3353 3842 4413费 2200 2179 2713 2913 3534 4074支 2312 2298 2898 3038 3710 4165出 2316 2923 3167 3834 Y 2387 3053 33102498 3187 3510 2689 32861591 1915 2092 2586 2754 3039 3396 3853 4036 4148( )iE Y X 举 例 : 假 如 已 知 由 100个 家 庭 构 成 的 总 体 的 数 据 (单 位 :元 ) 二 、 总 体 回 归 函 数 （ PRF） 14 消 费 支 出 的 条 件 期 望 与 收 入 关 系 的 图 形对 于 本 例 的 总 体 ， 家 庭 消 费 支 出 的 条 件 期 望与 家 庭 收 入 基 本 是 线 性 关 系 , 可 以 把 家 庭 消 费 支出 的 条 件 均 值 表 示 为 家 庭 收 入 的 线 性 函 数 ： ii XXYE )( )( iXYE )( iXYE iX iX 15 1. 总 体 回 归 函 数 的 概 念 前 提 ： 假 如 已 知 所 研 究 的 经 济 现 象 的 总 体 的 被 解 释 变 量 Y和 解 释 变 量 X的 每 个 观 测 值 （ 通 常 这 是 不 可 能 的 ！ ） ， 那么 ， 可 以 计 算 出 总 体 被 解 释 变 量 Y的 条 件 期 望 ，并 将 其 表 现 为 解 释 变 量 X的 某 种 函 数 这 个 函 数 称 为 总 体 回 归 函 数 （ PRF） 本 质 : 总 体 回 归 函 数 实 际 上 表 现 的 是 特 定 总 体 中 被 解 释 变量 随 解 释 变 量 的 变 动 而 变 动 的 某 种 规 律 性 。计 量 经 济 学 的 根 本 目 的 是 要 探 寻 变 量 间 数 量 关 系 的 规 律 ,也就 要 努 力 去 寻 求 总 体 回 归 函 数 。 )()( ii XfXYE )( iXYE 16 iuiX XY )( iXYE iY 条 件 期 望 表 现 形 式例 如 Y的 条 件 期 望 是 解 释 变 量 X的 线 性 函 数 ， 可 表 示 为 ： 个 别 值 表 现 形 式 （ 随 机 设 定 形 式 ） 对 于 一 定 的 ， Y的 各 个 别 值 并 不 一 定 等 于 条 件 期 望 ， 而是 分 布 在 的 周 围 ， 若 令 各 个 与 条 件 期 望 的偏 差 为 ， 显 然 是 个 随 机 变 量 则 有 iY iYiX )( iXYE 1 2( ) ( )i i i iE Y X f X X )( iXYE )( iXYEiu iu iiiiii XYXYEYu 21)( 1 2i i iY X u 2.总 体 回 归 函 数 的 表 现 形 式 PRF 作 为 总 体 运 行 的 客 观 规 律 ， 总 体 回 归 函 数 是 客 观 存 在的 ， 但 在 实 际 的 经 济 研 究 中 总 体 回 归 函 数 通 常 是 未 知 的 ，只 能 根 据 经 济 理 论 和 实 践 经 验 去 设 定 。计 量 经 济 学 研 究 中 “ 计 量 ” 的 根 本 目 的 就 是 要 寻 求 总 体回 归 函 数 。 我 们 所 设 定 的 计 量 模 型 实 际 就 是 在 设 定 总 体 回 归 函数 的 具 体 形 式 。 总 体 回 归 函 数 中 Y 与 X 的 关 系 可 以 是 线 性 的 ， 也 可以 是 非 线 性 的 。 17 3.如 何 理 解 总 体 回 归 函 数 18注 意 ： 在 计 量 经 济 学 中 ， 线 性 回 归 模 型 主 要 指 就 参 数 而 言 是 “ 线性 ” 的 ,因 为 只 要 对 参 数 而 言 是 线 性 的 ,都 可 以 用 类 似 的 方 法 去 估计 其 参 数 ， 都 可 以 归 于 线 性 回 归 。iii XXYE 21)( 1 2( ) lni i iE Y X X iii XXYE 21)( “线 性 ” 的 判 断 概 念 在 总 体 回 归 函 数 中 ， 各 个 的 值 与 其 条 件 期 望 的 偏 差 有 很 重要 的 意 义 。 若 只 有 的 影 响 ， 与 不 应 有 偏 差 。 若 偏差 存 在 ， 说 明 还 有 其 他 影 响 因 素 。 实 际 代 表 了 排 除 在 模 型 以 外 的 所 有 因 素 对 Y 的 影 响 。 性 质 是 其 期 望 为 0 有 一 定 分 布 的 随 机 变 量重 要 性 ： 随 机 扰 动 项 的 性 质 决 定 着 计 量 经 济 分 析 结 果 的 性 质 和 计 量 经 济 方 法 的 选 择 19 iuiuiY )( ii XYE iuiX XY( )iE Y XiY iuiY )( ii XYE Xiu 三 、 随 机 扰 动 项 是 未 知 影 响 因 素 的 代 表 (理 论 的 模 糊 性 ) 是 无 法 取 得 数 据 的 已 知 影 响 因 素 的 代 表 (数 据 欠 缺 ) 是 众 多 细 小 影 响 因 素 的 综 合 代 表 (非 系 统 性 影 响 ) 模 型 可 能 存 在 设 定 误 差 (变 量 、 函 数 形 式 的 设 定 ） 模 型 中 变 量 可 能 存 在 观 测 误 差 (变 量 数 据 不 符 合 实 际 ) 变 量 可 能 有 内 在 随 机 性 (人 类 经 济 行 为 的 内 在 随 机 性 ) 20 iu引 入 随 机 扰 动 项 的 原 因 样 本 回 归 线 ： 对 于 X的 一 定 值 ， 取 得 Y的 样 本 观 测 值 ， 可 计 算 其 条 件 均 值 ，样 本 观 测 值 条 件 均 值 的 轨 迹 ， 称 为 样 本 回 归 线 。样 本 回 归 函 数 ：如 果 把 被 解 释 变 量 Y的 样 本 条 件 均 值 表 示 为 解 释 变 量 X的 某 种 函 数 ，这 个 函 数 称 为 样 本 回 归 函 数 （ SRF） 21 X YiYiY iX SRF四 、 样 本 回 归 函 数 （ SRF） 22 样 本 回 归 函 数 如 果 为 线 性 函 数 ， 可 表 示 为 其 中 ： 是 与 相 对 应 的 Y 的 样 本 条 件 均 值 和 分 别 是 样 本 回 归 函 数 的 参 数 个 别 值 （ 实 际 值 ） 形 式 ： 被 解 释 变 量 Y的 实 际 观 测 值 不 完 全 等 于 样 本 条 件 均 值 ，二 者 之 差 用 表 示 ， 称 为 剩 余 项 或 残 差 项 ： 则 或 1 2 i iY X iY1 2 iYie ii ie Y Y 1 2 i i iY X e iX ie 样 本 回 归 函 数 的 函 数 形 式 iY 条 件 均 值 形 式 ： 样 本 回 归 线 随 抽 样 波 动 而 变 化 :每 次 抽 样 都 能 获 得 一 个 样 本 ， 就 可 以 拟 合 一 条 样 本 回归 线 ， （ SRF不 唯 一 ) 样 本 回 归 函 数 的 函 数 形 式应 与 设 定 的 总 体 回 归 函 数 的函 数 形 式 一 致 。 样 本 回 归 线 只 是 样 本 条 件 均 值 的 轨 迹 ， 还 不 是 总 体回 归 线 ， 它 至 多 只 是 未 知 的 总 体 回 归 线 的 近 似 表 现 。 23 样 本 回 归 函 数 的 特 点 SRF1SRF2 Y X A X 24 iYYiYiY( )i iE Y X ieiu iX PRFSRF样 本 回 归 函 数 与 总 体 回 归 函 数 的 关 系 如 果 能 够 通 过 某 种 方 式 获 得 和 的 数 值 ， 显 然 : 和 是 对 总 体 回 归 函 数 参 数 和 的 估 计 是 对 总 体 条 件 期 望 的 估 计 在 概 念 上 类 似 总 体 回 归 函 数 中 的 ， 可 视 为 对 的 估 计 。 25 对 比 ： 总 体 回 归 函 数 样 本 回 归 函 数1 2 iYie iuiu 1 2( )i iE Y X1 2 1 2( )i i iE Y X X 1 2i i iY X u 1 2 i iY X 1 2 i i iY X e 对 样 本 回 归 的 理 解 26 目 的 ： 计 量 经 济 分 析 的 目 标 是 寻 求 总 体 回 归 函 数 。 即 用 样 本回 归 函 数 SRF去 估 计 总 体 回 归 函 数 PRF。 由 于 样 本 对 总 体 总 是 存 在 代 表 性 误 差 ， SRF 总 会过 高 或 过 低 估 计 PRF。要 解 决 的 问 题 ： 寻 求 一 种 规 则 和 方 法 ， 使 其 得 到 的 SRF的 参 数 和 尽 可 能 “ 接 近 ” 总 体 回 归 函 数 中 的 参 数 和 的 真 实 值 。 这 样 的 “ 规 则 和 方 法 ” 有 多 种 ， 如 矩 估 计 、极 大 似 然 估 计 、 最 小 二 乘 估 计 等 。 其 中 最 常 用 的 是 最 小二 乘 法 。 1 1 212 回 归 分 析 的 目 的 用 样 本 去 估 计 总 体 回 归 函 数 ， 总 要 使 用 特 定 的 方 法 ， 而 任 何 估计 参 数 的 方 法 都 需 要 有 一 定 的 前 提 条 件 假 定 条 件 一 、 简 单 线 性 回 归 的 基 本 假 定 为 什 么 要 作 基 本 假 定 ？ 只 有 具 备 一 定 的 假 定 条 件 ， 所 作 出 的 估 计 才 具 有 良 好 的 统计 性 质 。 模 型 中 有 随 机 扰 动 项 ， 估 计 的 参 数 是 随 机 变 量 ， 显 然 参 数估 计 值 的 分 布 与 扰 动 项 的 分 布 有 关 ， 只 有 对 随 机 扰 动 的 分布 作 出 假 定 ， 才 能 比 较 方 便 地 确 定 所 估 计 参 数 的 分 布 性 质 ，也 才 可 能 进 行 假 设 检 验 和 区 间 估 计 等 统 计 推 断 。假 定 分 为 ： 对 模 型 和 变 量 的 假 定 对 随 机 扰 动 项 的 假 定 27 第 二 节 简 单 线 性 回 归 模 型 的 最 小 二 乘 估 计 例 如 对 于 假 定 模 型 设 定 是 正 确 的 （ 变 量 和 模 型 无 设 定 误 差 ） 假 定 解 释 变 量 X在 重 复 抽 样 中 取 固 定 值 。 假 定 解 释 变 量 X是 非 随 机 的 ， 或 者 虽 然 X是 随 机 的 ， 但 与 扰 动 项 u是 不 相 关 的 。 (从 变 量 X角 度 看 是 外 生 的 )注 意 : 解 释 变 量 非 随 机 在 自 然 科 学 的 实 验 研 究 中 相 对容 易 满 足 ， 经 济 领 域 中 变 量 的 观 测 是 被 动 不 可 控 的 ，X非 随 机 的 假 定 并 不 一 定 都 满 足 。 28 1 2i i iY X u 1.对 模 型 和 变 量 的 假 定 假 定 1： 零 均 值 假 定 : 在 给 定 X的 条 件 下 ， 的 条 件 期 望 为 零 假 定 2： 同 方 差 假 定 : 在 给 定 X的 条 件 下 ， 的 条 件方 差 为 某 个 常 数 29 iu 22)()( iiiii XuEuEXuVar iu ( ) 0i iE u X 2 iX X Y( )iE Y X 2.对 随 机 扰 动 项 u的 假 定 30 假 定 3： 无 自 相 关 假 定 : 随 机 扰 动 项 的 逐 次 值 互 不 相 关 假 定 4： 解 释 变 量 是 非 随 机 的 ， 或 者 虽 然 是 随机 的 但 与 扰 动 项 不 相 关 (从 随 机 扰 动 角 度 看 ) iu iu iX iu( , ) ( ) ( )( ) 0 ( )i j i i j ji jCov u u Eu E u u E uE uu i j ( , ) ( ) ( ) 0i i i i i iCov u X Eu E u X E X iX 2 31 假 定 5： 正 态 性 假 定说 明 ： iu iu2 ( , )iu N o 由 于其 中 的 和 是 非 随 机 的 ， 是 随 机 变 量 ， 因 此Y是 随 机 变 量 ， 的 分 布 性 质 决 定 了 的 分 布 性 质 。 对 的 一 些 假 定 可 以 等 价 地 表 示 为 对 的 假 定 ： 假 定 1： 零 均 值 假 定 假 定 2： 同 方 差 假 定 假 定 3： 无 自 相 关 假 定 假 定 5： 正 态 性 假 定 32 iu iii uXY 21 iuiu iY iY 21 2 ( , )i iY N X iii XXYE 21)( 1 2, iX 2( )i iVar Y X ( , ) 0 i jCovY Y iu 在 对 的 基 本 假 定 下 Y 的 分 布 性 质 1. OLS的 基 本 思 想 对 于 ， 不 同 的 估 计 方 法 可 以 得 到 不 同 的 样 本 回 归参 数 和 ， 所 估 计 的 也 就 不 同 。 理 想 的 估 计 结 果 应 使 估 计 的 与 真 实 的 的 差 (即 剩 余 )总 的 来说 越 小 越 好 因 可 正 可 负 ， 总 有 ， 所 以 可 以 取 最 小 ， 即在 观 测 值 Y和 X确 定 时 ， 的 大 小 决 定 于 和 。要 解 决 的 问 题 :： 如 何 寻 求 能 使 最 小 的 和 。 33 1 2 iY iY ieie 2ie2 21 2 min min ( )i i ie Y X iY 2ie 1 2 1 2 i iY X 0ie 2ie 1 2 二 、 普 通 最 小 二 乘 法 （ OLS） （ rdinary Least Squares) 用 克 莱 姆 法 则 求 解 得 以 观 测 值 表 现 的 OLS估 计 量 ： 3421 22 ( )i i i i ii iX Y X XYn X X 2 22 ( )i i i ii in XY X Yn X X 取 偏 导 数 并 令 其 为 0， 可 得 正 规 方 程1 2 21 2 i ii i i iY n XXY X X 21 22 1 21 2( ) 2 0( ) 2 0 ( ) ( )ii i i ii ie Xe YY X X 或 整 理 得 0 0ii ieeX 即2. 正 规 方 程 和 估 计 量 35 为 表 达 得 更 简 洁 ， 或 者 用 离 差 形 式 的 OLS估 计 量 ： 容 易 证 明由 正 规 方 程 ： 注 意 ： 其 中 ： 本 课 程 中 :大 写 的 和 均 表 示 观 测 值 ； 小 写 的 和 均 表 示 观 测 值 的 离 差而 且 由 样 本 回 归 函 数 可 用 离 差 形 式 写 为 _1 2 Y X XXx ii YYy ii 用 离 差 表 现 的 OLS估 计 量2i iy xii XY 21 1 2 Y X ix iyiX iY _ _2 2 _ 22 2( )( ) ( ) ( )i i i i i i i iii i in XY X Y X X Y Y xyxn X X X X 剩 余 项 的 均 值 为 零 OLS回 归 线 通 过 样 本 均 值 估 计 值 的 均 值 等 于 实 际 观 测 值 的 均 值 36 ie 0iee n Y XXYiY 1 2 Y X iY 1 2 1 21 ( ) ii X XY Ynn (由 OLS第 一 个 正 规 方 程 直 接 得 到 )(由 OLS正 规 方 程 两 边 同 除 n得 到 )1 2 ( ) 0i iY X 3. OLS回 归 线 的 数 学 性 质 Cov( , ) 0i iY e iY ie 解 释 变 量 与 剩 余 项 不 相 关 ieiXCov( , ) 0i iX e 由 OLS正 规 方 程 有 :1Cov( , ) ( )( ) 0 i i i i i i ieX e ee Xn eX XX 1 2 1 2 1 Cov( , ) ( )( ) 0 ( )( ) ( ) 0i i i ii i i i ii i i i iY e Ye e e eXY e enY Y e Ye Y e X 因 为0 0i i ie eX 被 解 释 变 量 估 计 值 与 剩 余 项 不 相 关 38 面 临 的 问 题 : 参 数 估 计 值 参 数 真 实 值对 参 数 估 计 式 的 优 劣 需 要 有 评 价 的 标 准 为 什 么 呢 ? 参 数 无 法 直 接 观 测 ， 只 能 通 过 样 本 去 估 计 。 样 本 的 获 得 存 在 抽 样 波 动 ， 不 同 样 本 的 估 计 结 果 不 一 致 。 估 计 参 数 的 方 法 有 多 种 ， 不 同 方 法 的 估 计 结 果 可 能 不 相 同 ， 通 过 样 本 估 计 参 数 时 ， 估 计 方 法 及 所 确 定 的 估 计 量 不 一 定 完 备 ， 不 一 定 能 得 到 理 想 的 总 体 参 数 估 计 值 。对 各 种 估 计 方 法 优 劣 的 比 较 与 选 择 需 要 有 评 价 标 准 。估 计 准 则 的 基 本 要 求 ： 参 数 估 计 值 应 尽 可 能 地 接 近 总 体 参 数 真 实 值 ” 。 什 么 是 “ 尽 可 能 地 接 近 ” 原 则 呢 ？ 用 统 计 语 言 表 述 就 是 : 无 偏 性 、 有 效 性 、 一 致 性 等 4. OLS估 计 量 的 统 计 性 质 39 (1) 无 偏 性 前 提 ： 重 复 抽 样 中 估 计 方 法 固 定 、 样 本 数 不 变 、由 重 复 抽 样 得 到 的 观 测 值 ,可 得 一 系 列 参 数 估 计值 , 的 分 布 称 为 的 抽 样 分 布 ， 其 密 度函 数 记 为概 念 :如 果 ， 则 称 是 参 数 的 无 偏 估 计 量 ，如 果 ， 则 称 是 有 偏 的 估 计 ， 其 偏 倚 为 （ 见 下 页 图 ）( )f ( )E ( )E ( )E 40 概 率 密 度 估 计 值 偏 倚 )( *E ( )f )( *f 41 (2)有 效 性前 提 ： 样 本 相 同 、 用 不 同 的 方 法 估 计 参 数 ， 可 以 找 到若 干 个 不 同 的 无 偏 估 计 式 目 标 : 努 力 寻 求 其 抽 样 分 布 具 有 最 小 方 差 的 估 计 量 （ 见 下 页 图 ） 既 是 无 偏 的 同 时 又 具 有 最 小 方 差 特 性 的 估 计 量 ， 称 为最 佳 （ 有 效 ） 估 计 量 。 42 概 率 密 度 *( )f ( )f 估 计 值( )f 思 想 :当 样 本 容 量 较 小 时 ， 有 时 很 难 找 到 方 差 最 小 的 无 偏 估 计 ，需 要 考 虑 样 本 扩 大 后 的 性 质 （ 估 计 方 法 不 变 ， 样 本 数 逐 步 增 大 ）一 致 性 ： 当 样 本 容 量 n 趋 于 无 穷 大 时 ， 如 果 估 计 式 依 概 率 收 敛 于 总 体 参 数 的真 实 值 ， 就 称 这 个 估 计 式 是 的 一 致 估 计 式 。 即 或 （ 渐 近 无 偏 估 计 式 是 当 样 本 容 量 变 得 足 够 大 时 其 偏 倚 趋 于 零 的估 计 式 ） (见 下 页 图 )渐 近 有 效 性 ： 当 样 本 容 量 n 趋 于 无 穷 大 时 ， 在 所 有 的 一 致 估 计式 中 ， 具 有 最 小 的 渐 近 方 差 。 431)(lim P nP )lim(3、 渐 近 性 质 （ 大 样 本 性 质 ） 44 概 率 密 度 估 计 值 图 4100( )f 80( )f 40( )f 20( )f 先 明 确 几 点 : 由 OLS估 计 式 可 以 看 出 都 由 可 观 测 的 样 本 值 和 唯 一 表 示 。 因 存 在 抽 样 波 动 ， OLS估 计 是 随 机 变 量 OLS估 计 式 是 点 估 计 量 21 22 ( )i i i i ii iX Y X XYn X X 45iYiX 2 22 ( )i i i ii in XY X Yn X X k kOLS估 计 是 否 符 合 “ 尽 可 能 地 接 近 总 体 参 数 真 实 值 ” 的要 求 呢 ? 4. 分 析 OLS估 计 量 的 统 计 性 质 2、 无 偏 特 性 可 以 证 明 （ 证 明 见 教 材 P38） 46kkE )( 2 2 2( )( ) ( )i i i i i ii iX X Y Y xy kyX X x OLS估 计 式 的 统 计 性 质 高 斯 定 理 2ii ixk xk1 2 Y X i iY X kY 1( )i iXk Yn （ 注 意 : 无 偏 性 的 证 明 中 用 到 了 基 本 假 定 中 零 均 值 等 假 定 ） k iu 1、 线 性 特 征 是 Y的 线 性 函 数 3、 最 小 方 差 特 性 (有 效 性 ) （ 证 明 见 教 材 P68附 录 21）可 以 证 明 ： 在 所 有 的 线 性 无 偏 估 计 中 ， OLS估 计 具有 最 小 方 差（ 注 意 :最 小 方 差 性 的 证 明 中 用 到 了 基 本 假 定 中 的 同 方 差 、 无 自 相 关 等 假定 ）结 论 （ 高 斯 定 理 ） ： 在 古 典 假 定 条 件 下 ， OLS估 计 量 是 最 佳 线 性 无 偏 估 计 量（ BLUE） 47 k 概 念 ：样 本 回 归 线 是 对 样 本 数 据 的一 种 拟 合 。 不 同 的 模 型 （ 不 同 函 数 形 式 )可 拟 合 出 不 同 的 样 本 回 归 线 相 同 的 模 型 用 不 同 方 法 去 估 计参 数 ， 也 可 以 拟 合 出 不 同 的 回 归 线拟 合 的 回 归 线 与 样 本 观 测 值 总 是 有 偏 离 。 样 本 回 归 线对 样 本 观 测 数 据 拟 合 的 优 劣 程 度 ， 可 称 为 拟 合 优 度 。如 何 度 量 拟 合 优 度 呢 ？拟 合 优 度 的 度 量 建 立 在 对 Y 的 总 变 差 分 解 的 基 础 上 48 XY 第 三 节 拟 合 优 度 的 度 量 分 析 Y的 观 测 值 、 估 计 值 与 平 均 值 有 以 下 关 系 将 上 式 两 边 平 方 加 总 ， 可 证 得 （ 提 示 ： 交 叉 项 ） （ TSS） （ ESS） （ RSS） 或 者 表 示 为 总 变 差 （ TSS） ： 被 解 释 变 量 Y的 观 测 值 与 其 平 均 值 的 离 差 平 方 和 （ 总 平 方 和 ） (说 明 Y 的 总 变 动 程 度 ） 解 释 了 的 变 差 （ ESS） ： 被 解 释 变 量 Y的 估 计 值 与 其 平 均 值 的 离 差 平 方 和 （ 回 归 平 方 和 ） 剩 余 平 方 和 （ RSS） ： 被 解 释 变 量 观 测 值 与 估 计 值 之 差 的 平 方 和 （ 未 解 释 的 平 方 和 ） 49 ( ) ( ) ( )i i i i i i iY Y Y Y Y Y YY YY 2 2 2 ( ) ( ) ( )i i i iY Y Y Y Y Y 2iy 2 2 2i i iy y e 2ie ( ) 0i iY Y e 2iy iY iY Y 一 、 总 变 差 的 分 解 Y X 50 iYY iX SRF变 差 分 解 的 图 示 (以 某 一 个 观 测 值 为 例 ) ( )i iY Y y 来 自 回 归( )i i iY Y e =来 自 残 差( )i iY Y y 变 差iYiY ( ) i i iY Y Y Y e 2 2 2i i iy y e 以 TSS同 除 总 变 差 等 式 两 边 ： 或 定 义 ： 回 归 平 方 和 （ 解 释 了 的 变 差 ESS） 在 总 变 差 （ TSS） 中 所 占 的 比 重 称 为 可 决 系 数 ， 用 或 表 示 : 51 2iy 2r 2iy22 2iyR y 22 21 iieR y 22 221 ii iyy ey 或 2R2 22222 ( )( ) ( ) ( )( ) ( )i i iiiiiY Y Y YY Y YY YY Y Y 2 2 2 ( ) ( ) ( )i i i iY Y Y Y Y Y 二 、 可 决 系 数 可 决 系 数 越 大 ， 说 明 在 总 变 差 中 由 模 型 作 出 了 解 释 的部 分 占 的 比 重 越 大 ， 模 型 拟 合 优 度 越 好 。 反 之 可 决 系数 越 小 ， 说 明 模 型 对 样 本 观 测 值 的 拟 合 程 度 越 差 。 可 决 系 数 的 特 点 ： 可 决 系 数 取 值 范 围 ： 随 抽 样 波 动 ， 样 本 可 决 系 数 是 随 抽 样 而 变 动 的 随 机 变 量 可 决 系 数 是 非 负 的 统 计 量 52 20 1R 2R可 决 系 数 的 作 用 联 系 ： 数 值 上 可 决 系 数 是 相 关 系 数 的 平 方 53 2 222 2 22 22 2 222 22 2 2 2 2 2 22 ( )( )( )( ) ( ( )( )( )i ii ii ii i i i i ii i iii ii y xR y yx xy yx y x yx y x yr x yx 2i iy x可 决 系 数 与 相 关 系 数 的 关 系 区 别 ： 可 决 系 数 相 关 系 数 是 就 模 型 而 言 是 就 两 个 变 量 而 言 说 明 解 释 变 量 对 被 解 释 说 明 两 变 量 线 性 依 存 程 度 变 量 的 解 释 程 度 度 量 不 对 称 的 因 果 关 系 度 量 对 称 的 相 关 关 系 取 值 0 1 取 值 -1 r 1 有 非 负 性 可 正 可 负 542R 55 第 四 节 回 归 系 数 的 区 间 估 计 和 假 设 检 验为 什 么 要 作 区 间 估 计 ？ 运 用 OLS法 可 以 估 计 出参 数 的 一 个 估 计 值 ， 但 OLS估 计 只 是 通 过 样 本 得 到 的点 估 计 ， 它 不 一 定 等 于 真 实 参 数 ， 还 需 要 寻 求 真 实 参数 的 可 能 范 围 ， 并 说 明 其 可 靠 性 。为 什 么 要 作 假 设 检 验 ？OLS 估 计 只 是 用 样 本 估 计 的 结 果 ， 是 否 可 靠 ？ 是 否 抽 样 的 偶 然 结 果 呢 ？ 还 有 待 统 计 检 验 。区 间 估 计 和 假 设 检 验 都 是 建 立 在 确 定 参 数 估 计值 概 率 分 布 性 质 的 基 础 上 。 k 56 一 、 OLS估 计 的 分 布 性 质 基 本 思 想 是 随 机 变 量 ， 必 须 确 定 其 分 布 性 质 才 可 能 进 行 区 间 估计 和 假 设 检 验 怎 样 确 定 的 分 布 性 质 呢 ? 是 服 从 正 态 分 布 的 随 机 变 量 ， 决 定 了 也 是 服 从 正 态 分 布 的 随 机 变 量 ； 是 的 线 性 函 数 ， 决 定 了 也 服 从 正 态 分 布 正 态 正 态 正 态 只 要 确 定 的 期 望 和 方 差 ， 即 可 确 定 的 分 布 性 质 k k iu iY iYiu iY kkk kk 1 2i i iY X u 2 i iky 线 性 特 征（ 线 性 估 计 的 重 要 性 ) 57 的 期 望 ： (已 证 明 是 无 偏 估 计 ） 的 方 差 和 标 准 误 差 (证 明 见 P39、 P40) (标 准 误 差 是 方 差 的 平 方 根 ) 注 意 ： 以 上 各 式 中 均 未 知 ， 但 是 个 常 数 ， 其 余 均 是 已知 的 样 本 观 测 值 ， 这 时 和 都 不 是 随 机 变 量 。 ( )k kE 2 2 2 ( ) ( ) iSE Var x 的 期 望 和 方 差22 2( ) iVar x 221 2( ) iiXVar n x 21 1 2 SE( ) ( ) iiXVar n x 2 kk k )( kVar )( kSE 2 ( )iVar u 58 基 本 思 想 ： 是 的 方 差 ， 而 不 能 直 接 观 测 ， 只 能 从 由 样 本 得到 的 去 获 得 有 关 的 某 些 信 息 ， 去 对 作 出 估 计 。 可 以 证 明 （ 见 附 录 2.2)其 无 偏 估 计 为 (这 里 的 n-2为 自 由 度 , 即 可 自 由 变 化 的 样 本 观 测 值 个 数 )注 意 区 别 ： 是 未 知 的 确 定 的 常 数 ； 是 由 样 本 信 息 估 计 的 ， 是 个 随 机 变 量22 22 n ei 对 随 机 扰 动 项 方 差 的 估 计iu iuiuie2 2 2 2 2 2( )E 2 2( ) ( 2)iE e n 1 2 i i ie Y X 59 对 作 标 准 化 变 换为 什 么 要 对 作 标 准 化 变 换 ?在 正 态 性 假 定 下 ， 由 前 面 的 分 析 已 知但 在 对 一 般 正 态 变 量 作 实 际 分 析 时 ， 要 具 体 确 定 的 取 值 及 对 应 的 概 率 ， 要 通 过 正 态 分 布 密 度 函 数 或分 布 函 数 去 计 算 是 很 麻 烦 的 ， 为 了 便 于 直 接 利 用 “ 标准 化 正 态 分 布 的 临 界 值 ” ， 需 要 对 作 标 准 化 变 换 。标 准 化 的 方 式 ： kk k k k ( )( )k kk kEz SE iu )(, kkk VarN 221 ( ) 2 xxx e dx 标 准 正 态 分 布 函 数 60 在 已 知 时 对 作 标 准 化 变 换 ， 所 得 Z统 计 量 为 标准 正 态 变 量 。 1 11 11 21 2 (0,1)( ) iiz NSE Xn x 2 22 22 2 2 (0,1)( ) iz NSE x 1. 已 知 时 ， 对 作 标 准 化 变 换k 注 意 :这 时 和 都 不 是 随 机 变 量 (X、 、 都 是 非 随 机 的 ）)( 2SE)( 1SE 2 k2 n 61 条 件 ： 当 未 知 时 ， 可 用 （ 随 机 变 量 ） 代 替 去 估 计参 数 的 标 准 误 差 。 这 时 参 数 估 计 的 标 准 误 差 是 个 随 机 变 量 。 样 本 为 大 样 本 时 ,作 标 准 化 变 换 所 得 的 统 计 量 Zk， 也 可 以 视 为 标 准 正 态 变 量 （ 根 据 中 心 极 限 定 理 ） 。 样 本 为 小 样 本 时 ， 用 估 计 的 参 数 标 准 误 差 对 作 标 准 化 变 换 ， 所 得 的 统 计 量 用 t表 示 ， 这 时 t将 不 再 服 从 正 态 分 布 ， 而 是 服 从 t 分 布 （ 注 意 这 时 分 母 是 随 机 变 量 ） ： 22 ( 2)( )k kkt t nSE 2. 未 知 时 ， 对 作 标 准 化 变 换k2 k2 基 本 思 想 ： 对 参 数 作 出 的 点 估 计 是 随 机 变 量 ， 虽 然 是 无 偏 估 计 ， 但 还 不能 说 明 这 种 估 计 的 可 靠 性 和 精 确 性 。 如 果 能 找 到 包 含 真 实 参 数的 一 个 范 围 ， 并 确 定 这 样 的 范 围 包 含 参 数 真 实 值 的 可 靠 程 度 ，将 是 对 真 实 参 数 更 深 刻 的 认 识 。方 法 ： 如 果 在 确 定 参 数 估 计 式 概 率 分 布 性 质 的 基 础 上 ， 可 找 到 两个 正 数 和 ， 能 使 得 这 样 的 区 间 包 含 真 实 的 概 率 为 ， 即这 样 的 区 间 称 为 所 估 计 参 数 的 置 信 区 间 。 讨 论 ： “ 如 果 已 经 得 出 了 的 特 定 估 计 值 ,并 确 定 了 某 个 置 信 区 间 ， 这 说 明真 实 参 数 落 入 这 个 区 间 的 概 率 为 1- ” 。 这 种 说 法 对 吗 ? 62),( kkk )10( 1k 1)( kkkP 二 、 回 归 系 数 的 区 间 估 计 63样 本 容 量 充 分 大样 本 容 量 较 小 总 体 方 差 已 知总体方差 未知 * 2 2 2 2 22 (0,1)( ) iZ NSE x Z将 接 近标 准 正 态 分 布服 从 t 分 布2 2 k三种情况 1)( kkkP基 本 思 想 :利 用 标 准 化 后 统 计 量 的 分 布 性 质 去 寻 求 :置 信 区 间 ： 标 准 正 态 分 布 （ 1） 当 总 体 方 差 已 知 时 ( Z 服 从 正 态 分 布 ) 取 定 （ 例 如 =0.05） ， 查 标 准 正 态 分 布 表 得 与 对应 的 临 界 值 z (例 如 z为 1.96)， 则 标 准 化 变 量 Z*（ 统 计 量 ） 因 为 或 即 64 2 2 2 2 2 2 ( ) ( ) 1P zSE zSE 2 22 1( )P z zSE * 2 2 2 2 22 (0,1)( ) iZ NSE x z z 2 2( ) izSE z x 0回 归 系 数 的 区 间 估 计 (分三种情况寻找合适的 ) 方 法 ： 可 用 无 偏 估 计 去 代 替 未 知 的 ，由 于 样 本 容 量 充 分 大 ， 标 准 化 变 量 Z*（ 统 计 量 ） 将接 近 标 准 正 态 分 布注 意 :这 里 的 “ ”， 表 示 “ 估 计 的 ” , 这 时 区 间 估 计 的 方 式 也 可 利 用 标 准 正 态 分 布只 是 这 时 65 2 22 * 2 2 2 2 2 2 (0,1)( ) iz NSE x 2 2( ) izSE z x 2.当 总 体 方 差 未 知 ， 且 样 本 容 量 充 分 大 时 方 法 ： 用 无 偏 估 计 去 代 替 未 知 的 ， 由 于 样 本 容 量 较小 ， “ 标 准 化 变 量 ” t （ 统 计 量 ） 不 再 服 从 正 态 分 布 ， 而 服 从 t 分 布 。这 时 可 用 t 分 布 去 建 立 参 数 估 计 的 置 信 区 间 。 选 定 ， 查 t 分布 表 得 显 著 性 水 平 为 ， 自 由 度 为 n-2的 临 界 值 (n-2) ，则 有即 66 2 22 2t2 22 2 2 1( )P t tSE 2 2 2 22 2 2 1 ( ) ( )t SE EP t S * 2 2 2 ( 2)( )t t nSE 2 3、 当 总 体 方 差 未 知 ， 且 样 本 容 量 较 小 时 例 1:研 究 某 市 城 镇 居 民 人 均 鲜 蛋 需 求 量 Y(公 斤 )与 人 均 可 支 配 收 入X(元 ,1980年 不 变 价 计 )的 关 系设 定 模 型 : 1995-2005年 样 本 数 据 :估 计 参 数 ：年份 1995 1996 1997 1998 1999 2000 2001 2002 2003 2004 2005Y 14.4 14.4 14.4 14.7 17.0 16.3 18.0 18.5 18.2 19.3 17.1X 847.3 821.0 884.2 903.7 984.1 1035.3 1200.9 1289.8 1432.9 1539.0 1633.616.57, 1142.89, 11Y X n ttt uXY 21 2 2 4489.94 0.005858661.8t ttxyx 1 2 16.57 0.005 1142.89 10.60Y X 计 算 可 决 系 数例 1:由 前 面 的 估 计 结 果 可 计 算 出 由 数 据 Y 可 计 算 出 :则 2 2 22 10.561 1 34.03161 0.3103 0.6897tteR yR 2 10.56te 2 2( ) 34.0316t tY Y y 估 计 结 果 : 10.60 0.005t tY X 估 计 ：给 定 查 df=n-2=9的 t分 布 临 界 值参 数 区 间 估 计 :若 给 定 查 df=9的 t分 布 临 界 值 69 22 10.56 1.17362 11 2ten 0.05 262.2)9( 025.0 t 2 2 2 22 2 2 ( ) ( ) 1P t SE t SE 05.01001.0262.2005.0001.0262.2005.0 2 P 2(0.0027 0.0073) 0.95P 2 2 1.1736( ) 0.001858661.8tSE x 20.10 0.05(9) 1.833t 2(0.0032 0.0068) 0.90P 若 给 定 则 0.20 2(0.0036 0.0064) 0.80P 若 给 定 则 0.50 2(0.0043 0.0057) 0.50P 则 70统 计 量 t 计 算 的 统 计 量 为 :相 对 于 显 著 性 水 平 的 临 界 值 为 : （ 单 侧 ） 或 （ 双 侧 ）t 2t 2t2t *t *t 基 本 概 念 回 顾 : 临 界 值 与 概 率 、 大 概 率 事 件 与 小 概 率 事 件0（ 大 概 率 事 件 ） （ 小 概 率 事 件 ）1 目 的 ： 简 单 线 性 回 归 中 ， 检 验 X对 Y是 否 真 有 显 著 影 响三 、 回 归 系 数 的 假 设 检 验 71 回 归 系 数 的 检 验 方 法 确 立 假 设 ： 原 假 设 为 备 择 假 设 为 (本 质 ： 检 验 是 否 为 0， 即 检 验 是 否 对 Y有 显 著 影 响 ) (1)当 已 知 或 样 本 容 量 足 够 大 时 可 利 用 正 态 分 布 作 Z检 验 给 定 , 查 正 态