随机变量的性质

随 机 变 量 的 性 质 n随 机 变 量 定 义n随 机 变 量 的 独 立 性n随 机 变 量 的 矩 与 相 关 系 数n随 机 变 量 分 布 的 峰 度 和 偏 度 n随 机 变 量 的 矩 母 函 数 和 特 征 函 数 n极 限 定 理 主 要 内 容 n随 机 变 量 的 提 出 ： 观 察 一 个 随 机 现 象 ， 其 随 机 事 件 有 些 是数 量 性 质 ， 有 些 是 非 数 量 性 质 的 。 非 数 量 性 质 的 随 机 事 件 很难 运 用 成 熟 的 数 学 方 法 去 处 理 ， 即 使 对 数 量 方 式 刻 画 的 随 机事 件 由 于 缺 乏 规 范 性 和 统 一 性 ， 在 进 行 数 学 处 理 时 通 常 也 会存 在 一 些 问 题 。 为 此 ， 人 们 提 出 了 一 种 与 事 件 的 原 始 描 述 形态 相 对 应 、 易 于 数 学 处 理 、 比 较 规 范 、 并 有 许 多 共 性 的 数 学描 述 方 法 ， 这 就 是 所 谓 的 随 机 事 件 的 随 机 变 量 表 示 。n 借 助 于 随 机 变 量 对 上 的 事 件 进 行 数 学 化 刻 画 以 后 ， 我 们既 可 以 利 用 概 率 测 度 P评 价 F 中 的 事 件 ， 又 可 以 广 泛 借 助 于数 学 方 法 对 F 中 的 事 件 进 行 更 全 面 、 更 深 入 的 认 识 。n注 意 ： 随 机 变 量 的 定 义 也 必 须 遵 循 一 定 的 规 则 。 对 于 概 率空 间 (, F,P)， 尽 管 的 所 有 随 机 事 件 皆 可 以 用 随 机 变 量 来描 述 ， 但 我 们 只 对 评 测 F中 的 事 件 感 兴 趣 ， 而 且 也 只 有 F中 的随 机 事 件 才 是 可 测 的 ， 或 者 说 只 有 对 F中 事 件 才 能 进 行 概 率测 度 。随 机 变 量 定 义 的 界 定 定 义 称 映 射 :R1 是 随 机 变 量 （ 或 者 F可 测 的 ） ，若 AB (R1)， -1(A)=w|(w) AF， 即 -1(A)是 F中 的 事 件 。显 然 ， G -1(A)| AB (R1)是 F中 的 集 合 簇 。 我们 把 由 G生 成 的 代 数 (G)称 为 由 随 机 变 量 生 成的 代 数 ， 记 作 (),()是 使 可 测 的 最 小 代数 。定 义 多 维 随 机 变 量设 (, F,P)为 概 率 空 间 ， 称 (1(w),2(w),n(w):Rn是 多 维 随 机 变 量 ， 当且 仅 当 的 每 个 分 量 都 是 F可 测 的 。同 样 ， 我 们 也 可 以 定 义 多 维 随 机 变 量 :Rn 的 分 布函 数 ： 对 x = (x1,xn) Rn， 定 义F(x)= F(x1,xn)=P(w|1(w)x1 ,n(w)xn)，则 称 F为 的 n维 联 合 分 布 函 数 。 对 m n， 在 联 合 分 布函 数 中 将 其 中 n-m个 变 量 用 +来 代 替 ， 就 可 得 到 对应 于 的 m个 分 量 的 边 际 分 布 函 数 。例 如 ： F(x1, +,+)=P(w|1(w)x1,2(w)+,n(w) +)是 一 维 边 际 分 布 函 数 ， 实 质 上 也 是 分 量 1的 分布 函 数 。 多 维 随 机 变 量若 存 在 一 个 非 负 实 函 数 f： Rn R1 ， 使 得 对AB(Rn)， 满 足P(A) =P(w|(w)A ) = f(x)dx则 称 f为 n维 随 机 变 量 的 密 度 函 数 ， 此 时 n维 随 机 变量 的 联 合 分 布 函 数 表 示 为我 们 经 常 使 用 的 概 率 分 布 有 二 项 分 布 、 Poission分布 、 正 态 分 布 、 对 数 正 态 分 布 、 高 斯 分 布 、 2-分布 、 t-分 布 、 F分 布 等 。 nx nnxxn dssssfdsdsxxFxF ),(),()( 21211 21 Ax 随 机 变 量 的 独 立 性定 义 设 1, 2,n为 定 义 在 (, F,P)上 的 随 机 变 量 ，若 对 AiB(R1)， i=1,2, ,n， 有P(w|1(w) A1 , 2(w) A2, n(w) An)= P(w|i (w) Ai ), 则 称 1, 2,n是 相 互 独 立 的 。 ni 1 随 机 变 量 的 独 立 性另 外 ， 还 有 等 价 定 义 为 ： 称 1, 2,n相 互 独 立 ，若 对 任 意 实 数 x1, x2,xn， 有P(1 x1, 2 x2,n xn)= P(1 x1) P(2 x2)P(n xn) 上 式 等 价 于F(x1, x2,xn)= F1(x1) F2(x2)Fn(xn), 其 中 ， F是 随 机 向 量 (1, 2,n)的 联 合 分 布 函 数 ，F1 ,Fn分 别 为 随 机 变 量 1, 2,n的 一 维 边 际分 布 函 数 。 随 机 变 量 的 矩 与 相 关 系 数 定 义 设 为 概 率 空 间 (, F,P)上 的 随 机 变 量 ，若 积 分 |k|dP +， 则 称 kdP为 的 k阶 矩 ， 记 作 Ek；同 理 ， 可 定 义 k阶 中 心 矩 E(E)k)；n称 一 阶 矩 E为 的 数 学 期 望 ， 记 为 E；n称 二 阶 中 心 矩 E(E)2)为 的 方 差 ， 记 作 2或 V；n称 为 的 标 准 差 。 多 维 随 机 变 量 的 数 学 期 望 和 方 差 : 对 维 随 机 向 量 （ 1, 2, n） ， 若 每个 随 机 变 量 i (i=1,2,n)都 有 有 限 数 学 期望 ， 则 称Cov(i, j)=E(i Ei)(j Ej) = Eij EiEj , ( ij )为 随 机 变 量 i与 j的 协 方 差 ， 或 称 为 二 阶 混 合中 心 矩 ； 若 i， j的 方 差 Vi 和 Vj非 零 有 限 ， 则 定 义 i与 j的 相 关 系 数 为容 易 推 理 得 0 |(i,j)| 1。 21)( ),cov(),( ji jiji VV 方 差 -协 方 差 矩 阵 :我 们 称 n阶 方 阵为 n维 随 机 向 量 （ 1, 2,n ） 的 方 差 -协 方差 矩 阵 ， 记 为 ， 显 然 方 差 -协 方 差 矩 阵 为非 负 定 的 对 称 矩 阵 。 同 理 ， 我 们 也 可 以 得 到由 (i,j)组 成 的 相 关 系 数 矩 阵 。 nnn nnVVV ),cov(),cov( ),cov(),cov( ),cov(),cov( 22 2212 1211 数 学 期 望 和 方 差 有 一 条 重 要 性 质 ：若 1, 2,n相 互 独 立 ， 则 E( 1 2 n )= E 1 E 2 E n通 过 上 式 可 以 知 道 ， 当 两 个 随 机 变 量 与 相互 独 立 时 ， (,)=0， 即 两 随 机 变 量 不 相 关 。iniini i VcV c 1 21 )( 随 机 变 量 的 峰 度 和 偏 度设 为 定 义 在 概 率 空 间 (, F,P)上 的 某 随 机变 量 ， 则 用 的 标 准 化 的 三 阶 中 心 矩 来 定义 的 偏 度 ， 即所 有 对 称 分 布 的 偏 度 都 为 0， 偏 度 不 为 0的分 布 曲 线 是 右 偏 斜 或 左 偏 斜 。 23 3)( )()( V EES 用 的 标 准 化 的 四 阶 中 心 矩 来 定 义 的 峰 度 ，即正 态 分 布 的 偏 度 为 0， 峰 度 为 3， 厚 尾 分 布的 峰 度 大 于 3， 甚 至 有 无 限 峰 度 。2 4)( )()( V EEK 在 实 际 应 用 中 ， 也 可 以 用 样 本 数 据 去 估 计 偏度 和 峰 度 ， 以 找 到 样 本 数 据 的 变 化 规 律 。假 设 有 样 本 数 据 ， 则 样 本 均 值 和方 差 分 别 为 niiX 1 u2 ni iXnu 11 212 )(11 ni i uXn 这 样 ， 样 本 的 偏 度 和 峰 度 分 别 为s k ni i uXns 1 33 )()1( 1 4 14 )()1( 1 ni i uXnk n 从 前 面 的 分 布 可 以 看 出 ， 我 们 可 以 用 随 机 变 量 分 布 函 数 、数 学 期 望 、 方 差 等 数 字 特 征 来 了 解 随 机 变 量 某 些 特 征 和统 计 规 律 。n 数 字 特 征 是 由 随 机 变 量 的 有 阶 矩 决 定 的 。 随 着 矩 阶 数 的提 高 ， 例 如 偏 度 和 峰 度 ， 矩 的 直 接 计 算 越 来 越 复 杂 ， 非常 需 要 一 个 简 便 有 效 的 计 算 工 具 ， 于 是 特 征 函 数 和 母 函数 就 应 运 而 生 了 。n 特 征 函 数 是 将 数 学 中 著 名 的 Fourier变 换 应 用 到 分 布 函 数或 密 度 函 数 而 产 生 的 。 由 于 特 征 函 数 比 分 布 函 数 具 有 更好 的 性 质 ， 例 如 连 续 性 、 可 导 性 等 ， 所 以 凭 借 这 些 良 好特 性 和 反 演 公 式 ， 我 们 既 可 以 很 方 便 用 以 求 分 布 函 数 、各 阶 矩 ， 也 可 以 用 来 研 究 随 机 变 量 其 他 方 面 更 多 的 规 律 。当 处 理 离 散 型 随 机 变 量 时 ， 则 用 母 函 数 更 为 方 便 ， 因 为此 时 可 以 充 分 利 用 幂 级 数 的 性 质 而 避 免 再 引 进 更 复 杂 的复 函 数 积 分 。随 机 变 量 的 矩 母 函 数 和 特 征 函 数 定 义 ： 设 为 随 机 变 量 ， 则 称 数 学 期 望为 矩 母 函 数 。原 点 矩 的 求 法 ： 利 用 矩 母 函 数 可 求 得 的 各阶 矩 ， 即 对 逐 次 求 导 并 计 算 在 点 的 值 ：( ) tXt E e ( ) tXt E Xe 2( ) tXt E X e 计 算 在 点 的 值 得 矩 母 函 数 的 名 称 就 来 自 此 性 质 。( ) n n tXt E X e 0t (0) ( 1) n nE X n 矩 母 函 数 ：定 理 ： 设 相 互 独 立 的 随 机 变 量的 矩 母 函 数 分 别 为 ， 则 其 和 的 矩 母 函 数 为由 于 一 个 随 机 变 量 的 矩 母 函 数 不 一 定 存 在 ，故 理 论 上 更 方 便 的 是 定 义 特 征 函 数 .1 2, , , rX X X1 2( ), ( ), , ( )rt t t 1 2 rY X X X 1 2( ) ( ) ( ) ( )Y rt t t t 通 过 概 率 理 论 得 到 的 基 本 认 识 为 ： 大 量 个 体 的 随机 现 象 的 共 同 运 动 产 生 了 非 随 机 的 规 律 ， 其 中最 主 要 的 规 律 就 是 大 数 定 律 和 中 心 极 限 定 理 。n大 数 定 律 的 基 本 含 义 是 随 着 同 类 独 立 的 随 机 现象 的 大 幅 度 增 加 ， 事 件 发 生 的 频 率 呈 现 出 稳 定性 的 规 律 。n中 心 极 限 定 理 处 理 的 是 这 类 现 象 ， 即 由 彼 此 不相 干 的 随 机 因 素 叠 加 而 成 ， 而 每 一 因 素 作 用 不大 ， 但 由 项 数 越 来 越 多 、 值 越 来 越 小 的 随 机 变量 的 和 组 成 的 序 列 呈 现 出 正 态 性 的 规 律 。n大 数 定 律 和 中 心 极 限 定 理 是 自 然 科 学 、 工 程 技术 、 经 济 金 融 、 甚 至 日 常 生 活 中 经 常 见 到 的 随机 规 律 。极 限 定 理