概率论期末考试第十九讲极大似然估计法.ppt

教学目的1 讲解极大似然估计法 2 讲解评价估计量优劣的三个标准 教学内容 第六章 6 1 2 6 2 第十九讲极大似然估计法 估计量优劣的标准 极大似然估计法 思想方法 一次试验就出现的事件有较大的概率 例如 有两外形相同的箱子 各装100个球一箱99个白球1个红球一箱1个白球99个红球 现从两箱中任取一箱 并从箱中任取一球 结果所取得的球是白球 答 第一箱 问 所取的球来自哪一箱 例6设总体X服从0 1分布 且P X 1 p 用极大似然法求p的估计值 解 总体X的概率分布为 设x1 x2 xn为总体样本X1 X2 Xn的样本值 则 对于不同的p L p 不同 见右下图 现经过一次试验 在容许范围内选择p 使L p 最大 注意到 lnL p 是L的单调增函数 故若某个p使lnL p 最大 则这个p必使L p 最大 一般 设X为离散型随机变量 其分布律为 则样本X1 X2 Xn的概率分布为 或 称L 为样本的似然函数 称这样得到的 为参数 的极大似然估计值 称统计量 为参数 的极大似然估计量 极大似然法的思想 简记 简记 若X连续 取f xi 为Xi的密度函数 似然函数为 注1 注2 未知参数可以不止一个 如 1 k 设X的密度 或分布 为 则定义似然函数为 为似然方程组 若对于某组给定的样本值x1 x2 xn 参数使似然函数取得最大值 即 显然 称统计量 为 1 2 k的极大似然估计量 例7设总体X N 2 x1 x2 xn是X的样本值 求 2的极大似然估计 解 2的极大似然估计量分别为 极大似然估计方法 1 写出似然函数L 可得未知参数的极大似然估计值 然后 再求得极大似然估计量 L是的可微函数 解似然方程组 若 L不是的可微函数 需用其它方法求极大似然估计值 请看下例 若 例8设X U a b x1 x2 xn是X的一个样本值 求a b的极大似然估计值与极大似然估计量 似然函数为 似然函数只有当a xi b i 1 2 n时才能获得最大值 且a越大 b越小 L越大 令 xmin min x1 x2 xn xmax max x1 x2 xn 取 都有 故 是a b的极大似然估计值 分别是a b的极大似然估计量 问题 1 待估参数的极大似然估计是否一定存在 2 若存在 是否唯一 设X U a a x1 x2 xn是X的一个样本 求a的极大似然估计值 解 由上例可知 当 时 L取最大值1 即 显然 a的极大似然估计值可能不存在 也可能不唯一 例9 不仅如此 任何一个统计量 若满足 都可以作为a的估计量 极大似然估计方法 是 的实值函数 且具有单值反函数 例X N 2 2的极大似然估计 则 的极大似然估计为 作业P 192习题六 1234 点估计的评价标准 对于同一个未知参数 不同的方法得到的估计量可能不同 于是提出问题 1 无偏性 3 一致性 2 有效性 若 定义 我们不可能要求每一次由样本得到的 估计值与真值都相等 但可以要求这些估 计值的期望与真值相等 证明 不论X服从什么分布 但期望存在 证 因而 由于 则 特别地 是总体期望E X 的 样本均值 无偏估计量 例2设总体X的期望与方差存在 X的 样本为 n 1 1 不是D X 的无偏估量 2 是D X 的无偏估计量 证 前已证 证明 因而 故证毕 X B n p n 1 求p2的无偏估计量 解由于样本矩是总体矩的无偏估计量以及数学期望的线性性质 只要将未知参数表示成总体矩的线性函数 然后用样本矩作为总体矩的估计量 这样得到的未知参数的估计量即为无偏估计量 令 因此 p2的无偏估计量为 故 例4设总体X的密度函数为 为常数 为X的一个样本 证 故 是 的无偏估计量 令 即 故nZ是 的无偏估计量 都是总体参数 的无偏估计量 且 则称比更有效 是 的无偏估计量 问哪个估计量更有效 由例4可知 与都 为常数 例5设总体X的密度函数为 解 例6设总体X 且E X D X 2 为总体X的一个样本 证 1 1 设常数 2 而 例如X N 2 X1 X2 是一样本 都是 的无偏估计量 定义设是总体参数 的估计量 若对于任意的 当n 时 依概率收敛于 即 一致性估计量仅在样本容量n足够大时 才显示其优越性 一致 关于一致性的两个常用结论 1 样本k阶矩是总体k阶矩的一致性估计量 是 的一致估计量 矩法得到的估计量一般为一致估计量 在一定条件下 极大似然估计具有一致性 2 设是 的无偏估计量 且 则 例8 为常数 则是 的无偏 有效 一致估计量 证由例7知是 的无偏 有效估计量 所以是 的一致估计量 证毕 作业P 192 193习题六 911 习题