《概率论与数理统计》第八章.ppt

第八章参数估计 8 1估计量的优劣标准 8 2获得估计量的方法 点估计 8 3区间估计 研究参数估计 要解决两个方面的问题 1 怎样估计参数 即用什么样的办法对参数进行估计 2 对估计出的参数值用什么标准衡量其优劣程度 参数估计的概念 定义设总体X的分布函数F x 的形式为已知 其中 为未知参数 为参数空间 X1 Xn是总体X的一个样本 若统计量f X1 Xn 可作为 的一个估计 则称其为 的一个估计量 记为 注 X的分布函数F x 也可用分布律或密度函数代替 若x1 xn是样本的一个观测值 在不致混淆的情况下统称估计量与估计值为估计 8 1估计量的优劣标准 一 一致估计 定义8 1 一致性是对于极限性质而言的 它只在样本容量较大时才起作用 二 无偏估计 例1从总体 中取一样本 X1 Xn E D 2 试证样本平均数 分别是 及 2的无偏估计 证 样本均值X是 的无偏估计 怎样证明 S2是 2的无偏估计 如果从总体中随机取出两个相互独立的样本 X11 X1n1 及 X21 X2n2 则可以证明 分别是总体中 和 2的无偏估计量 其中 对总体的某一参数的无偏估计量往往不止一个 而且无偏性仅仅表明 所有可能取的值按概率平均等于 可能它取的值大部分与 相差很大 为保证 的取值能集中与 附近 自然要求 的方差越小越好 三 有效估计 由定义可知 一个无偏估计量取的值是在可能范围内最密集与未知参数的真值 附近摆动 定义8 3设 和 都是 的无偏估计 若样本容量为n 的方差小于 的方差 则称 是比 有效的估计量 如果在 的一切无偏估计量中 的方差达到最小 则 称为 的有效估计量 实际上 样本平均数X是总体期望值 的有效估计量 例2比较总体期望值 的两个无偏估计的有效性 解 利用不等式 8 2获得估计量的方法 点估计 点估计 就是以样本的某一函数值作为总体中未知参数的估计值的一种估计方法 若x1 xn是样本的一个观测值 由于f x1 xn 是实数域上的一个点 现用它来估计 故称这种估计为点估计 点估计的经典方法是矩估计法与极大似然估计法 一 矩估计法 简称 矩法 关键点 1 用样本矩作为总体同阶矩的估计 即 2 约定 若是未知参数 的矩估计 则f 的矩估计为f 矩法是求估计量的最古老的方法 具体的做法是 以样本矩作为相应的总体矩的估计 以样本矩的函数作为相应的总体矩的同一函数的估计 常用的是用样本平均数估计总体期望值 例1某灯泡厂某天生产了一大批灯泡 从中抽取了10个进行寿命实验 得数据如下 单位 小时 问该天生产的灯泡平均寿命是多少 矩法比较直观 求估计量有时也比较直接 但它产生的估计量往往不够理想 解计算出X 1147 以此作为总体期望值 的估计 二 最大似然估计法 1 最大似然思想有两个射手 一人的命中率为0 9 另一人的命中率为0 2 现在他们中的一个向目标射击了一发 结果命中了 估计是谁射击的 一般说 事件A发生的概率与参数 有关 取值不同 则P A 也不同 因而应记事件A发生的概率为P A 若A发生了 则认为此时的 值应是在 中使P A 达到最大的那一个 这就是最大似然思想 最大似然法是要选取这样的 当它作为 的估计值时 使观察结果出现的可能性最大 设 为连续性随机变量 它的分布函数是F x 概率密度是其中 是未知参数 可以是一个值 也可以是一个向量 由于样本的独立性 则样本 对于连续型的随机变量就是估计概率密度中的 对于离散型的随机变量就是估计概率函数中的参数 的联合概率密度是 对每一个取定的样本值是常数 L是参数 的函数 称L为样本的似然函数 如果是一个向量 则L是多元函数 设 为离散型随机变量 有概率函数则似然函数 定义8 4如果在 处达到最大值 则称 是 的最大似然估计 式子右边的 表示函数关系 问题是如何把 的最大似然估计 求出来 由于 L与L同时达到最大值 故只需求 L的最大值点即可 与样本有关 它是样本的函数 即 如果 是一个向量 即 一般情况下 L在最大值点的一阶偏导数等于0 即是上面方程组的解 要求最大似然估计 首先要解这个似然方程组 考虑方程组 1 设总体X为离散型随机变量 它的分布律为 现有样本观察值x1 x2 xn 其中xi取值于 xi i 1 2 问 根据极大似然思想 如何用x1 x2 xn估计q 例5 设X1 Xn为取自参数为 的泊松分布总体的样本 求 的极大似然估计 2 设总体X为连续型随机变量 概率密度 x 现有样本观察值x1 x2 xn 问 根据极大似然思想 如何用x1 x2 xn估计q 2 似然函数与极大似然估计 为该总体的似然函数 定义 若有 使得 则称为 的极大似然估计 记为 3 求极大似然估计的步骤 1 做似然函数 2 做对数似然函数 3 求导数 列似然方程 若该方程有解 则其解就是 的最大似然估计 4 解似然方程 注1 若概率函数中含有多个未知参数 则可解方程组 例6 设X1 Xn为取自N 2 总体的样本 求参数 2的极大似然估计 注2 极大似然估计具有下述性质 若是未知参数 的极大似然估计 g 是 的严格单调函数 则g 的矩极大似然估计为g 例7 设X1 Xn为取自参数为 的指数分布总体的样本 a 0为一给定实数 求p P X a 的极大似然估计 注3 由似然方程解不出 的似然估计时 可由定义通过分析直接推求 事实上满足 例8 设X1 Xn为取自U 0 总体的样本 0未知 求参数 的极大似然估计 例2已知 为 的一组样本观察值 求 的最大似然估计 解似然函数 解似然方程 x就是的最大似然估计 例3某电子管的使用寿命 从开始使用到初次失效为止 服从指数分布 概率密度见例2 今抽取一组样本 其具体数据如下 问如何估计 解根据例2的结果 参数 用样本平均数估计 为 的估计值 为 的一组样本观察值 用最大似然估计法估计的值 解 例4已知 服从正态分布 解似然方程组 解似然方程组 EX P1642 3 47 8 11 15 16 19 8 3区间估计P157一 概念 定义 设总体X的分布函数F x 含有未知参数 对于给定值 0 1 若由样本X1 Xn确定的两个统计量使 则称随机区间为 的置信度为1 的置信区间 注 F x 也可换成概率密度或分布律 估计未知参数所在的范围的方法称为区间估计 单正态总体参数的区间估计 1 2已知 估计 2 2 1 可取 1 1 的置信度为1 的置信区间为 注 的1 置信区间不唯一 都是 的1 置信区间 但可以证明 1 2时区间长最短 1 根据实际问题构造样本的函数 要求仅含待估参数且分布已知 2 令该函数落在由分位点确定的区间里的概率为给定的置信度1 要求区间按几何对称或概率对称 3 解不等式得随机的置信区间 4 由观测值及 值查表计算得所求置信区间 求正态总体参数置信区间的解题步骤 例2若灯泡寿命服从正态分布 N 8 从中抽取了10个进行寿命实验 得数据如下 单位 小时 试估计平均寿命所在范围 a 0 05 解 已知总体方差 2 估计总体期望 对于给定的 查表确定 解 已知总体方差 2 估计总体期望 对于给定的 0 05 查表确定 根据样本值计算 的置信度为1 0 95的置信区间是 1145 25 1148 75 例3已知某炼铁厂的铁水中含碳量在正常情况下服从正态分布 其方差 2 0 1082 现在测定了9炉铁水 其平均含碳量为4 484 按此资料计算该厂铁水平均含碳量的置信区间 并要求有95 的可靠性 解 已知总体方差 2 估计总体期望 对于给定的置信系数1 0 95 查表确定 根据样本值计算 的置信系数为1 0 95的置信区间是 4 413 4 555 2 总体方差 2未知 估计期望 m的1 a置信区间为 1 即得 2 2 例4假定初生婴儿 男孩 的体重服从正态分布 随机抽取12名婴儿 测其体重为3100 2520 3000 3600 3160 3560 3320 2880 2600 3400 2540 试以0 95的置信系数估计新生婴儿的平均体重 单位 g 解 方差 2未知 估计 的置信区间 对于给定的 查表确定 的置信度为0 95置信区间是 根据样本值计算 对于给定的置信系数1 0 95 查表确定 3 单正态总体方差的置信区间 假定m未知 估计 2 s2的置信度为1 的置信区间为 例5根据例4测的数据对新生男婴儿体重的方差进行区间估计 0 05 解 未知 估计方差 2的置信区间 对于给定的 0 05 查表确定 则s2的置信度为1 的置信区间为 70752 405620 4 双正态总体均值差的置信区间 可解得 1 2的置信区间 5 双正态总体方差比的置信区间 假定 1 2未知 一 点估计 1 矩法估计2 最大似然估计 二 区间估计 1 已知总体方差 2 估计期望 2 未知总体方差 2 估计期望 3 未知总体期望 估计方差 2 4 双正态总体均值差的置信区间 5 双正态总体方差比的置信区间 总结 小结