最大似然估计课件

1第十四讲第十四讲 参数估计参数估计 本次课结束第五章并讲授第六章点估计本次课结束第五章并讲授第六章点估计 下次课讲授区间估计并结束第六章，讲下次课讲授区间估计并结束第六章，讲授第七章假设检验第一节授第七章假设检验第一节 下次上课时交作业：下次上课时交作业：P61P62 重点：点估计重点：点估计 难点：点估计的计算难点：点估计的计算2服从正服从正 态分布态分布1.样本均值样本均值即即2.统计量统计量3.统计量统计量五、单个正态总体统计量的分布五、单个正态总体统计量的分布 定理定理:设总体设总体 4.4.统计量统计量第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识3设总体设总体抽取容量为抽取容量为9的样本，求样本均值的样本，求样本均值 与总体与总体 之差的绝对值小于之差的绝对值小于2的概率，如果的概率，如果（1）若已知）若已知=4;（2）若）若未知未知,但已知样本方差的观测值但已知样本方差的观测值例例题13-5-1解解（1）第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识4（2）397.1)8(10.0=t（1）设总体设总体 抽取容量为抽取容量为16的样本的样本（2）例例题13-5-2第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识5(2)解解(1)第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识6五、两个正五、两个正五、两个正五、两个正态总态总体的体的体的体的统计统计量的分布量的分布量的分布量的分布 从总体从总体X 中抽取容量为中抽取容量为 的样本的样本 从总体从总体Y 中抽取容量为中抽取容量为 的样本的样本假设所有的试验都是独立的，所以样本假设所有的试验都是独立的，所以样本及及 都是相互独立的都是相互独立的.样本均值：样本均值：样本方差：样本方差：第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识定理定理6 6 设总体设总体 则则7第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识推论推论 设总体设总体 则则定理定理7 7 设总体设总体则则其中其中 8 统计量量U与与也是独立的。也是独立的。第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识9定理定理8 8 设总体体则则第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识定理定理9 9 则则设总体设总体10P2第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识例例题13-5-111第十三讲：中心极限定理数理统计基本知识第十三讲：中心极限定理数理统计基本知识解解（1）（2）12例：例：若若总体体X的分布函数的分布函数为F(x,)，而，而未知，如何利用未知，如何利用总体体样本本对进行估行估计。取取样本的一个函数本的一个函数则称称未知参数未知参数的估的估计值，是是的点估的点估计量。量。定义：定义：如果以它的如果以它的观测值作作为而称其而称其观测值是是的点估的点估计值。背景：背景：若若总体体X的分布的分布类型已知，而未知的型已知，而未知的仅仅是其中的一个或是其中的一个或几个参数，如何几个参数，如何对总体分布的参数作出估体分布的参数作出估计。参数估计参数估计一、点估计一、点估计1.参数估参数估计定定义第十四讲第十四讲 参数估计参数估计13 2.求点估求点估计值的方法的方法矩估矩估计法法为X 的的 k 阶原点矩。原点矩。复复习矩定矩定义：设X是随机是随机变量，量，则称称第十四讲第十四讲 参数估计参数估计14例例题14-1-1解：因解：因为总体体X的概率密度的概率密度第十四讲第十四讲 参数估计参数估计15因此解得因此解得的矩估计量的矩估计量 而而的矩估计值就是的矩估计值就是 设总体设总体X服从正态分布服从正态分布 ,其中其中及及 是未知参数。是未知参数。如果取得样本观测值为如果取得样本观测值为 ,求参数求参数及及 的矩估计值。的矩估计值。例例题14-1-2第十四讲第十四讲 参数估计参数估计16注注得得 及及 的矩估计值为的矩估计值为 3.求点估求点估计值的方法的方法最大似然法最大似然法第十四讲第十四讲 参数估计参数估计17第十四讲第十四讲 参数估计参数估计18（3）求似然函数）求似然函数L()的最大的最大值.第十四讲第十四讲 参数估计参数估计19设总体设总体X服从泊松分布服从泊松分布 P(),其中其中为未知参数。如果取得为未知参数。如果取得样本观测值为样本观测值为 ，求参数，求参数 的矩（最大似然）估计值。的矩（最大似然）估计值。例例题14-1-3得得的矩估的矩估计值为（1）令令（2）似然函数似然函数 令令得得 的极大似然估的极大似然估计值为第十四讲第十四讲 参数估计参数估计20设总体设总体X服从指数分布，概率密度为服从指数分布，概率密度为求参数求参数 的矩（最大似然）估计值的矩（最大似然）估计值.其中其中 为未知参数。如果取得样本观测值为为未知参数。如果取得样本观测值为 例例题14-1-4(2)似然函数似然函数 解解（1）令令得得 的矩估计值为的矩估计值为第十四讲第十四讲 参数估计参数估计令令21解：（解：（1）矩估）矩估计：第十四讲第十四讲 参数估计参数估计得得 的最大似然估计值为的最大似然估计值为14-1-5.（02,7分）分）设总体体X的概率分布的概率分布为：利用利用总体体X的如下的如下样本：本：3,1,3,0,3,1,2,3,求求 的矩估的矩估计值和和最大似然估最大似然估计值。22第十四讲第十四讲 参数估计参数估计23（2）最大似然估）最大似然估计：.第十四讲第十四讲 参数估计参数估计24 二、衡量点估二、衡量点估计量好坏的量好坏的标准准(1)无偏性无偏性为的的无偏估无偏估无偏估无偏估计计量量量量。则称称 定定义 证证 样本均值样本均值 是总体均值是总体均值的无偏估计值的无偏估计值 结论结论1 第十四讲第十四讲 参数估计参数估计25 是是的无偏估计值，的无偏估计值，证证结论结论2 2 第十四讲第十四讲 参数估计参数估计26例例14-2-1 测得自得自动车床加工的床加工的10个零件的尺寸与个零件的尺寸与规定尺寸的偏差定尺寸的偏差(mm)如下：如下：+2，+1，-2，+3，+2，+4，-2，+5，+3，+4，求零件尺寸偏差求零件尺寸偏差总体的均体的均值及方差的无偏估及方差的无偏估计值.解：根据无偏估计的两个重要结论：解：根据无偏估计的两个重要结论：（2）有效性）有效性问题：问题：第十四讲第十四讲 参数估计参数估计27如果如果 则称则称 较较 有效有效.设设及及都是都是的无偏估计量，的无偏估计量，的值最小，则称的值最小，则称 是是 的的有效估计值有效估计值有效估计值有效估计值。如果对于给定的样本容量如果对于给定的样本容量n，定义：定义：方法：方法：及及 都是都是的无偏估计量，但是的无偏估计量，但是 例例:（3）一致性（相合性）一致性（相合性）要求：要求：当当样本容量本容量 n 无限增大无限增大时，估，估计量能在某种意量能在某种意义下充分下充分接近被估接近被估计的参数的参数.第十四讲第十四讲 参数估计参数估计28定义定义 切比雪夫定理推论切比雪夫定理推论切比雪夫定理推论切比雪夫定理推论 样本方差样本方差 是总体方差是总体方差 的一致估计量的一致估计量.结论结论2 2 证证第十四讲第十四讲 参数估计参数估计29当当 n时，时，例例题14-2-2第十四讲第十四讲 参数估计参数估计30第十四讲第十四讲 参数估计参数估计31第十四讲第十四讲 参数估计参数估计32第十四讲第十四讲 参数估计参数估计33三、正三、正态总体参数的区体参数的区间估估计1.背景：背景：第十四讲第十四讲 参数估计参数估计34三、正三、正态总体参数的区体参数的区间估估计第十四讲第十四讲 参数估计参数估计35 置信区置信区间表示估表示估计结果的精确性，果的精确性，而置信水平而置信水平则表示表示这一一结果的可靠性。果的可靠性。数数的置信区的置信区间，称，称为参数参数的的区区间估估计。对于已于已给的置信水平的置信水平1-，根据，根据样本本观测值来确定未知参来确定未知参 (1)设总体体X已知已知求参数求参数的置信区的置信区间。样本函数本函数则对于于给定的定的，引，引进临界界值3.正正态总体均体均值的区的区间估估计(已已给置信水平置信水平1-)对于于给定的定的,数数可通可通过查附附录表表2求得求得.第十四讲第十四讲 参数估计参数估计36例如，当例如，当=0.05 时，有，有即即 查表得表得 注意注意 当自由度当自由度k 时，t 分布分布趋于于标准正准正态分布分布N(0,1),所以所以对于于给定的定的有有因此，因此，查 t 分布表可得分布表可得第十四讲第十四讲 参数估计参数估计37第十四讲第十四讲 参数估计参数估计38第十四讲第十四讲 参数估计参数估计39第十四讲第十四讲 参数估计参数估计40使得使得即即第十四讲第十四讲 参数估计参数估计41上式表明，上式表明，对应于置信水平于置信水平1-，总体均体均值的置信区的置信区间为这批零件直径的均批零件直径的均值对应于置信水平于置信水平0.95 及及 0.99 的置信的置信区区间。例例14-3-1 从一批零件中，抽取从一批零件中，抽取9个零件，个零件，测得其直径得其直径(毫米毫米)为19.7，20.1，19.8，19.9，20.2，20.0，19.9，20.2，20.3。设零件直径服从正零件直径服从正态分布分布 ,且已知且已知=0.21(毫米毫米),求求对于置信水平于置信水平1-=0.95，解解则=0.05，查附附录表表4得得 求置信区求置信区间，第一步要考察，第一步要考察总体分布是否正体分布是否正态，方差是否已，方差是否已知？如本例知？如本例总体正体正态，方差已知，此，方差已知，此时根据置信度求根据置信度求第十四讲第十四讲 参数估计参数估计42由由得置信区得置信区间为20.01-0.14 20.01+0.1419.8720.15即即第十四讲第十四讲 参数估计参数估计43由由所以，置信区所以，置信区间为:19.8320.19（毫米）（毫米）.同理，如果置信水平同理，如果置信水平1-=0.99，则=0.01，查附附录表表4得得 例例14-3-2 在上面的例子中，在上面的例子中，设未知未知，求零件均，求零件均值对应于置信于置信水平水平为0.95的置信区的置信区间已已给置信水平置信水平1-=0.95，则=0.05，第一，正第一，正态总体，方差未知，体，方差未知，则求出求出样本差本差s,先求先求解解查表得表得 第十四讲第十四讲 参数估计参数估计44自由度自由度 n=9-1=8，求得求得得置信区得置信区间为 19.8520.17（毫米）（毫米）.第二，将置信区第二，将置信区间所需要的数据列出所需要的数据列出第十四讲第十四讲 参数估计参数估计