《参数的点估计》PPT课件.ppt

第七章: 参数估计,统计推断的基本问题可以分为两类，一类是估计问题，另一类是假设检验问题，本章讨论总体参数的点估计和区间估计。,7.1 参数的点估计,参数估计就是从样本出发，去构造一个统计量，作为总体中未知参数的一个估计量。,设总体X的分布函数的形式已知，但它的一个或多个参数未知，借助于总体X的一个样本来估计总体中未知参数值的问题称为参数的点估计问题。,引例,解,用样本均值来估计总体的均值 E(X).,点估计问题的一般提法,矩估计是基于“替换”思想建立起来的一种参数估计方法 。最早由英国统计学家 K. 皮尔逊 提出。,7.1.1 矩估计,其思想是: 用同阶、同类的样本矩来估计总体矩。,在引例中，我们以样本均值作为总体均值的估计量，也就是以样本的一阶矩作为总体一阶矩的估计量，这种做法实际上就是矩估计法。,矩估计就是用相应的样本矩去估计总体矩。,总体的k阶原点矩为,样本的k阶原点矩为,总体的k阶中心矩为,样本的k阶中心矩为,设总体 X 的分布函数中含 k 个未知参数：,步骤一：记总体 X 的 m 阶原点矩 E(Xm)为 m , m = 1,2,k.,am(1,2,k), m =1, 2, , k.,一般地, m (m = 1, 2, , K) 是总体分布中参数或参数向量 (1, 2, , k) 的函数。,故, m (m=1, 2, , k) 应记成:,步骤二：算出样本的 m 阶原点矩,步骤三：令,（1）式是包含k个未知参数 1,2,k 的联立方程组。,步骤四：解方程组(1), 并记其解为,这种参数估计法称为参数的矩估计法，简称矩法。,这种估计量称为矩估计量。矩估计量的观察值称为矩估计值.,解：先求总体的一阶矩，即期望,例1：设总体 X 的概率密度为,由矩法，令,样本矩,总体矩,解得,为 的矩估计。,注意：要在参数上边加上“”， 表示参数的估计。它是统计量。,解: 先求总体的均值和 2 阶原点矩。,例2：设 X1,X2,Xn 是取自总体 X 的简单样本, X 有概率密度函数,令y=(x- )/,令y=(x- )/,用样本矩 估计总体矩,得,列出方程组:,例3：设总体X的均值为，方差为 2，求 和 2 的矩估计。,解：由,故，均值,方差2的矩估计为,求解，得,如：正态总体N( , 2) 中 和2的矩估计为,又如：若总体 X Ua, b，求a, b的矩估计。,解：,解上述方程组，得到 a,b 的矩估计:,(课本P108例7.3),矩估计的优点是：简单易行, 不需要事先知道总体是什么分布。,缺点是：当总体的分布类型已知时，未充分利用分布所提供的信息.此外，一般情形下，矩估计不具有唯一性.,比如Xp()， 的矩估计不唯一。,7.1.2 极大似然估计,1.极大似然估计的基本思想,引例：袋中有4只球，只有白颜色和黑颜色两种现用放回方式取球3次，每次任取1只球，记取得的3只球中白颜色球数为X显然XB(3， /4），其中 为袋中的白球数，显然 的取值范围为=1，2，3，如果试验结果是取到了2只白球，应如何估计参数 ？（课本P109例7.6),解：对于 的不同值，事件X=2有不同的概率：,针对中的不同 值，分别计算L( )的值，列成下表：,由于事件X=2已经发生，自然认为事件X=2发生的概率最大,从表中看到，使事件X=2出现概率最大的 值为3，可把3作为参数 的估计值,综上所述，设总体分布中未知参数 的值可能是有限个或无穷多个，它们的集合称为参数空间，记为,极大似然估计的基本思想就是：若事件A发生的概率依赖于未知参数 ，如果观察到事件A已经发生,那么就在参数空间内选取参数 的估计值，使A发生的概率最大,2. 极大似然估计法,令,L()随着 的不同而变化，它是 的函数，称L()为似然函数。,基于上述极大似然估计的基本思想，可以选取 的,估计值,使概率L()达到最大值，即,称为参数的极大似然估计值。,称为参数的极大似然估计量。,为似然函数，若有,使,称,为 的极大似然估计值，。,3.求极大似然估计量的步骤,（X为离散型）,（X为连续型）,极大似然估计法也适用于分布中含有多个未知参数的情况. 此时只需令,对数似然方程组,对数似然方程,例1 有一批产品，次品率为p，从中随机抽 取100件产品，其中有10件次品，试估计p的值,解 若正品用“X=0”表示，次品用“X=1”表示，则总体X的概率分布为：,则似然函数为,（p110例7.7）,解得，,易验证， 是lnL(p)的最大点，因此，p的极 大似然估计值为,取对数得，,对 p 求导，并令其等于零，得,时有时较繁琐.,一解时，我们就简单地把这组解作为参数的极,似然方程组或（似然对数方程组）的解,只是似然函数的驻点，还不一定是最大点，即,还不一定是极大似然估计值，需要验证，验证,当似然方程组或（似然对数方程组）有唯,大似然估计值，而不再验证。,说明,解,例2,这一估计量与矩估计量是相同的.,令,解,似然函数为,例3,令,即,与相应的矩 估计量相同,例4 设 X Ua, b，求 a, b 的极大似然估计.,解 X的概率密度为,似然函数为,似然函数在其不为零处不存在驻点，不能通过解似然方程组得到参数的极大似然估计,记,似然函数为,a,b的极大似然估计值分别为,a,b的极大似然估计量分别为,与相应的矩 估计量不同,解：似然函数为,例5 设 X1, X2,Xn 是抽自总体 X 的一个样本，X 有如下概率密度函数,其中 0为未知常数，求 的极大似然估计。,求导并令其导数等于零，得,解上述方程，得,当 时，,例6 设总体X的分布律为,1 2 3,X,p,其中 (0 1)为未知参数.利用样本值1，2，1， 求 的矩估计值和极大似然估计值.,解: （1）先求矩估计,所以 的矩估计值为,（2）求极大似然估计,似然函数为,令,练习:总体XB(m,p), p未知，,是样本,求参数p的矩估计量与极大似然估计量.,解（1）矩估计量,（2）极大似然估计,X的分布律为,设,是样本值，,似然函数为,令,p的极大似然估计量为,求指数分布中参数的矩估计与极大似然估计.,