资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,2014,概率论与数理统计,不像其他科学，统计从来不打算使自己完美,无缺，统计意味着你永远不需要确定无疑。,Gudmund,R.Iversen,【,统计名言,】,1,第七章 参数估计,2,在数理统计中经常要根据,样本,来对,总体的种种统计特征,做出判断。实际工作中碰到的问题大致分为两类：,一是,总体的分布往往可以根据经验来判断其类型 ，但确切的形式并不知道，亦即,总体的参数 未知,；,二是,在某些情况下，所关心的并不是总体的分布，而只是,总体的某些数字特征,，特别是数学期望和方差。因此，,要根据样本来估计总体的参数，这类问题称为参数估计,。,参数估计的方法：,点估计,和,区间估计,。,估计量,：用于估计总体参数的随机变量,如,样本均值,，,样本方差,等,【,例如,】,样本均值就是总体均值,的一个估计量,参数用,表示，估计量,用 表示,估计值,：估计参数时计算出来的统计量的具体值,如果样本均值,x,=80,，则,80,就是,的估计值,【,参数估计的相关概念,】,3,7.,1,点估计,一、点估计的概念,4,点估计是指把总体的未知参数估计为,某个确定的值,或在,某个确定的点,上.,点估计的方法有很多，本节主要介绍,:,矩,法,和,极大似然估计法,.,二、矩法,其基本思想是,用样本矩,估计,总体矩,.,理论依据,:,它是基于一种简单的“,替换,”思想建立起来的一种估计方法,.,是英国统计学家,K,.,皮尔逊最早提出的,.,大数定律,记总体,k,阶原点矩为,样本,k,阶原点矩为,记总体,k,阶中心矩为,样本,k,阶中心矩为,5,其中 为待估参数,.,1,、矩法的一般做法,设已知总体,（,1,）设总体,X,的,k,阶矩,均存在,则,（,2,）设来自总体,X,样本的,k,阶矩,其中,（,3,）令,总体的,k,阶矩分别与样本的,k,阶矩相等,即,6,这是含待估参数 的,联立方程组,，其解,可作为待估参数 的,矩估计量,其观察值为待估参数的,矩估计值,.,7,【,例,1,】,已知总体,X,的概率密度为,:,其中 未知，样本为 ，求参数 的矩法估计,.,【,解,】,只有一个参数 ，因此只需一个方程即可,.,而,因此有,解得,用样本,1,阶矩“,代替,”总体,1,阶矩，即,8,方程组为,【,解,】,估计两个参数需要两个方程，即,分别用样本,1,、,2,阶矩,“代替”,总体,1,、,2,阶矩,.,【,例,2】,而,另外又有,因此有方程组,9,解得参数的矩估计量分别为：,10,【,练习,】,已知总体,X,的概率密度为,:,解,因为总体一阶矩,其中未知参数,0,求,的矩估计量,.,由,11,故所求,矩估计量,为：,即,解得,:,12,【,例,3】,在某班期末数学考试成绩中随机抽取,9,人的成绩,.,结果如下表所示，试求该班数学成绩的平均分数，标准差的,矩估计值,.,序号,1,2,3,5,9,8,7,6,4,分数,94,89,63,65,71,75,78,85,55,而样本,1,、,2,阶矩分别为,【,解,】,设,X,为该班数学成绩，,而总体,X,的,1,、,2,阶矩为,13,解得参数的矩估计量分别为：,14,【,练习,】,求服从二项分布,b,(,m,p,),的总体,X,未知参数,p,的矩估计量,.,解,单参数，离散型,.,由,即,故所求,矩估计量,为：,因为 所以总体,X,的一阶矩,(,期望,),为,15,矩法的优点,是简单易行,并不需要事先知道总体是什么分布。,缺点,是，当总体类型已知时，没有充分利用分布提供的信息。一般场合下,矩估计量不具有唯一性。,其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性。,16,三、,极大似然估计法,极大似然估计法是在,总体的分布类型已知,的条件下所使用的一种参数估计方法,.,它首先是由德国数学家,高斯,在,1821,年提出,.,Gauss,Fisher,然而这个方法常归功于英国统计学家,费歇,.,费歇,在,1922,年重新发现了这一方法，并首先研究了这种方法的一些性质,.,17,【,例子,】,是谁击中的野兔,你会怎样想,?,若让你推测一下，,一只野兔从前方窜过，,只听一声枪响，野兔应声倒下,.,某同学与一位猎人一起外出打猎。忽然，,极大似然估计法是基于,极大似然原理,提出的。为了说明,极大似然原理,我们先看个例子。,18,你会想：只一枪便击中,一般情况下猎人击中的概率比同学击中的概率大。,故，这一枪极大可能是猎人打的。,你的这一想法中就已经包含了,极大似然估计法,的基本思想,.,为了进一步体会,极大似然估计法,的思想,我们再看一个例子,.,19,【,例如,】,有一事件,A,，我们知道它发生的概率 只可能是,:,p,=0.1,，,0. 3,或,0.6,若在一次观测中，事件,A,竟然发生了，,你自然会认为事件,A,发生的概率是,0.6,，而,非其他数值。,【,极大似然原理,】,概率大的事件在一次观测中更容易发生。,试让你推想一下 应取何值,?,由上述两例可知，极大似然估计法是要选取这样的 ，当它作为估计值时，使观测结果出现的可能性最大，即概率最大,.,20,设,X,为离散型总体，其分布律为：,对来自总体,X,的样本（,X,1,X,2,X,n,），若,在极大似然估计法中，关键的问题是求似然函数。下面分别就离散型总体与连续型总体介绍似然函数的求法。,1,、似然函数,（,1,）,离散型,总体,似然函数,的定义,为,其观测值，样本的联合分布律为,:,称 为样本的,似然函数,。,21,（,2,）连续型,总体,似然函数,的定义,设,X,为连续型总体，其概率密度为：,对来自总体的样本,其观测值为,样本的联合概率密度为,:,其中 未知,称 为样本的,似然函数,。,22,23,极大似然法求估计量的步骤：,24,【,解,】,的似然函数为：,取对数,【,例,4】,设,(,X,1,X,2,X,n,),是来自总体,X,的一个样本,求,的极大似然估计量,25,求导并令其为,0,:,=,0,从中解得,即为,的极大似然估计值。,26,【,例,5,】,在泊松总体中抽取样本，其样本值为,试对泊松分布的未知参数 作极大似然估计,.,【,例,6,】,设总体,X,服从 上的均匀分布，求未知参数,的极大似然估计量,.,27,【,练习,】,设,X,1,X,2,X,n,是取自总体,X,b,(1,p,),的一个样本，求参数,p,的最大似然估计值,.,对数似然函数为：,对,p,求导并令其为0，,得,即为,p,的,MLE .,【,解,】,P(,X,i,=,x,i,)=p,x,i,(1-p),1-,x,i,似然函数为,:,28,作业：,2, 4,29,
展开阅读全文