概率论与数理统计62-估计量的评价标准课件

单击此处编辑母版标题样式,第二节,估计量的评价标准,一、问题的提出,二、无偏性,三、有效性,四、相合性,第六章,第二节 估计量的评价标准一、问题的提出二、无偏性三、有效,一、问题的提出,从前一节可以看到,对于同一个参数,用不同的估计方法求出的估计量可能不同,.,然而,原则上任何统计量都可以作为未知参数的估计量.,问题,(1),对于同一个参数究竟采用哪一个估计量好?,(2),评价估计量优劣的标准是什么?,下面介绍几个常用标准.,一、问题的提出 从前一节可以看到,对于同一,下面介绍几个常用标准：,1）无偏性；,2）有效性；,3）最小方差无偏估计,4,）相合性.,下面介绍几个常用标准：1）无偏性；,二、无偏性,定义6.2,二、无偏性定义6.2,证,例,1,证例1,特别地,不论总体,X,服从什么分布,只要它的数学期望存在,特别地,不论总体 X 服从什么分布,只要它的数学期望存在,证,例,2,证例2,概率论与数理统计62-估计量的评价标准课件,分析,例,3,设总体,X,的方差,D,(,X,),存在，且,D,(,X,)0,(,X,1,X,2,X,n,),为来自总体,X,的样本，试选择适当的常数,C,，,使得,为,D,(,X,),的无偏估计.,需选择,C,，,使,分析例3 设总体X的方差D(X)存在，且 D(,而,X,1,X,2,X,n,相互独立，且与,X,同分布,解,而X1,X2,Xn 相互独立，且与X 同分,依题意，要求：,依题意，要求：,注,一般地，一个参数,的无偏估计量,不唯一.,如：设样本(,X,1,X,2,X,n,),来自总体,X,，,E,(,X,)=,也均是,的无偏估计.,问题：,对于同一个参数的多个无偏估计量，如何评价它们的优劣？,注一般地，一个参数 的无偏估计量不唯一.如：设样本(X1,三、有效性,换句话说，,的波动越小，即方差,越小越好.,三、有效性换句话说，的波动越小，即方差越小越好.,定义6.3,例4,来自总体,X,的样本，问：下列三个对,的无偏估计量哪一个最有效？,定义6.3例4来自总体X的样本，问：下列三个对 的无偏估计,解,注,一般地，在,的,无偏估计量,可用求条件极值的拉格朗日乘数法证明,解注一般地，在 的无偏估计量可用求条件极值的拉格朗日乘数法,(1)证,例,5,(1)证例5,概率论与数理统计62-估计量的评价标准课件,概率论与数理统计62-估计量的评价标准课件,解,解,概率论与数理统计62-估计量的评价标准课件,背景,随机抄,n,个自行车的号码，由这,n,个号码来估计某市市区的自行车总数,N,.,如：样本值 100,1000,10000,100000,1000000.,可算得：,背景 随机抄n个自行车的号码，由这n个号码来,四、,最小方差无偏估计量,定义,注,最小方差无偏估计是一种最优估计.,问题：,无偏估计的方差是否可以任意小?如果不能任意小,那么它的下界是什么?,四、最小方差无偏估计量定义注最小方差无偏估计是一种最优估计,定理,*,6.1(Rao-Cramer,不等式),设,是实数轴上的一个开区间,总体,X,的分布密度为,p,(,x,;,),是来自总体,X,的一个样本,是参数,的一个无偏估计量,且满足条件:,定理*6.1(Rao-Cramer不等式)设,概率论与数理统计62-估计量的评价标准课件,上不等式的右端称为罗-克拉美下界,I,(,),称为,Fisher,信息量.,注,(1),I,(,),的另一表达式为,(2),定理6.1对离散型总体也适用.,由此,根据定理6.1,求证,的步骤为,是,的最小方差无偏估计,根据定理6.1,若参数,的无偏估计量,的方差,达到下界,则,必为,的最小方差无偏估计.,上不等式的右端称为罗-克拉美下界,I()称为注(1),概率论与数理统计62-估计量的评价标准课件,概率论与数理统计62-估计量的评价标准课件,概率论与数理统计62-估计量的评价标准课件,3.有效估计,定义6.4,定义6.5,3.有效估计定义6.4定义6.5,说明,(2)求有效估计的方法和求,MVUE,的方法完全一样.,说明(2)求有效估计的方法和求MVUE的方法完全一样.,概率论与数理统计62-估计量的评价标准课件,所以,所以,五、相合性,例如,定义6.6,相合估计量(或一致,估计量,).,五、相合性例如定义6.6相合估计量(或一致估计量).,证,(1)由大数定律知,例,6,证(1)由大数定律知,例6,由大数定律知,由大数定律知,通过此例题,我们看到,要证明一个估计量具有相,合性,必须证明它依概率收敛,这有时很麻烦.因此,我们,下面我们不加证明的给出一个相合性的判定定理.,通过此例题,我们看到,要证明一个估计量具有相,概率论与数理统计62-估计量的评价标准课件,例,6.19,若总体 的 和 存在,则样,本均值是总体均值 的相合估计,.,解,：,一般地,样本的 阶原点矩 是总体,的 阶原点矩 的相合估计,.,由此可见,矩,估计往往是相合估计,.,例 6.19 若总体 的 和,例,6.20,设总体 的二阶矩存在,是总体 的样本,试证,是总体均值 的相合估计,.,证明,：,例6.20 设总体 的二阶矩存在,所以 是 的相合估计,所以 是 的相合估计,六、小结,估计量的评选的四个标准，但要求一下三个标准,无偏性,有效性,相合性,相合性是对估计量的一个基本要求,不具备相合性的估计量是不予以考虑的.,由最大似然估计法得到的估计量,在一定条件下也具有相合性.估计量的相合性只有当样本容量相当大时,才能显示出优越性,这在实际中往往难以做到,因此,在工程中往往使用无偏性和有效性这两个标准.,六、小结估计量的评选的四个标准，但要求一下三个标准无偏性有效,本 节 结 束！,本 节 结 束！,证,例,5,证例5,由以上两例可知,一个参数可以有不同的无偏估计量,.,由以上两例可知,一个参数可以有不同的无偏估计量.,证明,例,6,(,续例,5),证明例6 (续例5),