概率论与数理统计第五章课件

单击此处编辑母版标题样式,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,第五章 大数定律和中心极限定律,大数定律 概率论中有关阐明,大量随机现象,平均结果的稳定性,的一系列定理。,迄今为止,人们已发现,很多,大数定律,(laws of large numbers)所谓大数定律，,简单地说，就是大量数目的随机变量所呈现出的规律，,这种规律一般用随机变量序列的某种收敛性来刻画。,本章仅介绍几个最基本的大数定律。,51大数定律,第五章 大数定律和中心极限定律 大数定律,大数定律,在叙述大数定律之前，首先介绍两个基本概念,定义5.1,设 为一个随机变量序列，记为,，若对任何,n,2，随机变量 都相互独立,，则称 是,相互独立的随机变量序列,。,定义5.2,设 为一随机变量序列，,X,为一随机变量,或常数，若对任意,0，有,则称,依概率收敛于,X,记为,或 ，（）.,下面是一个带普遍性结果的大数定律。,大数定律,定理1（,切比雪夫大数定律）设独立随机变量,分别有数学期望及方差，,且D（X,i,）C（C,为常数，,i =1，2，）,则对任意,（0），恒有,或,（P123）,（5-3）,定理1（切比雪夫大数定律）设独立随机变量分别有数学期望及,证明 因 为独立随机变量序列，故,根据切比雪夫不等式可得,证明 因 为独立随机变量序列，故,利用计算极限的夹逼准则可知，上式成立。,本结果由俄国数学家切比雪夫于1866年证明，是关于大数定律的普遍结果，许多大数定律的古典结果都是它的特例.,切比雪夫大数定律表明，当n 很大时，X,1,，X,2,，,，X,n,的算术平均值,的取值，集中,在其数学期望,附近。,利用计算极限的夹逼准则可知，上式成立。,推论 设独立随机变量,服从同一,分布，且有数学期望,及方差,，,则对于,任意,（0），恒有,（5-4）,即,当n 很大时，,推论 设独立随机变量服从同一分布，且有数学期望 及方差,设,为,n,次独立试验中事件A发生的次数，,p,是A在,一次试验中发生的概率，则对任意,（0），恒有,设 为n 次独立试验中事件A发生的次数，p是A在一次试,定理2（贝努利大数定律）,设,为,n,次独立试验中事件A发生的次数，,p,是A在,一次试验中发生的概率，则对任意,（0），恒有,（其中 为A 发生的频率。）,贝努利大数定律说明了,当重复独立试验次数,n 很大时，频率与其概率之差可为任意小，,即说明了其,频率的稳定性,。,定理2（贝努利大数定律）设 为n 次独立试验中事件A,概率论与数理统计第五章课件,推论1,使我们关于算术平均值的法则有了理论上的依据。如我们要测量某段距离，在相同条件下重复进行n次，得n个测量值 ，它们可以看成是,n,个相互独立的随机变量具有相同的分布、相同的数学期望,和方差 ，由推论1的大数定律知，只要,n,充分大，则以接近于1的概率保证,这便是在,n,较大情况下反映出的客观规律,故称为“大数”定律。比推论1条件更宽的一个大数定律是,辛钦,（Khintchine）,大数定律,它不需要推论1条件中“方差 存在”的限制，而在其它条件不变的情况下，仍有（5-4）式的结论。,推论1使我们关于算术平均值的法则有了理论上的依据。如我们要测,人们已经知道，在自然界和生产实践中遇到大量随机变量都服从或近似服从正态分布，正因如此，正态分布占有特别重要的地位。那么，如何判断一个随机变量服从正态分布显得尤为重要。如经过长期的观测，人们已经知道，很多工程测量中产生的误差,X,都是服从正态分布的随机变量。分析起来，造成误差的原因有仪器偏差,X,1、大气折射偏差,X,2,温度变化偏差,X,3、估读误差造成的偏差,X,4等等，这些偏差,Xi,对总误差 的影响都很微小，没有一个起到特别突出的影响，虽然每个,Xi,的分布并不知道，但 却服从正态分布。类似的例子不胜枚举。,52中心极限定理,人们已经知道，在自然界和生产实践中遇到大量随机变量,.（5-6）,在什么条件下，,这是十八世纪以来概率论研究的中心课题，因而，从二十世纪二十年代开始，习惯上把研究随机变量和的分布收敛到正态分布的这类定理称为,中心极限定理,（Central Limit Theorems）。,设 为一随机变量序列，其和的标准化随机变量,设 为一随机变量序列，其和的标准化随机变量,52中心极限定理,中心极限定理 概率论中有关论证,独立随机,变量的和的极限分布是正态分布,的一系列定理。,独立同分布的中心极限定理 德莫佛拉普拉斯中心极限定理,（常用）,(林德贝格-列维,中心极限定理,52中心极限定理 中心极限定理 概率论,定理1（独立同分布的中心极限定理）,设独立随机变量,服从同一,分布，且有数学期望E（）=,及方差D（）=,，,则对于,任意,（0），,恒有,（P122）,(林德贝格-列维,中心极限定理),定理1（独立同分布的中心极限定理）设独立随机变量服从同一分布,等价的描述：,当n很大时有如下结论：,等价的描述：当n很大时有如下结论：,定理1：独立同分布的中心极限定理的常用形式,当n很大时，,定理1：独立同分布的中心极限定理的常用形式当n很大时，,定理2（德莫佛拉普拉斯中心极限定理）,设随机变量,则对于,任意区间（a,b)，恒有,E（）=,np,D（）=,p(1-p),（两点分布）,D（）=,np(1-p),（二项分布）,之和,定理2（德莫佛拉普拉斯中心极限定理）设随机变量则对于任意区,下面的图形表明:正态分布是二项分布的逼近.,下面的图形表明:正态分布是二项分布的逼近.,概率论与数理统计第五章课件,中心极限定理的意义,在后面的课程中，我们还将经常用到中心极限定理.,中心极限定理是概率论中最著名的结果之一，它不仅提供了计算独立随机变量之和的近似概率的简单方法，而且有助于解释为什么很多自然群体的经验频率呈现出钟形曲线这一值得注意的事实.,中心极限定理的意义 在后面的课程中，我们还将经常用到,关于这些近似公式的使用，现作如下说明：,（1）注意到 ，则推论表明，对固定的,p,和较大的,n,，二项分布可用正态分布逼近；,（2）“较大的,n,”是一个较为模糊的概念，究竟多大才是较“大”要依据实际问题来定。一般地,如果,n,50（有时亦可放宽到,n,30），就可认为是较大的,n,；,（3）第二章泊松定理表明，当,p,很小（可设想成,p,随,n,的变化趋于0）、,n,较大且,np,不太大时，二项分布可用泊松分布逼近。在实际中，当,p,0.1、,n,较大且,np,5时，常用泊松分布(见附表1)逼近二项分布；当,n,较大且,np,5时，常用正态分布做二项分布的近似计算。,关于这些近似公式的使用，现作如下说明：,最后，我们指出大数定律与中心极限定理的区别：设 为独立同分布随机变量序列，且 ,则由定理5.1的推论1，对于任意的,0有,.大数定律并未给出 的表达式,但保证了其极限是1.,而在以上条件下，中心极限定理5.2（林德伯格莱维）亦成立,.,最后，我们指出大数定律与中心极限定理的区别：设,由于,因此，在所给条件下，中心极限定理不仅给出了概率的近似表达式，而且也能保证了其极限是1，可见中心极限定理的结论更为深入。,这时，对于任意的,0及某固定的,n,，有,由于,概率论与数理统计第五章课件,概率论与数理统计第五章课件,概率论与数理统计第五章课件,概率论与数理统计第五章课件,概率论与数理统计第五章课件,例 计算机进行加法计算时，把每个加数取为最,接近于它的整数来计算，设所有的取整误差是相互,独立的随机变量，并且都在区间-05，05上服从,均匀分布，求：,（1）1200个数相加时误差总和的绝对值小于,10的概率；,（2）多少个数相加时可使误差总和的绝对值,小于10 的概率大于09？,解 设,表示取整误差，则,在区间-05，05上,服从均匀分布，,于是有,例 计算机进行加法计算时，把每个加数取为最,概率论与数理统计第五章课件,概率论与数理统计第五章课件,B（,20000，0.0005）,B（20000，0.0005）,概率论与数理统计第五章课件,概率论与数理统计第五章课件,P126,3,5,6,7,P126,概率论与数理统计第五章课件,36,概率论与数理统计第五章课件,37,