各种分布白噪声

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,哈尔滨工业大学电子工程系,*,2024/10/9,哈尔滨工业大学电子工程系,1,3,、各种分布白噪声的产生,均匀分布白噪声的产生,1,、物理方法,2,、数学方法,线性同余法,、,联合法,、,反馈位移寄存器法,非均匀分布白噪声的产生,1,、理论方法,反变换法,、,舍选抽样法,、,复合法,、,变换法,、,查表法,2,、常用的连续分布及其产生,均匀分布,、,指数分布,、,正态分布,、,对数正态分布,、,威布尔分布,、,瑞利分布,3,、常用的离散分布及其产生,伯努利分布,、,离散均匀分布,、,几何分布,、,泊松分布,方再根，,计算机模拟和蒙特卡洛方法,，北京工业学院出版社，,1988.6,Wolfgang Hormann et al,Automatic Nonuniform Random Variate Generation, Springer, 2004,J.E. Gentle,Random Number Generation and Monte Carlo Methods, 2nd Ed, Springer, 2003,A.M. Law,Simulation Modelling and Analysis, 3rd Ed, McGraw-Hill, 2000,Tezuka, Shu,Uniform random numbers theory and practice, Kluwer Academic Publishers, 1995,Dagpunar, John.,Principles of random variate generation, Oxford : Clarendon Pr., 1988,Devroye, Luc.,Non-uniform random variate generation, New York : Springer-Verlag, c1986,上述图书,集中讨论不同分布随机数,（白噪声）,的产生,，系统而全面。,主要参考图书,蒙特卡洛方法的实现步骤,1,、构造或描述概率过程,2,、实现从已知概率分布抽样,由于各种概率模型都可以看作是由各种各样的概率分布构成的，因此产生已知概率分布的随机变量（或随机向量）就成为实现蒙特卡罗方法模拟实验的基本手段，这也是蒙特卡罗方法被称为随机抽样的原因。,3,、建立各种估计量,具有各种分布随机序列的模拟是计算机模拟及系统仿真的基础，广泛地应用于雷达、通信、声呐、机械振动、核物理、自动控制、金融分析、数值计算、贝叶斯统计等许多领域，例如雷达,/,声呐回波中的杂波和噪声的模拟、机械振动噪声的模拟、随机测量误差的模拟等。,各种分布白噪声产生的重要性,2024/10/9,哈尔滨工业大学电子工程系,4,均匀分布白噪声的产生,快速产生统计性质优良的,均匀随机数,是计算机模拟的基础，其他的非均匀分布都可将均匀分布通过非线性变换得到的。,物理方法,真随机数,所谓物理方法就是在电子计算机上装一台物理随机数发生器，它是把,具有随机性质的物理过程,直接在机器上变换为随机数字。例如：以放射性物质为随机源的放射型随机数发生器、以电子管或晶体的固有噪声为随机源的随机数发生器。主要的物理方法有：,放射性物质,、,电子管或晶体管噪声,、,锁相环噪声源,、,量子模型,、,混沌模型,特点：,可以在计算机上得到,真正的随机数,，但是它带来了新的问题。由于这种随机过程是一去不复返的，,不能重复出现,，因此就无法再用原来的随机数进行试算,、,检查,或对比分析,，并且,对设备要求较高,，从而大大降低了这类方法的使用价值。,2024/10/9,哈尔滨工业大学电子工程系,5,数学方法,伪随机数,在计算机上用数学方法产生随机数，是目前使用较广，发展较快的一种方法。它利用,数学递推公式,来产生随机数，通常把这样得到的随机数称为伪随机数。,由于这种方法属于半经验性质，只能近似地具备随机性质。但是只要产生伪随机数的递推公式选得较好，由此产生的随机数序列的独立性是可以近似得到满足的。而且只要公式的参数选得适当，就可以保证所得到的随机数,循环周期有足够长,。若所使用的随机数总数不超过伪随机数序列的循环周期时，使用要求即可得到满足。理论定量分析结果表明，为保证随机数学期望的最大容量（对应循环周期）、独立性及均匀性，递推公式及其有关参数的正确选择是极为重要的。,均匀分布白噪声的产生,数学方法,伪随机数,1,、线性同余法,(Linear Congruential Generators),式中 、 、 均为正整数，初值 （亦称种子数） ， 为乘子,时为,乘同余法,， 时为,混合同余法,1962,年,Hull,和,Dobell,给出了混合同余法达到最大周期,T,=,m,的充要条件：,(),c,与,m,互素；,(),对,m,的任意素因子,p,中，有,a,1 (mod,p,),(),若,4,是,m,的因子，则,a1 (mod 4),一般采用,m,=2,k,混合同,余法，则由以上条件可得最大周期,发生器,为：,式中,a,、,b,为任意正整数,2024/10/9,哈尔滨工业大学电子工程系,6,均匀分布白噪声的产生,2024/10/9,哈尔滨工业大学电子工程系,7,均匀分布白噪声的产生,数学方法,伪随机数,1,、线性同余法,(Linear Congruential Generators),均匀分布白噪声的产生,数学方法,伪随机数,1,、线性同余法,(Linear Congruential Generators),均匀分布,U0, 1,随机数的产生：,y,i,=a,y,i-1,+1 (mod 2,31,),式中乘子,a,取前面优选的,15,种数值中任一个，种子数,y,0,0,任选。,令,r,i,=y,i,/2,31,，则,R,就是,0, 1,上的均匀分布随机数,。,BASIC,、,C,、,MATLAB,中均有产生均匀分布随机数的函数可调用：,RND(),、,RAND(),、,UNIFRND(),2024/10/9,哈尔滨工业大学电子工程系,8,均匀分布白噪声的产生,数学方法,伪随机数,2,、联合法,（组合发生器）,混和同余法实际上是通过同余等运算打乱数列,0,，,1,，,，,m-1,的次序，来达到产生随机序列的目的。“打乱数列的次使之排列无规则”是设计发生器的一个可依据的原则，基于此产生联合法：,(1),两个发生器的组合,Greenwood,在,1976,年对两个混合同余法发生器使用组合方法，且两个发生器的模都简单地取成,2,k,，使组合后的发生器周期达到,2,k,(2,k,-1),。,(2) n,个发生器的组合,Salfi,于,1974,年提出了一个较好的算法。,注：,组合发生器并非先产生一些序列再将它们组合起来，而是在组合过程中，用到时再产生。基于“打乱次序”原则，也可以用单个发生器产生的随机数打乱同一发生器的输出序列，对此,Bays,和,Durham,在,1976,年提出一个算法。,2024/10/9,哈尔滨工业大学电子工程系,9,2024/10/9,哈尔滨工业大学电子工程系,10,均匀分布白噪声的产生,数学方法,伪随机数,3,、反馈位移寄存器法,（,FSR,：,Feedback Shift Register,）,实验表明用同余发生器得到的随机数构造的随机向量序列经常有明显的规律性。,1965,年,Tausworthe,提出用模,2,线性循环产生均匀随机数的方法。,Toothill,，,Robinson,和,Adams,于,1971,年给出了,FSR,发生器的另一种描述方法，适用于编制程序。,FSR,法的优点在于,算法简单，所产生随机数与具体的计算机及其字长无关,。,应用实例,：雷达相位编码信号的产生（伪随机码）,2024/10/9,哈尔滨工业大学电子工程系,11,n,级线性移位寄存器的输出序列是一个周期序列，其最大可能周期是,N=2,n,-1,，这样的序列称为,最大长度序列,或,M,序列,，其中,1,元素比,0,元素的个数多,1,，即,0,、,1,的个数分为,(N-1)/2,、,(N+1)/2,。,考虑如上图所示的三级线性反馈移位寄存器，初始状态设为,111,，则输出,M,序列为,1110010,，长度为,N=2,3,-1=7,。,注：,线性移位寄存器的初始状态不能全为零。,1,级,2,级,3,级,输出,三级线性反馈移位寄存器,模,2,加法器,均匀分布白噪声的产生,数学方法,伪随机数,3,、反馈位移寄存器法,（,FSR,：,Feedback Shift Register,）,2024/10/9,哈尔滨工业大学电子工程系,12,均匀分布白噪声的产生,数学方法,伪随机数,3,、反馈位移寄存器法,（,FSR,：,Feedback Shift Register,）,n,级,线性移位寄存器的,反馈函数,、,特征函数,可定义为：,式,中,c,i,=0,或,1,，反馈函数或特征函数完全刻划了对应的,线性移位寄存器的反馈功能。,理论上，为了产生,M,序列，设计线性移位寄存器的问题在原则上可归结为找本原多项式的问题。目前对于,n=168,的,本原多项式,已有表可查。,丁石孙，,线性移位寄存器序列,，上海科学技术出版社，,1982,2024/10/9,哈尔滨工业大学电子工程系,13,非均匀分布白噪声的产生,理论方法,以,均匀分布随机数,r, U0, 1,为基础,1,、反变换法,(inversion method),由已知的分布函数,r = F(x),反过来求,x,。用反变换法产生随机数时，如果,F,-1,(x),没有解析形式，或者,F(x),就没有解析形式，则可以用,F,-1,(x),的近似公式代替,。,以,0, 1,均匀分布随机数,r,为基础，所有分布随机数都可通过,计算或,近似计算其分布函数的反函数，用反变换法或查表法等方法产生。,2024/10/9,哈尔滨工业大学电子工程系,14,非均匀分布白噪声的产生,理论方法,以,均匀分布随机数,r, U0, 1,为基础,2,、舍选抽样法,(rejection method),1951,年，冯诺依曼,(Von Neuman),提出用舍选抽样法产生随机数。但有时此法效率很低，为提高抽样效率，在此基础上产生了推广的舍选抽样法。,该方法,直观图示,如下：,2024/10/9,哈尔滨工业大学电子工程系,15,非均匀分布白噪声的产生,理论方法,以,均匀分布随机数,r, U0, 1,为基础,2,、舍选抽样法,(rejection method),该方法,计算机实现过程,如下：,非均匀分布白噪声的产生,理论方法,以,均匀分布随机数,r, U0, 1,为基础,3,、复合法,(composition method),1961,年马萨格里亚,(Marsaglia),提出用复合法产生非均匀随机数。此法相当于先将密度函数曲线下的面积分解为几个部分，然后以各部分面积值表示的概率去产生相应各部分密度函数的随机数，即,F(x) = ,p,i, F,i,(x),4,、变换法,利用变换关系从一种分布的随机数产生另一种分布的随机数，前述的,反变换法是此法特例,。,设,Y =,g,(X),，其反函数为,X =,g,-1,(Y) =,h,(Y),，则所得随机变量,Y,的概率密度函数为：,f,Y,(y) =,f,X,h(y) |h(y)|,式中,f,X,(x),为随机变量,X,的概率密度函数，上标撇号表示一阶导数。如果取,Y=,r, U0, 1,，函数,g(),为随机变量,X,的概率分布函数,F(,),，则函数,h()=F,-1,(),，此即反变换法。,2024/10/9,哈尔滨工业大学电子工程系,17,非均匀分布白噪声的产生,理论方法,以,均匀分布随机数,r, U0, 1,为基础,5,、查表法,将连续概率分布以离散分布逼近，则查表法可用来产生连续随机数。此法优点是计算速度很快，缺点是连续分布函数离散化引入误差。,2024/10/9,哈尔滨工业大学电子工程系,18,非均匀分布白噪声的产生,常用的连续分布及其产生,假设,随机数,r, U0, 1,已产生,1,、均匀分布,Ua, b Uniform Distribution,2024/10/9,哈尔滨工业大学电子工程系,19,非均匀分布白噪声的产生,常用的连续分布及其产生,假设,随机数,r, U0, 1,已产生,2,、指数分布,E(,) Exponential Distribution,扩展：,双指数分布、超指数分布、截尾指数分布,2024/10/9,哈尔滨工业大学电子工程系,20,非均匀分布白噪声的产生,常用的连续分布及其产生,假设,随机数,r, U0, 1,已产生,3,、正态分布,N(,2,) Normal/Gaussian Distribution,2024/10/9,哈尔滨工业大学电子工程系,21,非均匀分布白噪声的产生,常用的连续分布及其产生,假设,随机数,r, U0, 1,已产生,3,、正态分布,N(,2,),2024/10/9,哈尔滨工业大学电子工程系,22,非均匀分布白噪声的产生,常用的连续分布及其产生,假设,随机数,r, U0, 1,已产生,4,、对数正态分布,LN(,2,) Log-Normal Distribution,非均匀分布白噪声的产生,常用的连续分布及其产生,假设,随机数,r, U0, 1,已产生,5,、威布尔分布,W(,) Weibull Distribution,三参数威布尔分布,W(a,b,c),增加位置参数,c,非均匀分布白噪声的产生,常用的连续分布及其产生,假设,随机数,r, U0, 1,已产生,6,、瑞利分布,R(,) = W(2,) Rayleigh Distribution,2024/10/9,哈尔滨工业大学电子工程系,25,非均匀分布白噪声的产生,常用的离散分布及其产生,假设,随机数,r, U0, 1,已产生,1,、伯努利分布,B(1,p,) Bernoulli Distribution,2024/10/9,哈尔滨工业大学电子工程系,26,非均匀分布白噪声的产生,常用的离散分布及其产生,假设,随机数,r, U0, 1,已产生,1,、伯努利分布,B(1,p,),2024/10/9,哈尔滨工业大学电子工程系,27,非均匀分布白噪声的产生,常用的离散分布及其产生,假设,随机数,r, U0, 1,已产生,2,、离散均匀分布,DU(i,j,) Discrete Uniform Distribution,2024/10/9,哈尔滨工业大学电子工程系,28,非均匀分布白噪声的产生,常用的离散分布及其产生,假设,随机数,r, U0, 1,已产生,3,、几何分布,Geom(,p,) Geometric Distribution,2024/10/9,哈尔滨工业大学电子工程系,29,非均匀分布白噪声的产生,常用的离散分布及其产生,假设,随机数,r, U0, 1,已产生,4,、泊松分布,Poisson(,),