仿真用的概率概念.ppt

第五章 仿真用的概率概念,1 随机变量、概率函数、随机数 2 均匀的连续分布随机数及其生成 3 各种离散分布随机数的产生 4 非均匀的连续分布随机数及其产生,确定性活动与随机活动,确定性活动：是可以事先预言的，即在准确地重复一定的条件下，其变化的结果总是确定的，或者根据其过去的状态，相同的条件下可以预言将来的发展变化，我们把这一类活动称为确定性活动。确定性活动的主要特征是活动的运动可以用一个确定的数学形式来描述：f(t)，或是数学函数，或是数学图表等。 随机性活动：其变化的结果是事先不可预言的，即在相同的条件下进行重复实验，每次结果未必相同，或者是知道其过去的状况，在相同的条件、未来的发展事先都不能确定，这一类活动我们称为随机性活动。随机性活动的主要特征是这类活动的描述可以通过数学统计的方法描述。,对于随机性活动进行研究所利用的数学工具是概率论及数理统计对于实际系统中随机活动进行研究时，往往由于众多的随机因素使得数学描述和分析变得十分困难，这时我们往往求助于计算机仿真。仿真为这类复杂的随机系统的研究提供了一个方便有效的手段。,离散型随机变量 定义,定义：对于随机活动的不同结果我们可以用不同的数值与其对应。这样，就可以用一个变量来描述随机活动，变量按一定的概率取某个值对应于随机活动按一定的概率取某个结果。这类变量称为随机变量。 离散型随机变量：若随机变量只取有限个数值或可列无穷多个数值，则称此类随机变量为离散型随机变量。 连续型随机变量：若随机变量可以取值于某个区间中的任一数，我们称为连续型随机变量。,离散型随机变量 数学定义,数学定义：如果一个随机变量 x 的一切可能取值为x1，x2，xn，并且X取值xn的概率为Pn，则X为一个离散型随机变量，p1，p2，.，pn，. 称为X的概率函数。其中Pn必须满足下列两个条件： （1） （2）,离散型随机变量 概率分布函数,离散型随机变量X的累积分布函数定义，当X小于或等于某个给定值x的概率函数，记为P(Xx) = F(x)。 设随机变量X可能取值x1，x2，xn，则X的累积分布函数为 其中 为X 取值 的概率。 由定义可见 当xy时，F(x)F(y)，即F(x)是个单调增加的函数。,连续型随机变量 定义,定义：若存在非负函数 f (x)，使得随机变量X取值于任一区间(a，b)的概率为 P(axb)= ， 则称X为连续型随机变量，f(x)称为X的密度函数。 对于密度函数 f (x)有,连续型随机变量 概率密度函数,连续型随机变量的累积分布函数定义为随机变量小于或等于x的概率。它用F(x)表示，即 由累积分布函数定义可知， 当时 ， 。 累积分布函数是单调递增函数。,概率密度函数/累积分布函数,随机变量X落入区间(a，b)内的概率是 。图中给出了一个连续随机变量的密度函数曲线和累积分布函数曲线。密度函数f(x)的值不能为负，要注意的是f(x)的值可以大于1，但是在任意区间(a，b)上由 f (x)曲线围出的面积(图中阴影部分)必然1。从图中也可以看到累积分布函数F(x)的值随 x 值的增加而增加，而且它最终趋向极限值1。,随机变量的数字特征,定义：随机变量的数字特征是与它的分布有关的某些数值，例如平均值、最大可能值等，它们反映了随机变量某些方面的特征。 分类：根据随机变量的种类：分别介绍离散型随机变量的数字特征、连续型随机变量的数字特征,离散型随机变量的数字特征,平均值：设X为离散随机变量，其概率函数由下表给出： 其中 记 ，称为X 的平均值。 数学方差,数学方差反映了各个随机变量的采样值偏离平均值的平均程度,变化系数：标准差与平均值的比值，反映了随机数偏离平均值的变化程度。变化系数=,连续型随机变量的数字特征,平均值：设X为随机变量，其概率密度函数为 f (x)，则该随机变量的平均值m为： 平均值又称为数学期望。 数学方差,变化系数：标准差与平均值的比值，反映了随机数偏离平均值的变化程度。变化系数=,数学方差反映了各个随机变量的采样值偏离平均值的平均程度,随机变量的其它数字特征,模值定义为随机变量的概率密度函数在某处取峰值时的x 值。当有多个峰值时，取最大峰值作为模值。 中间值：如果有一点Xm，随机变量有一半值将落在这一点以下，那么由此点所定义的值Xm称为中间值b中间值可以从累积分布函数曲线上求得，因为它是F(x)=0.5处的那个点。,在x=1处时 f(x) 均达到峰值，则x=1就是随机变量的模值。中间值：Xm=1.6783469,数理统计中的基本运算规则,，X一随机变量，则 E(X)= E(X) X，Y为两个相互独立的随机变量，则 E( X+Y )= E(X)+ E(Y) ，X一随机变量，则 D(X)= 2D(X) ，X一随机变量，则 D(X +)= D(X) X，Y为两个相互独立的随机变量，则 D( X+Y )= D(X)+ D(Y),(0，1)均匀分布随机数,随机数：所谓随机数就是随机变量的样本取样值。 均匀分布的随机数：随机变量x在其可能值范围中的任一区间出现的概率正比于此区间的大小与可能值范围的比值。 (0，1)均匀分布随机数：在各种分布的随机数中，最常用和最重要的是在(0，1)区间上的均匀分布随机数。 其他许多分布的随机数都可以由(0，1)均匀分布随机数经过变 换和计算来产生。,(0，1)均匀分布随机数的定义,(0，1)均匀分布随机变量x的概率密度函数为 累积分布函数,(0，1)均匀分布随机数的说明,随机变量x落入区间(X1，X2)中的概率等于图中阴影区的面积，其值为(X2-X1)，正比于区间(X1，X2)的大小。 需要说明的是在计算机上表示连续变量只能是近似的，因为计算机中的数字只能是有限的位数。如果变量变化的最小步长可以达到计算机表示的最小值，并且在实际需要的精度之内变量可以达到任意值，就可以把这个变量看成是连续的。,(0，1)均匀分布随机数的产生方法,物理过程：常用的物理装置有放射粒子计数器、电子管随机数产生器。利用电子噪声或放射源去激励一个周期为09的计数器，对计数器定时选行采样就可以得到所需的随机数的一位数。多次重复此过程或者利用几个计数器同时运行，就可以得到任意位数的随机数。 随机数表：利用物理过程可以得到大量随机数，并将这些数制成表。在使用随机数时就可以依一定的顺序从表中取出随机数。为了适应实际需要的位数，对取出的随机数可以进行截断或拼接处理。 随机数产生程序：按照一定的算法计算出具有类似于均匀分布随机变量的独立取样值性质的数。因为这些数是按照定性的算法计算出来的，会有一定的周期性，因而被称为伪随机数。由于我们的目的是利用随机数来对随机活动的统计分析，只要伪随机数的数理统计性质能够满足实际需要就可以了。这些数理统计性质包括均匀性、独立性等。一般计算机上，产生随机数的函数为（0，1）均匀分布的随机数。,计算机产生随机数的算法,用计算机程序通过计算产生的随机数都是伪随机数，它具有一定的周期性。 计算机产生随机数的特点：实用性强、简单易操作、产生速度快、计算机存储空间的要求低。 计算机上用数字方法产生的随机数的一般要求有： 1.产生的数值序列要具有分布的均匀性、抽样的随机性、试验的独立性以及前后的一致性。 2.产生的随机数要有足够长的周期，以满足你真的实际需要。 3. 产生随机数的速度要快，占用的内存空间要小。,计算机产生随机数的算法,计算机产生随机数的通常方法是利用一个递推公式： 给定了k个初始值 ，就可以利用这个递推公式推算出第k+1个数Xk+1： 递推公式有多种形式，其中最常见的有两种： -平方取中法 -同余法,平方取中法,这是最早产生随机数的一种方法，一个二进制n位数X，自乘后一般得到一个2n位数X2。设 平方后得到： 取X0中间的n位数(设n为偶数) 作出如下的二进制n位数： 重复上述过程，可得二进制n为数序列 ， ， 。令， 则 ， ， 就是所需要的(0，1)均匀分布随机数序列。,平方取中法步骤,任取一十进制正整数,确定一偶数位数n,将所选十进制数化为n位的二进制数,平方运算得到2n位的二进制数,取2n位二进制数的中间n位作为生成的随机数,生成的随机数=上一随机数,否,是,随机数进入循环,平方取中法例题,任取一正整数：45 表示为偶数位的二进制数：101101，共6位 该数的平方为：011111101001，共62=12位 取中间的六位，得：111101，该数的十进制表达式为 61 最终可以产生的随机数： 45，61，17，36，34，16，32，0，,问题： 应用平方取中法时，可能遇到“退化”的危险，即出现中间所取得值都为0，或形成重复循环序列的现象。 平方取中法的限制,同 余 法,同余法是将一组数据通过一系列特定的数字运算，最后利用一个数字的整除求余，所得的数值就是一个伪随机数。因为这个计算过程，则称该求随机数的方法为同余法。 同余法的有三种：加同余法、乘同余法和混合同余法。其中以混合同余法产生的随机数统计性质较好，因而获得了最为广泛的应用。 同余法具有计算简便的优点。 产生随机数的递推公式是： 其中a称为乘法因子，c称为加法因子，M为模数（为随机数的周期）。,当a=1时， 加同余法； 当c=0时， 乘同余法； 当a1、c0时，混合同余法。,(0，1)均匀分布随机数的产生,当给定了一个初始值X0之后，就可以利用上式计算出序列X1， X2，Xn，再取 于是y1，y2，yn就是所需要的(0，1)均匀分布得随机序列。,同余法产生（0，1）均匀分布的随机数例 题,设a=5，c=3，M=8，取X0=1，则循环叠代式： 利用上述叠代式，可以计算得到： X1=0，X2=3，X3=2，X4=5，X5=4，X6=7，X7=6，X8=1，X9=0， y1=0.000，y2=0.375，y3=0.250，y4=0.625，y5=0.500，y6=0.875，y7=0.750，y8=0.125，X9=0.000，,我们可以看到此例中，这个随机数序列的周期长度为8，即Xn+8= Xn。很明显：利用同余法产生随机数序列的周期不可能超过所取的模数M值、适当的a、c和X0的值，就可以使随机数序列的周期充分地长、以满足实际的需要。若利用组合的同余法产生随机数序列，则可获得大于模数的周期。,同余法产生（0，1）均匀分布的随机数产生的基本条件,c和M互质，即没有大于1的公因子。 M的每个质数因子也是a-1的因子。 若4是M的因子，则4也是a-1的因子。,上述基本条件满足后，混合同余法所产生的随机数序列的周期达到最大值M 。,各种离散分布随机数的产生,在生产系统离散仿真时，我们常常使用离散分布的随机变量来描述实际系统中的某些量。例如在企业原材料管理系统中，在一定时间内，到达仓库的物料数就是一个离散随机变量。该随机变量的到达时间是一个随机数，此随机数满足一定的概率分布。我们可以利用（0，1）均匀分布随机数来产生各种离散分布的随机数。 离散分布的随机数可以分为：均匀分布的离散随机数、非均匀分布的离散随机数,均匀离散分布的随机数的产生,给定N个连续整数x1，x2，xN，我们以相等的概率从中选出一个数，这样重复下去，所产生的数列就是一个离散均匀分布的随机数序列。 每次取样值 ， 式中yk是 (0，1)均匀分布的随机数， 。,产生（0，1） 均匀分布的随机数,选定产生均匀分布随机数的范围： x1 、xN,非均匀离散分布的随机数的产生,给定N个x1，x2，xN，我们以相对应的概率P1，P2，PN，满足 ，从中选出一个数作为输出，这样重复下去，所产生的数列就是一个离散非均匀分布的随机数序列。,非均匀离散分布的随机数的产生方法,设所求非均匀离散分布随机数的累积概率分布函数为F(x)，其中：F(0)=F0=0，Fk= (k=1，2，N）。 设yi是一个(0，1)均匀分布随机数。考察yi，如果 ， 则把相应的xk选出作为此次取样的输出值。,生成n个(0，1) 均匀分布的随机数,若随机数yi值Fk-1，Fk），取xk,数xk服从特定分布,例 贝努利概率模型二项分布的产生,贝努利(Bernouli)概率模型是概率统计中一种最简单而又常用的概率模型，它由一系列试验组成。其中每次试验只有两种结果。我们用事件A和A来表示这两种实验结果。若A产生的概率为P(A)=P，(0P，则认为A事件发生。,二项分布,在由n次独立试验组成的贝努利概率模型中，事件A发生的次数是一个随机变量。它取值k(k=1，2，n)的概率是 当P较大而计算精度又要求较高时，我们可以在计算机上用n次贝努利试验产生二项分布的随机数。,生成n个(0，1) 均匀分布的随机数,统计n个随机数中数值大于某一个概率值P的个数m,数m服从 贝努利分布,泊松分布,若进行n次独立试验，在每次试验中事件A发生的概率等于Pn，则在n次试验中事件A发生k次的概率(n，Pn0，nPn=)趋于P(k,)： 称为泊松(Poisson)分布。 在泊松分布的试验中，试验的次数n越大，则越接近泊松分布的值。,非均匀的连续分布随机数及其产生,对于非均匀的连续分布的随机数，我们同样借助于(0，1)均匀分布随机数进行变换或计算来产生。 一般采用的变化方法为 1 反函数法(逆变法) 2 函数变换法 3 卷积法,反函数法(逆变法),反函数法也称为概率积分变换法，这种方法所基于的原理是概率积分变换定理，可以简述如下： 1 给定(0，1)均匀分布随机数yn(n=1，2，.)，如果F-1(yn)是随机变量X的反累积分布函数，则由公式 2 xn= F-1(yn) 所计算的随机数就是随机变量X的取样值。,反函数法(逆变法)的步骤,求出y= F(x)的反函数： x= F-1(y)。 利用(0，1)均匀分布随机数产生程序取得yn。 利用x= F-1(y)可得到需要的随机数xn。,指数分布,指数分布的概率密度函数是 累积分布函数为 生成随机数的逆函数为 图中取 =0.5,练习：,请符合Weibull分布的随机变量。,离散随机变量,练习,函数变换法,正态分布,正态分布的概率密度函数为 对于此式要直接求F-1(y)是很困难的，可利用坐标变换等方法。令x=x1+就可以将上式化成标准正态分布N(0，1)。设u1和u2是两个独立的(0，1)均匀分布随机数，利用坐标变换及积分变换可得 均值：2；方差：0.3。,卷积法（convolution),For some intractable distributions, we can express the random variate as the sum of two or more random variates.,爱尔朗分布,概率密度函数为 对于这种分布，不能直接利用反函数法，而是利用其一个特性，即一个平均值为T的k级爱尔朗分布的随机数等价于k个独立的并且具有平均值为T/k的指数分布随机数之和。所以,k=0.9,图中取 =0.5,k=1.5,k=3,计算Erlang分布：,Ex: m = 2; = 1Select two random numbers:u1 = .2; u2 = .4 请符合该分布的随机变量x.,X = - 1/2ln(.2*.4) = 1.26,其它分布,韦伯分布,概率密度函数为 分布函数为 利用反变换可得 其中u是(0，1)均匀分布随机数。,=4 =2 f(x),=4 =2 F(x),对数正态分布,设是具有平均值和方差2的正态分布的随机变量，则y=ex为具有对数正态分布的随机变量，其概率分布密度函数为 这一分布在经济学中得到广泛的应用，由于它和正态分布密切相关。随机数的简单算法如下： 1) 判断0，否则出错； 2) 由标准正态分布N(0，1)取值Y； 3) 计算Y=+Y； 4) 计算X=eY,即为一次对数正态分布的X取值。,伽玛分布 Gamma(,),伽玛分布的概率函数为,伽玛分布 Gamma(,),伽玛分布具有一种特性：x1，x2，xn是取自G(i，)的一个独立随机数变量序列，则 取自 G(，) ，其中 若i =1，则X将是n个独立的指数随机变量之和，根据这一特性可用于生成具有伽玛分布的X，其算法如下： 1) 判断0，0，否则出错； 2) 0X，取整； 3) 从均值为1的指数分布生成V； 4) X+VX； 5) 若=1，则XX，并作为伽玛分布的一次取值； 6) -1，转至第3步循环直至=1。,贝塔分布 Be(,),贝塔分布的概率函数为 利用概率理论可以证明：若Y1和Y2是独立地从伽玛分布G( ，1)和G( ，1)分布中取值，则X=Y1/(Y1+Y2)，即为Be( ，)贝塔分布中取值。,贝塔分布Be(,)的随机数产生,可得如下一种贝塔分布生成算法： 1) 判0及0，否则出错， 2) 从G( ，1)分布中取值Y1； 3) 从G( ，1)分布中取值Y2； 4) 算出X=Y1/(Y1+Y2)作为一次贝塔分布Be( ，)的取值。,随机数产生方法的比较,用反函数法产生随机数时，需要对给定的分布密度函数f(x)进行积分求得F(x)，然后再对累积分布函数求反函数F-1(y)。这些变换处理往往比较困难，有的还不可能做到。而舍去法只用到了密度函数f(x)，所以比较方便简单。舍去法的缺点是效率低，每产生所需分布的一个随机数至少要产生两个(0，1)均匀分布的随机数，而且还有相当一部分的随机点被丢弃了(丢弃的个数与接收的个数之比等于f(x)之上部分的面积与f(x)之下的面积之比)。,随机数的统计检验,用任何一种方法产生的随机数序列在把它用到实际问题中去之前都必须进行一些统计检验，看它是否能够令人满意地作为随机变量的独立取样值(显著性检验)，是否有较好的独立性和均匀性。从理论上说，统计检验并不能得出完全肯定的结论，但是却可以使我们有较大的把握获得具有较好统计性质的随机数序列。,数字特征检验,数字特征检验是采样平均值、方差与理论平均值、方差差异的显著性检验。 在(0，1)区间上均匀分布的随机变量X和X2的平均值及方差分别为,数字特征检验,如果N个随机数x1，x2，xN是X的N个独立观测值，令 则它们的平均值和方差为,数字特征检验,根据中心极限定理： 渐近地服从正态N(0，1) 当N足够大。 故当给定显著性水平后，即可根据正态分布表确定临界值，据此判断与X的平均值E(X)和与的平均值E(X2)之差异是否显著，从而决定能否把x1，x2，xN看作是(0，1)均匀分布随机变量X的N个独立取样值。,分布均匀性检验,分布均匀性检验又称频率检验，是对经验频率和理论频率之间的差异进行检验。 把(0，1)区间划分成k等分，以 ( i=1，2，k)表示第i个小区间。如果xs是区间(0，1)上均匀分布的随机变量X的一个取样值，则xs值落在任一小区间的概率Pi均应等于这些小区间的长度1/k，故xsN个值落在任何一个小区间的平均数 。设实际上x1，x2，xN中属于第i个小区间的数目为ni，则统计量 渐近地服从自由度为K-1的 分布。,由 的值可以衡量实际频率与理论频率的差异，也就是可以度量实际随机数分布的均匀程度，当两者完全符合时， =0。,问 题,的值处在多大范围内可以认为的随机数抽样值是符合均匀性要求呢?,首先确定一个判定标准(称为显著度)，并且根据参数的值(称为自由度，=k-1)，从 表中查得 的值。如果计算所得到的 值小于 ，就认为符合均匀性假设。因为它符合下式,如果=0.05，则上式表示的概率为0.95，也就是说，对给定显著度而言，可以认为这一随机数样本是均匀的。通常可取=0.050.1。,独立性检验,一个随机数序列可以是均匀分布，但却不一定是独立的，也就是说有可能是互相关联的。两个随机变量得相关系数反映了它们之间的线性相关程度。如果它们相互独立，那么它们的相关系数应为0（反之不一定）。所以其值大小可以衡量相关程度。这里对独立性检验主要是对随机数序列中相隔一定间隔的数之间的相关系数进行检验。,独立性检验,设给定N个随机数x1，x2，xN，我们计算前后距离为K的样本相关系数rK： ， k=1，2， 式中 为随机数的方差， 为随机数的平均值， 。,独立性检验,如果各xi相互独立，则相关系数rK应为0。在原假设rK=0之下，当N充分大(例如N-K50)时，统计量 渐近地服从正态分布N(0，1)。同时选定=0.05，则根据概率统计理论，当|U|196时(称为差异显著)，拒绝假设 rK=0；反之，则接受。,