概率论与数理统计总结

第一章 随机大事与概率第一节 随机大事及其运算1、 随机现象：在肯定条件下，并不总是消失相同结果的现象2、 样本空间：随机现象的一切可能基本结果组成的集合，记为=,其中 表示基本结果，又称为样本点。3、 随机大事：随机现象的某些样本点组成的集合常用大写字母A、B、C等表示，表示必定大事，表示不行能大事。4、 随机变量：用来表示随机现象结果的变量，常用大写字母X、Y、Z等表示。5、 时间的表示有多种：（1） 用集合表示，这是最基本形式（2） 用精确的语言表示（3） 用等号或不等号把随机变量于某些实属联结起来表示6、大事的关系（1）包含关系：如果属于A的样本点必属于大事B，即大事 A 发生必定导致大事B发生，则称A被包含于B，记为AB;（2）相等关系：若AB且BA，则称大事A与大事B相等，记为AB。（3）互不相容：如果AB=，即A与B不能同时发生，则称A与B互不相容7、大事运算（1）大事A与B的并：大事A与大事B至少有一个发生，记为 AB。（2）大事A与B的交：大事A与大事B同时发生，记为A B或AB。（3）大事A对B的差：大事A发生而大事B不发生,记为 AB。用交并补可以表示为。（4）对立大事：大事A的对立大事（逆大事），即 “A不发生”，记为。对立大事的性质：。8、大事运算性质：设A，B，C为大事，则有（1）交换律：AB=BA，AB=BA（2）结合律：A(BC)=(AB)C=ABC A(BC)=(AB)C=ABC（3）安排律：A(BC)(AB)(AC)、 A(BC)(AB)(AC)= ABAC（4）棣莫弗公式（对偶法则）： 9、大事域：含有必定大事，并关于对立运算和可列并运算都封闭的大事类称为大事域，又称为代数。简略说，大事域满足：（1）;(2)若A，则对立大事；（3）若An，n=1,2，则可列并 。10、两个常用的大事域： （1）离散样本空间（有限集或可列集）内的一切子集组成的大事域； （2）连续样本空间（如R、R2等）内的一切博雷尔集（如区间或矩形）逐步扩展而成的大事域。第二节 概率的定义及其确定方法1、概率的公理化定义：定义在大事域上的一个实值函数P（A）满足：（1）非负性公理：若A，则P(A)0；（2）正则性公理：P()1（3）可列可加性公理：若A,，A2，A3互不相容，则有 ，即，则称P（A）为时间A的概率，称三元素（，P）为概率空间2、确定概率的频率方法：（是在大量重复试验中，用频率的稳定值去获得频率的一种方法）它的基本思想是： （1）与考察大事A有关的随机现象可大量重复进行；（2） 在n次重复试验中，记n(A)为大事A消失的次数，称 fn(A)= ， 为大事A消失的频率；（3） 频率的稳定值就是概率；（4） 当重复次数n较大时，可用频率作为概率的估量值。3、确定概率的古典方法：它的基本思想是：（1） 所涉及的随机现象只有有限个样本点，譬如为n个；（2） 每个样本点发生的可能性相等（等可能性）；（3） 若大事A含有k个样本点，则大事A的概率为P（A）=。4、确定概率的几何方法：它的基本思想是：（1） 如果一个随机现象的样本空间布满某个区域，其度量（长度、面积、体积等）大小可用Sn表示；（2） 任意一点落在度量相同的子区域内是等可能的；（3） 若大事A为中某个子区域，且其度量为SA,则大事A的概率为P（A）= .5、确定概率的主观方法：一个大事A的概率P（A）使人们依据阅历，对该大事发生的可能性大小所做出的个人信念。6、概率是定义在大事域上的集合函数，且满足三条公理。前三种确定概率的方法自动满足三条公理，而主观方法确定概率要加验证，若不满足三条公理就不能称为概率。第三节 概率的性质：1、 P()02、 有限可加性：若有限个大事A,，A2，A3互不相容，则有 ，3、 对立大事的概率：对任一大事A，有4、 减法公式（特定场合）：若AB,则P(AB)P(A)P(B)5、 单调性：若AB，则P（A） P（B）6、 减法公式（一般场合）：对任意两个大事A、B，有P(AB)P(A)P(AB)7、 加法公式：对任意两个大事A、B，有P(A+B)=P(A)+P(B)-P(AB)。对任意n个大事A1，A2，An，有8、 半可加性：对任意两个大事A、B，有.9、 大事序列的极限：（1） 对中任一单调不减的大事序列，称为可列并为极限Fn的极限大事，记为。（2） 对中任一单调不增的大事序列，称为可列交为极限En的极限大事，记为。若,则称概率P是上连续的10、 概率的连续性：若P为大事域上的概率，则P既是上连续的，又是下连续的11、 若P是上满足P（）=1的非负集合函数，则P是可列可加性的充要条件是P具有有限可加性和下连续性。第四节 条件概率 1、条件概率：设A、B是两个大事，若P(A)0，则称P(A|B)=为大事B发生条件下，大事A发生的条件概率。条件概率是概率的一种，全部概率的性质都适合于条件概率。2、乘法公式：（1）若P(B)0,P(AB)=P(B)P(A|B) （2）若P(A1A2An-1)0，则有。3、全概率公式：设大事互不相容，且，如果，则对任一大事A有，i=1,2,，n。 。4、贝叶斯共公式：设大事，互不相容，且，如果P（A）0，,则，i=1，2，n。此公式即为贝叶斯公式。，（，），通常叫Bi的先验概率。，（，），通常称为Bi的后验概率。 第五节 独立性1、两个大事的独立性：如果满足，则称大事、是相互独立的，简称A与B独立。否则称A与B不独立或相依。若大事、相互独立，且，则有2、若大事、相互独立，则可得到与、与、与也都相互独立。必定大事和不行能大事与任何大事都相互独立。与任何大事都互斥。3、多个大事的独立性：设有n个大事A1，A2，An，如果对任意的1Ijkn，以下等式均成立则称此n个大事A1，A2，An相互独立。4、若n个大事相互独立，则其任一部分与另一部分也相互独立。特别把其中部分换为对立大事后，所得诸大事亦相互独立。5、试验的独立性：假照实验E1的任一结果（大事）与试验E2的任一结果（大事）都是相互独立的大事，则称这两个试验相互独立。6、n重独立重复试验：假如一个试验重复进行n次，并各次试验间相互独立，则称其为n次独立重复试验。假如一个试验只可能有两个结果：A与，则称其为伯努利试验。假如一个伯努利试验重复进行n次，并各次试验间相互独立，则称其为n重伯努利试验。第二章 随机变量及其分布第一节 随机变量及其分布1、 随机变量：定义在样本空间上的实值函数X=X()称为随机变量。（1） 离散随机变量：仅取有限个或可列个值的随机变量（2） 连续随机变量:取值布满某个空间（a，b）的随机变量。这里a可为-，b可为+。2、分布函数：设X是一个随机变量，对任意实数x，称函数为X的分布函数，记为XF(x)。分布函数具有如下三条基本性质：（1） 单调性：F（x）是单调非减函数，即对任意的x1x2,有F(x1)F(x2)；（2） 右连续性：F（x）是x的右连续函数，即对任意的x0，有，即F(x0+0)=F(x0)；（3） 有界性:对任意的x，有0F(x) 1，且F(-)=0，F(+)=1可以证明：具有上述三条性质的函数F（x）肯定是某一个随机变量的分布函数。如果将X看作数轴上随机点的坐标，那么分布函数 F(x)的值就表示X落在区间 内的概率3、离散型随机变量的概率分布列: 若离散型随机变量的可能取值为xn(n=1,2,)则称X取xi的概率为Pi=P(xi=)P(X=xi)，i=1,2,，则称上式为离散型随机变量的概率分布列，简称分布列。有时也用列表的形式给出：。分布列具有两条基本性质： （1） 非负性;， （2）正则性:。离散随机变量X的分布函数，它是有限级或可列有限级阶梯函数。离散随机变量X取值于区间（a，b 上的概率为P(aXb)=F(a)-F(b).常数c可看作仅取一个值的随机变量X，即P(X=c)=1，它的分布常称为单点分布或退化分布。4、连续随机变量的概率密度函数: 记连续随机变量X的分布函数是F(x)，若存在非负可积函数p（x），对任意实数x，有，则称为连续型随机变量。p（x）称为的概率密度函数，简称密度函数。密度函数p（x）具有下面2个基本性质：（1） 非负性:;（2） 正则性：。5、离散分布：分布在离散场合可以是分布列或分布函数；连续分布：分布在连续场合可以是密度函数或分布函数。存在既非离散又非连续的分布。6、设随机变量X的分布函数F(x)，则可用F(x)表示下列概率： （1）P(Xa)= F(a)； （2）P(Xa)=1-P(Xa) =1-F(a)；(4) P(X=a)= P(Xa)- P(Xa)= F(a)- F(a-0);(5) P(Xa)=1- P(Xa)=1- F(a-0);(6) P(|X|a)=P(-aXa)= P(X0,有,或。切比雪夫不等式给出随机变量取值的大偏差（指大事|X-E(X)| ）发生的概率的上限，该上限于分布的方差成正比。4、 随机变量的标准化：对任意随机变量X，如果X的数学期望和方差存在，则称 为X的标准化随机变量，此时有E(X*)=0，Var（X*）=1。第四节 常用离散分布1、 二项分布：设随机变量X的概率分布列为， ，其中，则称随机变量听从参数为，的二项分布。记为。（1） 背景： 重贝努里试验中成功的次数听从参数为，的二项分布。记为，其中p为一次伯努利试验中成功发生的概率。（2） n=1时的二项分布B（1，p）称为二点分布，或0-1分布，（0-1）分布是二项分布的特例。当XB（1，p）时，X可表示一次伯努利试验中成功的次数，它只能取0或1。（3） 二项分布B（1，p）的数学期望和方差分别是：E(X)=np，Var（X）=np（1-p）。（4） 若，则Y=n-XB（n，1-p），其中Y=n-X是n重伯努利试验中失败的次数。2、 泊松分布：（1） 设随机变量的概率分布列为，k=0,1,2，则称随机变量听从参数为的泊松分布，记为XP()，其中参数。（2） 背景：单位时间（或单位面积、单位产品等）上某稀有大事（这里的稀有大事是指不常常发生的大事）发生的次数听从泊松分布P()，其中为该稀有大事发生的强度。（3） 泊松分布P()的数学期望和方差分别是：E(X)= ,Var（X）=。（4） 二项分布的泊松近似（泊松定理）：在n重伯努利试验中，记大事A在一次试验中发生的概率为pn（与试验次数n有关），如果当n+时，有npn，则。3、 超几何分布（1） 若X的概率分布列为，k=0,1，r。则称X听从超几何分布，记为Xh（n，N,M）,其中r=minM，n，且MN，nN。n，N,M均为正整数。（2） 背景：设有N个产品，其中有M个不合格品。若从中不放回的随机抽取n个，则其中含有的不合格品的个数X听从超几何分布h（n，N,M）。（3） 超几何分布h（n，N,M）的数学期望和方差分别是:E（X）=,Var（X）=。（4） 超几何分布的二项近似：当nN时，超几何分布h（n，N,M）可用二项分布b（n，M/N）近似，即，其中p=M/N。（5） 实际应用中，再不返回抽样时，常用超几何分布描述抽搐样哦泥中不合格品数的分布；在返回抽样时，常用二项分布b（n，p）描述抽出样品中不合格聘书的分布；当批量N较大，而抽出样品数n较小时，不返回抽样可近似看成返回抽样。4、 几何分布：（1） 若X的概率分布列为P（X=k）=（1-p）k-1p，k=1,2，则称为X听从几何分布，记为XGe（p），其中0pm+n|Xm)=P(Xn)。5、 负二项分布：（1） 若X的概率分布列为，k=r，r+1，。则称X听从负二项分布或巴斯卡分布，记为XNb（r，p），其中r为正整数，0p1。（2） 背景：在伯努利试验序列中，成功大事A第r次消失时的试验次数X听从负二项分布Nb（r，p），其中p为每次试验中大事A发生的概率。（3） r=1时的负二项分布为几何分布，即Nb（r，p）=Ge（p）。（4） 负二项分布Nb（r，p）的数学期望和方差分别是:E(X)=r/p,Var(X)=r(1-p)/p2。（5） 负二项分布的随机变量可以表示成r个独立同分布的几何分布随机变量之和，即若XNb（r，p），则X=X1+X2+Xr，其中X1，X2，Xr是相互独立、听从几何分布Ge（p）的随机变量。6、 常用离散分布表分布列pk 期望方差0-1分布pk=pk（1-p）1-k，k=0,1p二项分布pk=k=0,1，nnp泊松分布pk=k=0,1，几何分布pk= P（X=k）=（1-p）k-1p，k=1,2，超几何分布pk= k=0,1，r。r=minM，n负二项分布Nb（r，p）pk= k=r，r+1，。r/pr(1-p)/p2第五节 常用连续分布1、 正态分布(1) 若X的密度函数和分布函数分别为，-x+; ,-x+;则称X听从正态分布，记作XN（，2），其中参数-0。（2）背景：一个变量若是由大量微小的、独立的随机因素的叠加结果，则此变量肯定是正态变量（听从正态分布的变量）。测量误差就是量具偏差、测量环境的影响、测量技术的的影响等因素随机因素叠加而成的，所以测量误差常认为听从正态分布。（3） 关于参数：l 是正态分布的数学期望，即E（X）=，称为正态分布的位置参数。l 是正态分布的对称中心，在的左侧和p（x）下的面积为0.5；在的右侧和p（x）下的面积为0.5；所以也是正态分布的中位数l 若XN（，2），则X在离越近取值的可能性越大，离越远取值的可能性越小关于参数：l 2是正态分布的方差，即Var（X）=2；l 是正态分布的标准差，越小，正太分布越集中；越大，正态分布越分散；又称为正态分布的尺度参数l 若XN（，2），则其密度函数p（x）在处有两个拐点（4） 标准正态分布：称=0，=1时的正态分布N（0,1）；记U为标准正态变量，(u)和(u)为标准正态分布的密度函数和分布函数。(u)和(u)满足：l (-u)= (u)l (-u)=1- (u)。对u0, (u)的值有表可查（5） 标准化变换：若XN（，2），则U=（X-）/N（0,1），其中U=（X-）/称为X的标准化变换（6） 若XN（，2），则对任意实数a与b，有P（Xb）=，P（aX）=1-, P（aXb）=-。（7） 正态分布的3原则：设XN（，2），则P（|X-|0。（2） 背景：若一个元器件（或一台设备、或一个系统）遇到外来冲击时即告失效，则首次冲击来到的时间X（寿命）听从指数分布。（3） 指数分布Exp（）的数学期望和方差分别是E(X)=,Var(X)=。（4） 指数分布的无记忆性：若XExp（），则对任意s0,t0,有P（Xs+t|Xs）=P(Xt)。4、 伽玛分布（1） 伽玛函数：称（）=为伽玛函数，其中参数0。伽玛函数具有如下性质： （1）=1； （1/2）=； （+1）=（）； （n+1）=n（n）=n！（n为自然数）。（2） 伽玛分布：若X的密度函数为即称X听从伽玛分布，记作XGa（，），其中0为外形参数，0为尺度参数。（3） 背景：若一个元器件（或一台设备、或一个系统）能抵抗一些外来冲击，但遇到第k次冲击时即告失效，则第k次冲击来到的时间X（寿命）听从外形参数为k的伽玛分布Ga（k，）。（4） 伽玛分布Ga（，）的数学期望和方差分别为E（X）=，Var（X）=。（5） 伽玛分布的两个特例: =1时的伽玛分布就是指数分布，即Ga（1，）= Exp（）。 称=n/2，=1/2时的伽玛分布为自由度为n的2（卡方）分布，记为2（n），其密度函数为 ，2（n）分布的期望和方差分别是E(X)=n，Var（X）=2n。（6） 若外形参数为整数k，则伽玛变量可以表示成k个独立同分布的指数变量之和，即若XGa（k，），则X=X1+X2+Xk是相互独立且都听从指数分布Exp（），的随机变量。5、 贝塔分布(1) 贝塔函数:称B（a，b）=为贝塔函数，其中参数a0,b0。贝塔函数具有如下性质：B（a，b）= B（b，a）；B（a，b）=。(2) 贝塔分布：若X的密度函数为， 则称X听从贝塔分布，记作XBe（a，b），其中a0,b0都是外形参数。(3) 背景：很多比率，如产品的不合格率、机器的维修率、射击的命中率等都是在区间（0，1）上取值的随机变量，贝塔分布Be（a，b）可供描述这些随机变量之用。(4) 贝塔分布Be（a，b）的数学期望和方差分别是，(5) a=b=1时的贝塔分布就是区间（0,1）上的均匀分布，即Be（1,1）=U（0,1）。6、常见连续分布表密度函数p（x）期望方差正态分布，-x0柯西分布Cau(, ),-x0第六节 随机变量函数的分布1、 设连续随机变量X的密度函数为PX（x），Y=g（X）。（1） 若y=g(x)严格单调，其反函数h（y）有连续导函数，则Y=g（X）的密度函数为，其中a=ming(-), g(+),b=maxg(-), g(+)。（2） 若y=g(x)在不重叠的区间I1,I2，上逐段严格单调，其反函数h1（y），h2（y），有连续导函数，则Y=g（X）的密度函数为。2、 正态变量的线性变换仍为正态变量：若X 正态分布，则当a0时，有Y=aX+bN(a+b,a22)。3、 对数正态分布（1） 若X的密度函数为 则称X听从对数正态分布，记为XLN(，2)，其中-0。（2） 若XLN(，2)，则E(X)=,Var（X）=（3） 若XLN(，2)，则Y=ln XN(，2)4、 若XGa（，），则当k0时，有Y= kXGa（，/k）。5、 若X的分布函数FX(x)为严格单调增的连续函数，其反函数F -1X(x)存在，则Y= FX(X)听从（0,1）上的均匀分布U（0,1）。第七节 分布的其他特征数1、 k阶矩（1） 称k=E(Xk)为X的k阶原点矩。一阶原点矩就是数学期望（2） 称k=E(X-E(X)k为X的k阶中心矩。二阶中心距就是方差（3） 前k阶中心矩可用原点表示，如1=0；2=2-12；3=3-321+213；4=4-431+6212-314。2、 变异系数：称比值为X的变异系数。变异系数是一个无量纲的量。3、 分位数：设连续随机变量X的分布函数为F（x），密度函数为p(x)。对任意p（0.1），（1） 称满足条件的为此分布的p分位数，又称下侧p分位数，它把密度函数下的面积一分为二，左侧面积恰好为p；（2） 称满足条件的为此分布的上侧p分位数。（3） 分位数与上侧分位数的转换公式：=,=。（4） 中位数：称p=0.5时的p分位数为此分布的中位数。即满足；（5） 若随机变量X的密度函数p（x）是偶函数，则此分布的p分位数满足：=。（6） 记标准正态分布的p分位数。由于标准正态分布函数是偶函数，所以=-。（7） 一般正态分布的p分位数满足：=+。（8） 分布的矩有可能不存在，但连续分布的分位数总存在。p分位数总是p的增函数。4、 偏度系数（1）称比值16 / 16