概率论与数理统计知识点总结(超详细版)

(完整版)概率论与数理统计知识点总结(免费超详细版)第一章概率论与数理统计概率论的基本概念2样本空间、随机事件1事件间的关系 A B则称事件 B 包含事件 A，指事件 A 发生必然导致事件 B 发生A B =x x A或x B 称为事件 A 与事件 B 的和事件，指当且仅当 A，B 中至少有一个发生时，事件 A B 发生A B =x x A且x B 称为事件 A 与事件 B 的积事件，指当 A，B 同时发生时，事件 A B发生A B =x x A且x B 称为事件 A 与事件 B 的差事件，指当且仅当 A 发生、B 不发生时，事件 A B 发生A B =f，则称事件 A 与 B 是互不相容的,或互斥的,指事件 A 与事件 B 不能同时发生，基本事件是两两互不相容的A B =S且 A B =f,则称事件 A 与事件 B 互为逆事件，又称事件 A 与事件 B 互为对立事件2运算规则 交换律 A B =B A A B =B A结合律 ( A B ) C = A ( B C ) ( A B )C = A( B C )分配律 A （B C）=( A B) ( A C )A ( B C ) =( A B )( A C )徳摩根律 A B =A B A B = A B3频率与概率定义 在相同的条件下，进行了 n 次试验，在这 n 次试验中,事件 A 发生的次数 n 称为事件 A 发生的频数,A比值 nAn 称为事件 A 发生的频率概率：设 E 是随机试验,S 是它的样本空间,对于 E 的每一事件 A 赋予一个实数，记为 P(A）,称为事件的概率 1概率 P ( A) 满足下列条件：（1）非负性：对于每一个事件 A（2）规范性：对于必然事件 S0 P ( A) 1 P (S) =11n nn n (完整版)概率论与数理统计知识点总结(免费超详细版)（3）可列可加性：设 A , A ,1 22概率的一些重要性质: （i） P (f) =0L , A 是两两互不相容的事件,有 P (U A ) =P ( A ) （ nn k kk =1 k =1可以取 ）(ii）若 A , A ,1 2L , A 是两两互不相容的事件,则有 P (U A ) =P ( A ) （ nn k kk =1 k =1可以取 ）（iii）设 A,B 是两个事件若 A B ，则 P ( B -A) =P ( B ) -P ( A) ， P (B) P (A) (iv)对于任意事件 A, P ( A) 1（v） P ( A) =1 -P ( A)（逆事件的概率）（vi)对于任意事件 A，B 有 P ( A B ) =P ( A) +P ( B ) -P ( AB )4 等可能概型（古典概型）等可能概型:试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同若i ，i1事 件 A 包 含 k 个 基 本 事L，i 是1,2，Ln中某 k 个不同的数，则有 P ( A) = 2, k件 ， 即 A =e U e U L U e i i i1 2 kk ( )k A包含的基本事件数P e = =i j n S中基本事件的总数j=1，里5条件概率（1） 定义：设 A,B 是两个事件，且 P ( A) 0 ，称 P ( B | A) = 件概率（2） 条件概率符合概率定义中的三个条件P ( AB )P ( A)为事件 A 发生的条件下事件 B 发生的条1。非负性:对于某一事件 B，有 P ( B | A) 02.规范性：对于必然事件 S, P ( S | A) =13 可列可加性：设 B , B , L 是两两互不相容的事件,则有 P (U B A ) =1 2 ii =1 i =1P ( B A )i（3） 乘法定理设 P ( A) 0 ，则有 P ( AB ) =P ( B ) P ( A | B ) 称为乘法公式n（4） 全概率公式： P ( A) = P ( B ) P ( A | B )i ii =12 ( ) k k k k (完整版)概率论与数理统计知识点总结(免费超详细版)贝叶斯公式：6独立性P ( B | A) = kP ( B ) P ( A | B ) k knP ( B ) P ( A | B ) i ii =1定义定理一定理二第二章设 A，B 是两事件,如果满足等式 P ( AB ) =P ( A) P ( B ) ,则称事件 A,B 相互独立设 A，B 是两事件，且 P ( A) 0 ,若 A，B 相互独立，则 P( B | A) =P B若事件 A 和 B 相互独立,则下列各对事件也相互独立：A 与 B ，A 与B，A 与 B 随机变量及其分布1 随机变量定义设随机试验的样本空间为 S =e. X =X(e) 是定义在样本空间 S 上的实值单值函数，称 X =X(e) 为随机变量2 离散性随机变量及其分布律1 离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随机变量称为离散 型随机变量P( X =x ) = p kk满足如下两个条件（1) p 0k，(2） P =1kk =12 三种重要的离散型随机变量（1）分布设随机变量 X 只能取 0 与 1 两个值，它的分布律是 P ( X =k) =p（k1 - p）1-k 服从以 p 为参数的 分布或两点分布。(2）伯努利实验、二项分布，k =0,1 （0 p 1) ,则称 X 设实验 E 只有两个可能结果:A 与 A ，则称 E 为伯努利实验。设 P(A) =p （0 p 0 是常数，则称 X 服从参数为 l的泊松分布记为 X p（l）3x 2 ， 2 2 (完整版)概率论与数理统计知识点总结(免费超详细版)3 随机变量的分布函数定义 设 X 是一个随机变量，x 是任意实数，函数 F(x) =PX x, - x 称为 X 的分布函数分 布 函 数 F ( x) =P ( X x) ， 具 有 以 下 性 质 （ 1)F ( x ) 是 一 个 不 减 函 数 （ 2 ）0 F ( x ) 1，且 F ( -) =0, F ( ) =14 连续性随机变量及其概率密度（3) F ( x +0) =F ( x), 即 F ( x )是右连续的连续随机变量：如果对于随机变量 X 的分布函数 F(x），存在非负可积函数 f ( x) ，使对于任意函数 x 有F(x) =xf（t ） dt,则称 x 为连续性随机变量,其中函数 f（x）称为 X 的概率密度函数，简称概率密度- 1 概率密度 f ( x ) 具有以下性质，满足（1） f ( x ) 0, (2)+f ( x )dx =1；（3） P( x X x ) = 1 2x12，三种重要的连续型随机变量 （1)均匀分布f ( x) dx- ；（4）若 f ( x ) 在点 x 处连续，则有 F ( x) = f ( x) 1 ，a x 0 ，其他其中 q 0 为常数,则称 X 服从参数为q 的指数分布。 （3）正态分布若 连 续型随机变量 X的概率密度为f ( x ) =12pse-( x -m） 2s，- x 0)为常数，则称 X服从参数为 m，s的正态分布或高斯分布，记为 X N （ m，s2）特别，当 m=0， s =1 时称随机变量 X 服从标准正态分布 5 随机变量的函数的分布定理设随机变量 X 具有概率密度 f ( x )，- x 0 ,则 Y= g ( X )x4 f ( x, y）dy f ( y) =是连续型随机变量，其概率密度为 f ( y ) =Y第三章多维随机变量(完整版)概率论与数理统计知识点总结(免费超详细版)f h(y) h,( y ) , a y 0,j则称 PX =x Y =y =i jPX =x , Y =y i j PY =y j=pijp j, i =1,2, L 为在 Y =yj条件下随机变量 X 的条件分布律，同样 PY =y X =X =j iPX =x , Y =y i j PX =x i=pijpi, j =1,2, L 为在 X =x 条件下随机变量 X 的条件分布律。i5 X Y (完整版)概率论与数理统计知识点总结(免费超详细版)设二维离散型随机变量（X，Y)的概率密度为 f ( x, y ),（X,Y）关于 Y 的边缘概率密度为 f ( y )Y，若对于固定的 y， f ( y )Y0，则称f ( x, y ) f ( y )Y为在 Y=y 的条件下 X 的条件概率密度，记为 f ( x y) =X Yf ( x, y ) f ( y )Y4 相互独立的随机变量定义 设 F（ x ， y）及 F ( x) ， F ( y ) 分别是二维离散型随机变量（X，Y）的分布函数及边缘分布函数。X Y若对于所有 x，y 有 PX =x, Y =y =PX xPY y ，即 Fx, y =F ( x )F (y)X Y相互独立的。对于二维正态随机变量（X，Y），X 和 Y 相互独立的充要条件是参数 r =0 5 两个随机变量的函数的分布1，Z=X+Y 的分布，则称随机变量 X 和 Y 是设(X,Y）是二维连续型随机变量，它具有概率密度 f ( x , y ).则 Z=X+Y 仍为连续性随机变量，其概率密度为fX +Y( z ) =-f ( z -y , y）dy或fX +Y( z ) =f ( x, z -x）dx -又若 X 和 Y 相互独立,设(X,Y）关于 X，Y 的边缘密度分别为 f ( x), f ( y )X Y则fX +Y( z ) =-f ( z -y）f（y)dy X Y和fX +Y( z ) =-f ( x）f ( z -x ) dx X Y这两个公式称为 f , fXY的卷积公式有限个相互独立的正态随机变量的线性组合仍然服从正态分布Y的分布、Z =XY的分布Z =2，X设(X,Y)是二维连续型随机变量，它具有概率密度 f ( x, y )，则Z =YX，Z =XY仍为连续性随机变量其概率密度分别为fY X( z ) =x f ( x, xz ) dx f -XY( z ) =-1 z f ( x, ) dxx x又若 X 和 Y 相互独立，设（X，Y）关于 X，Y 的边缘密度分别为 f ( x), f ( y )X Y1 zff ( x ) f ( ) dx( z ) =XYx x-则可化为fY X( z ) =-f ( x) f ( xz)dx X Y3M =maxX，Y 及N =min X , Y 的分布设 X,Y 是两个相互独立的随机变量，它们的分布函数分别为 F ( x ), F ( y)X Y由于 M =maxX，Y 不大于 z 等价于 X 和 Y 都不大于 z 故有 PM z =PX z, Y z6又由于 X 和 Y 相互独立，得到 M =maxX，Y 的分 xf ( x ) dx 绝 对收敛，则称积分 (完整版)概率论与数理统计知识点总结(免费超详细版)布函数为 F( z ) =F ( z ) F ( z ) maxX YN =min X , Y 的分布函数为 Fmin( z ) =1 -1-F( z ) 1-F(z)X Y第四章随机变量的数字特征1数学期望定义设离散型随机变量 X 的分布律为 PX =x = p ，k=1，2，若级数 x p 绝对收敛 ,则称级数k k k kk =1k =1x p 的和为随机变量 X 的数学期望,记为 E ( X ) ，即 E ( X ) = x p k k kik设连续型随机变量 X 的概率密度为 f ( x) ,若积分 xf ( x ) dx的值为随- -机变量 X 的数学期望，记为 E ( X ) ，即 E ( X ) =+xf ( x ) dx-定理设 Y 是随机变量 X 的函数 Y= g ( X ) （g 是连续函数)(i ）如果 X 是离散型随机变量 ，它的分布律为 PX =x = p ，k=1 ，2, 若 g ( x ）pk k kk =1k绝对收敛则有E (Y) =E ( g ( X ) =g ( x ）p kkk =1（ ii) 如 果 X 是 连 续 型 随 机 变 量 , 它 的 分 概 率 密 度 为 f ( x) ， 若g ( x ) f ( x ) dx绝 对 收 敛 则 有-E (Y) =E ( g ( X ) =g ( x ) f ( x ) dx-数学期望的几个重要性质1 设 C 是常数，则有 E (C ) =C2 设 X 是随机变量，C 是常数,则有 E (CX ) =CE ( X )3 设 X,Y 是两个随机变量，则有 E ( X +Y ) =E ( X ) +E (Y ) ；4 设 X，Y 是相互独立的随机变量,则有 E ( XY ) =E ( X ) E (Y ) 2 方差定义设 X 是一个随机变量，若 EX-E( X )2存在，则称 EX-E( X ) 2为 X 的方差,记为 D（x)即 D（x）= EX-E( X ) 2,在应用上还引入量 D( x)，记为 s( x) ，称为标准差或均方差。7(完整版)概率论与数理统计知识点总结(免费超详细版)D ( X ) =E ( X -E ( X )2=E ( X2) -( EX )2方差的几个重要性质1 设 C 是常数，则有 D (C ) =0,2 设 X 是随机变量，C 是常数，则有 D (CX ) =C 2 D ( X ), D ( X +C ) =D(X)3 设 X,Y 是两个随机变量，则有 D ( X +Y ) =D(X) +D(Y) +2E(X - E(X)(Y - E(Y) 特别，若 X,Y 相互独立， 则有 D ( X +Y ) =D ( X ) +D (Y )4 D ( X ) =0 的充要条件是 X 以概率 1 取常数 E(X) ，即 PX =E ( X ) =1切比雪夫不等式 ：设随机变量 X 具有数学期望 E ( X ) =s2，则对于任意正数 e，不等式 P X - m e s2e2成立3 协方差及相关系数定 义量 E X -E ( X )Y -E (Y ) 称 为 随 机 变 量 X 与 Y 的 协 方 差 为 Cov ( X , Y ) ， 即Cov ( X , Y ) =E( X -E ( X )(Y -E (Y ) =E ( XY ) -E ( X ) E (Y )而 rXY=Cov (X，Y） D(X) D(Y)称为随机变量 X 和 Y 的相关系数对于任意两个随机变量 X 和 Y， D ( X+ +Y ) =D ( X ) +D (Y ) 2Cov ( X , Y ) _ -协方差具有下述性质1 Cov ( X , Y ) =Cov (Y , X ), Cov ( aX , bY ) =abCov ( X , Y )2Cov( X +X , Y ) =Cov( X , Y ) +Cov( X , Y ) 1 2 1 2定理 12rrXYXY1=1的充要条件是，存在常数 a,b 使 PY =a +bx =1当rXY=0 时，称 X 和 Y 不相关附：几种常用的概率分布表分布参数分布律或概率密度数学期望方差两点分布0 p 1PX =k ) = pk(1 -p )1-k, k =0,1，pp(1 -p)8 2 k n (完整版)概率论与数理统计知识点总结(免费超详细版)二项式分布n 1 0 p 0P ( X =k ) =lk e -l k !, k =0,1,2, Lll几何分布0 p 1P ( X =k ) =(1 -p)k -1p , k =1,2, L1p1 - pp 2均匀分布a b 1 , a x 01 e f ( x ) =q0-xq, x 0, 其他q q2正态分布sm0f ( x ) =12pse-( x -m) 2s2ms2第五章 大数定律与中心极限定理 1 大数定律弱大数定理（辛欣大数定理 )设 X X 是相互独立，服从统一分布的随机变量序列 , 并具有数学期望 1 ， 2E ( X ) =mk( k =1,2, L)1 n.作前 n 个变量的算术平均 X ，则对于任意 e 0 ,有 lim Pn n k =11 nnk =1X -me k =1定义设Y , Y , L Y L 是一个随机变量序列，a 是一个常数,若对于任意正数 e，有 lim PY -a 0,有 lim P n f f n -p 0, k =1,2 L 记 Bnn2 2kk =1定理三（棣莫弗拉普拉斯定理 ）设随机变量 h ( n =1,2, L)服从参数为 n, p (0 p 1 )的二项分布，则对任n意 x，有 lim Pn h -npnnp (1 -p )x =x-12pe -t 2 dt =F(x)10