概率论知识点总结.pdf

概率论总结 目 录一、前五章总结第一章随机事件和概率 1第二章随机变量及其分布.5第三章多维随机变量及其分布10第四章随机变量的数字特征13第五章极限定理.18二、学习概率论这门课的心得体会20 一、前五章总结第一章随机事件和概率第一节：1.、将一切具有下面三个特点：（1）可重复性（2）多结果性（3）不确定性的试验或观察称为随机试验，简称为试验，常用E 表示。在一次试验中，可能出现也可能不出现的事情（结果）称为随机事件，简称为事件。不可能事件：在试验中不可能出现的事情，记为。必然事件：在试验中必然出现的事情，记为S或。2、我们把随机试验的每个基本结果称为样本点，记作 e 或.全体样本点的集合称为样本空间.样本空间用 S 或 表示.一个随机事件就是样本空间的一个子集。基本事件单点集，复合事件多点集一个随机事件发生，当且仅当该事件所包含的一个样本点出现。事件间的关系及运算，就是集合间的关系和运算。3、定义：事件的包含与相等 若事件 A 发生必然导致事件 B 发生，则称 B 包含 A，记为 BA或 AB。若 AB 且 AB 则称事件 A 与事件 B 相等，记为 AB。定义：和事件“事件 A 与事件 B 至少有一个发生”是一事件，称此事件为事件A 与事件 B 的和事件。记为 AB。用集合表示为:AB=e|eA，或 eB。定义：积事件 称事件“事件 A 与事件 B 都发生”为 A 与 B 的积事件，记为AB 或 AB，用集合表示为 AB=e|eA 且 eB。定义：差事件称“事件 A 发生而事件 B 不发生,这一事件为事件 A 与事件 B 的差事件,记为 AB,用集合表示为 A-B=e|eA，eB。定义：互不相容事件或互斥事件 如果 A，B 两事件不能同时发生，即 AB，则称事件 A 与事件B 是互不相容事件或互斥事件。定义 6：逆事件/对立事件 称事件“A 不发生”为事件 A 的逆事件，记为 。A 与 满足：A=S,且 A=。运算律：设 A，B，C 为事件，则有（1）交换律：AB=BA，AB=BA （2）结合律：A(BC)=(AB)C=ABC A(BC)=(AB)C=ABC（3）分配律：A(BC)(AB)(AC)A(BC)(AB)(AC)=ABAC（4）德摩根律：小结：事件的关系、运算和运算法则可概括为 四种关系：包含、相等、对立、互不相容；四种运算：和、积、差、逆；四个运算法则：交换律、结合律、分配律、对偶律。第二节：1、设试验E是古典概型,其样本空间S由n个样本点组成,事件A由k个样本点组成.则定义事件A的概率为：P(A)k/nA 包含的样本点数/S 中的样本点数。2、几何概率：设事件A是S的某个区域，它的面积为(A)，则向区域S上随机投掷一点，该点落在区域A的概率为：BABAIUBABAUIP（A）=（A）/（S）假如样本空间S可用一线段，或空间中某个区域表示，并且向S上随机投掷一点的含义如前述，则事件A的概率仍可用（*）式确定，只不过把 理解为长度或体积即可.概率的性质：（1）P()=0,（2）（3）（4）若 AB，则 P(B-A)=P(B)-P(A),P(B)P(A).第四节：条件概率：在事件B发生的条件下，事件A发生的概率称为 A 对 B 的条件概率，记作P(A|B).而条件概率P(A|B)是在原条件下又添加“B发生”这个条件时A发生的可能性大小，即P(A|B)仍是概率.乘法公式：若P(B)0,则P(AB)=P(B)P(A|B)P(A)0,则 P(AB)=P(A)P(B|A)全概率公式：设A1,A2,An是试验 E 的样本空间 的一个划分，且PAi)0，i=1,2,n,B是任一事件,则 贝叶斯公式：设A1,A2,An是试验 E 的样本空间 的一个划分，且P(Ai)0，i=1,2,n,B是任一事件且P(B)0,则 11mmPPUQ ;,2,1,11 nkknkkjiAPAPjinjiAAUL则则两两两两互互不不相相容容，),(1)(APAP BPABPBAP)|(niiiABPAPBP1)()()(njjjiiiABPAPABPAPBAP1)()()()()|(第五节 ：若两事件A、B满足 P(AB)=P(A)P(B)则称A、B独立，或称A、B相互独立.将两事件独立的定义推广到三个事件：对于三个事件A、B、C，若P(AC)=P(A)P(C)P(AB)=P(A)P(B)P(ABC)=P(A)P(B)P(C)P(BC)=P(B)P(C)四个等式同时 成立,则称事件 A、B、C相互独立.第六节：定理 对于 n 重贝努利试验，事件 A 在 n 次试验中出现 k次的概率为 总结：1.条件概率是概率论中的重要概念，其与独立性有密切的关系，在不具有独立性的场合，它将扮演主要的角色。2.乘法公式、全概公式、贝叶斯公式在概率论的计算中经常使用，请牢固掌握。3.独立性是概率论中的最重要概念之一，亦是概率论特有的概念，应正确理解并应用于概率的计算。4.贝努利概型是概率论中的最重要的概型之一，在应用上相当广泛。第二章：随机变量及其分布1、随机变量：分为离散型随机变量和连续型随机变量。分布函数：设 X 是一个 r.v，x 为一个任意实数，称函数pqnkqpCkPknkknn 1,1,0)(KF(X)=P（Xx）为 X 的分布函数。X 的分布函数是F(x)记作 X F(x)或 FX(x).如果将 X 看作数轴上随机点的坐标，那么分布函数 F(x)的值就表示 X落在区间（xX）。3、离散型随机变量及其分布定义 1：设xk(k=1,2,)是离散型随机变量X所取的一切可能值，称等式 P(X=xk)=PK,为离散型随机变量X的概率函数或分布律，也称概率分布.其中 PK,0；Pk=1分布律与分布函数的关系：（1）已知随机变量 X 的分布律，可求出 X 的分布函数：设一离散型随机变量 X 的分布律为 PX=xk=pk (k=1，2，)由概率的可列可加性可得 X 的分布函数为 已知随机变量 X 的分布律,亦可求任意随机事件的概率。（2）已知随机变量 X 的分布函数，可求出 X 的分布律：xxkxxkkkpxFxXPxXPxF)()(即即一、三种常用离散型随机变量的分布.1（01）分布：设随机变量 X 只可能取 0 与 1 两个值，它的分布律为 PX=k=pk(1-p)1-k,k=0，1.(0p1)则称 X 服从（01）分布,记为 X（01）分布。（01）分布的分布律用表格表示为：X 0 1P 1-p p 易求得其分布函数为2.二项分布（binomial distribution)：定义：若离散型随机变量 X 的分布律为其中 0p0 是常数,则称 X 服从参数为 入 的泊松分布,记作XP(入).、连续型随机变量1 概率密度f(x)的性质（1）f(x)0（2）L,3,2,1)0()(kxFxFxXPkkk 110100)(xpxpxxF nkqpCkXPkkkn,1,01L ,!)(LL210kkekXPk 1)(dttf(3).X 落在区间(x1，x2)的概率 几何意义：X 落在区间(x1，x2)的概率 Px10则称 X 服从参数为 入的指数分布.常简记为 XE(入)指数分布的分布函数为 21)()()(1221xxdxxfxFxFxXxPdttfxFx )()(其其他他01)(bxaabxf bxbxaabaxaxxF10)(0001)(xxexFx 指数分布的一个重要特性是”无记忆性”.设随机变量 X 满足：对于任意的 so，t0,有 则称随机变量 X 具有无记忆性。3.正态分布若 r.v X的概率密度为其中 和 2 都是常数，任意，0，则称X服从参数为 和 2 的正态分布.记作),(2NXf(x)所确定的曲线叫作正态曲线.1,0 的正态分布称为标准正态分布.标准正态分布的重要性在于，任何一个一般的正态分布都可以通过线性变换转化为标准正态分布.随机变量函数的分布设 X 为连续型随机变量，具有概率密度 fx(x)，求 Y=g(X)（g 连续）的概率密度。1一般方法分布函数法 可先求出 Y 的分布函数 FY(y)：因为 FY(y)=PYy=Pg(X)y，设ly=x|g(x)y则 tXPsXtsXP|xexfx,)()(22221 yxgXlXyYdxxfdxxflXPyFy)()()(再由 FY(y)进一步求出 Y 的概率密度 2.设连续型随机变量 X 的密度函数为 X(x),y=f(x)连续,求 Y=f(X)的密度函数的方法有三种：（1）分布函数法；（2）若 y=f(x)严格单调，其反函数有连续导函数，则 可用公式法；（3）若 y=g(x)在不相重叠的区间 I1,I2,上逐段严格单 调，其反函数分别为 h1(y),h2(y),且 h1(y),h 2(y),均为连续函数，则 Y=g(X)是连续型随机变量，其密度函数为 对于连续型随机变量，在求Y=g(X)的分布时，关键的一步是把事件 g(X)y 转化为X在一定范围内取值的形式，从而可以利用 X 的分布来求 P g(X)y.。第三章、多维随机变量.分布函数的性质 )(yFyfYY LyhyhyhyhyXXY2211.,),(,)()(),(:,),(YXYXyYxXPyYxXPyxFyxYX I),(),(,),(11212oyxFyxFxxyyxyxF 对于任意固定的 y，对于任意固定的 x，离散型随机变量的分布、连续型随机变量及其概率密度性质 边缘分布 1 离散型随机变量的边缘分布律,1),(02o yxF,0),(lim),(yxFyFx,0),(lim),(yxFxFy,0),(lim),(yxFFyx.1),(lim),(yxFFyx.,),(,)0,(),(,),0(),(3o yxyxFyxFyxFyxFyxF ,),(),(421212211oyyxxyxyx .0),(),(),(),(21111222 yxFyxFyxFyxF .,),(,2,1,2,1,),(),(YXYXjipyYxXPjiyxYXijjijiLL .1,011 ijijijpp .0),()1(yxf.1),(dd),()2(Fyxyxf(3),(,)GxOyX YG .dd),(),(GyxyxfGYXP.),(),(,),(),()4(2yxfyxyxFyxyxf .),(),2,1(),2,1(,2,1,2,1,.,2,1,),(11 YXYXjpipjyYPppixXPppjipyYxXPYXjijiijjijijiijjiLLLLL 连续型随机变量的边缘分布随机变量的独立性：两个随机变量函数的分布一、离散型随机变量函数的分布 .),(,d),()(,dd),(),()(,),(,),(的边缘概率密度关于称其为随机变量记由于度为设它的概率密对于连续型随机变量XYXvvxfxfuvvufxFxFyxfYXXxX.,)()()),()(,)(),(相相互互独独立立YXyFxFyxFyYPxXPyYxXPyxYXyFxFyxFYXYX 则有边缘概率密度分别为的概率密度为设连续型随机变量,)(,)(,),(),()3(yfxfyxfYXYX YX).()(),(yfxfyxfYX ,2,1,L jipyYxXPijji ),(YXgZ ),(kkzYXgPzZP 二、连续型随机变量函数的分布第四章.、随机变量的数字特征随机变量的数学期望 E(X)是一个实数,而非变量,它是一种加权平均,与一般的平均值不同,它从本质上体现了随机变量 X 取可能值的真正的平均值,也称均值.2.连续型随机变量数学期望的定义数学期望的本质 定积分 它是一个数不再是随机变量3.数学期望的性质E(C)=C .),(,.),(,),(,222121222211NZYXZNYNXYX .,),2,1(,12121 XXXniXXXXniiniinLLL.)(.)(,.,2,1,111 kkkkkkkkkkkpxXEXEXpxpxkpxXPX L.d)()(.)(,d)(,d)(,)(xxfxXEXEXxxfxxxfxxfX E(CX)=CE(X)E(X+Y)=E(X)+E(Y)当X,Y 独立时，E(X Y)=E(X)E(Y)若存在数 a 使 P(X a)=1,则 E(X)a；若存在数 b 使 P(X b)=1,则 E(X)b.第二节随机变量的方差方差的定义D(X)描述 r.v.X 的取值偏离平均值 的平均偏离程度5.随机变量方差的计算 利用公式计算方差的性质 1.D(C)=0 2.D(CX)=C2D(X)D(aX+b)=a2D(X)()(2)()()(YEYXEXEYDXDYXD特别地，若X,Y 相互独立，则若 Xi，Xj均相互独立，baaan,21L均为常数，则CXEaCXaEniiiniii11)(,)(,)(,22 XXEXEXEXEX .)()Var()(,)Var()(2XEXEXXDXXD .)()()(22XEXEXD )()()(YDXDYXDniiiniiiXDabXaD121)(2 若X,Y 相互独立可得逆命题不成立；3 若X,Y 相互独立可得逆命题不成立。4.对任意常数C,D(X)E(X C)2,当且仅当C=E(X)时等号成立5.D(X)=0 等价于P(X=E(X)=1 称为X 依概率 1 等于常数 E(X)。切比雪夫不等式 设随机变量X有期望E(X)和方差 ，则对于任给 0,)()()(YDXDYXD)()()(YEXEXYE22|)(|XEXP221|)(|XEXP第三节、协方差与相关系数若,0XY 则称 x，y 不相关。注：（1）X 和 Y 的相关系数又成为标准协方差，它是一个无量纲的量。2、若随机变量 X 和 Y 相互独立 .)()(),ov(C,),Cov(.)()(YEYXEXEYXYXYXYEYXEXE .)()(),Cov(的相关系数与为随机变量YXYDXDYXXY)()(),Cov(YEYXEXEYX )()(YEYEXEXE .0)()(2 )()()(YEYXEXEYDXDYXD ),(Cov2)()(YXYDXD 协方差的计算公式1、Cov(X,Y)=E(XY)-E(X)E(Y)2、D(X+_Y)=D(X)+D(Y)+2Cov(X,Y)协方差的性质：相关系数：1、二维正态分布密度函数中，参数p代表了与 Y 的相关系数。2、二维正态随机变量 X 和 Y 相关系数为零等价于 X 和 Y 相互独立。即 XY 相互独立 等价于 XY 不相关不相关的充要条件))(YDXD );,Cov(),Cov()1(XYYX;,),Cov(),Cov()2(baYXabbYaX).,Cov(),Cov(),Cov()3(2121YXYXYXX .)()(),Cov(YDXDYXXY ;0,1o XYYX ;0),Cov(,2o YXYX ).()()(,3oYEXEXYEYX 相关系数的性质：第五章：极限定理大数定理：设Xn为一随机变量序列,E(Xn)存在，记 则称Xn服从（弱）大数定律。切比雪夫大数定律：设 X1,X2,是相互独立的随机变量序列，它们都有有限的方差，并且方差有共同的上界，即 D(Xi)K，i=1,2,，则对任意的0马尔科夫条件：在切比雪夫大数定理的证明过程中可以看出只要 ()，则大数定理就能成立。切比雪夫大数定律的特殊情况：设X1,X2,是独立随机变量序列，且E(Xi)=，D(Xi)=2 ，i=1,2,则对任给 0,辛钦大数定律：设随机变量序列X1,X2,独立同分布，具有有限的数学期E(Xi)=,i=1,2,，则对任给 0，.1)1(XY.1,:1)2(bXaYPbaXY L,2,111 nXEXnYniiin ,11limlim1 niiinnnXEXnPYP若若niniiinXEnXnP111|)(11|lim 0)(1lim12 niinXDn1|1|lim1 niinXnP1|1|lim1 niinXnP辛钦大数不要求随机变量的方差存在.它为寻找随机变量的期望值提供了一条实际可行的途径.中心极限定理：独立同分布下的中心极限定理：设X1,X2,是独立同分布的随机变量序列，且E(Xi)=，D(Xi)=2 ，i=1,2,，则 注：参考资料 概率论 数理统计 随机过程 作者：胡细宝 孙洪祥 王丽霞 郭永江老师的教学课件 lim1xnnXPniinx-2t-dte212