1、Click to edit Master title style,Click to edit Master text styles,Second Level,Third Level,Fourth Level,Fifth Level,本资料仅供参考,不能作为科学依据。谢谢。本资料仅供参考,不能作为科学依据。本资料仅供参考,不能作为科学依据。谢谢。本资料仅供参考,不能作为科学依据。,概率论与数理统计,讲课系统,制作:河海大学理学院,数学系列基础课程CAI课题组,二000年七月,南京,1/161,概率论与数理统计,河海大学数学系列基础课程CAI,2/161,本课程与其它数学基础课关系,微积分,
2、高等数学),线性代数,3/161,序 言,一.确定性数学,初等数学、高等数学(微积分)、线性代数等,二.随机数学,-,以概率论为代表,1.赌博 人口统计 出生率 性别等,2.非确定性现象:抛硬币 掷骰子 发大水等,3.研究和揭示随机现象统计规律性科学,-概率论,4/161,三.理论联络实际最活跃学科,1.应用性:,概率统计理论一直在广泛地应用于工农业、军事、科技等领域,2.渗透性:,与基础学科、工程学科结合可产生新学科和研究方向。,比如:信息论、系统论、控制论、排队论、可靠性理论、可靠度分析、平差分析、统计物理、水文统计、数量经济等,5/161,四.概率论内容组成,基础部分-概率论:,古典
3、概率 随机变量及其分布,分布函数 数字特征等,应用部分-数理统计:,统计量结构 参数预计,假设检验 回归分析等,深入部分-随机过程:,马尔可夫过程 平稳过程,随机分析等,本课程内容在数学上属于概率论范围,它由以下三个部分所组成,本课程只介绍基础部分和应用部分。,6/161,概 率 论,第一章,随机事件与概率,第二章,离散型随机变量及其分布,第三章,连续型随机变量及其分布,第四章,随机变量数字特征,第五章,大数定律和中心极限定理,7/161,第一章 随机事件和概率,随机试验,样本空间、随机事件,频率和概率,古典概型,几何概型,概率公理化结构,条件概率,事件独立性,贝努里概型,8/161,1.1
4、随机试验,一、随机试验(简称“试验”)例子,随机试验可表为E,E,1,:,抛一枚硬币,分别用“H”和“T”表示出正面和反面;,E,2,:,抛两枚硬币,考虑可能出现结果;,E,3,:,掷一颗骰子,考虑可能出现点数i;,E,4,:,掷两颗骰子,考虑可能出现结果及点数之和;,9/161,二、随机试验特征,E,5,:,统计电话交换台一分钟内接到呼叫次数;,E,6,:,对一目标进行射击,直到命中为止,考虑其结果;,E,7,:,在一批灯泡中任取一只,测其寿命。,1.可在相同条件下重复进行;,2.试验结果不止一个,但能确定全部可能结果;,3.一次试验之前无法确定详细是哪种结果出现。,10/161,1.2 样
5、本空间、随机事件,一、样本空间,1、样本空间:,全部基本事件组成集合称为样本空间,记为=;,2、样本点:样本空间元素称为样本点,样本点即基本事件,记为.,比如,对应E,1,样本空间为=H,T;,对应E,2,样本空间为,=(H,H),(H,T),(T,H),(T,T);,对应E,5,样本空间为=0,1,2,;,11/161,二、随机事件,1.定义,试验中可能出现或可能不出现事情叫,“随机事件”,简称“事件”.,2.基本事件,:不可能再分解事件,即试验结果,,常记为“,”,.,3.两个特殊事件,:必定事件、不可能事件,.,任何事件均是一些样本点组成集合.,例,对于试验,E,2,与,E,5,,以下A
6、B即为两个,随机事件:,A“最少出一个正面”(H,H),(H,T),(T,H);,B“最少m次少于n次”m,m+1,n1。,12/161,三、事件之间关系,1.包含关系:“A,发生必造成B发生”记为A,B,AB,A,B且B,A.,2.和事件:A,B,3.积事件:A,BAB,4.,差事件、对立事件(余事件):AB称为A与B差事件,5.,互不相容性:AB,A、B,互为,对立事件,A,B,且AB,13/161,四、事件与集合对应关系类比,概率论,集合论,样本空间,事件,子集,事件A,发生,A,事件A,不发生,A,必定事件,不可能事件,事件A,发生造成事件B发生,AB,14/161,概率论,集合
7、论,事件A,与B最少有一个发生 A,B,事件A,与B同时发生 A,B(,或AB),事件A发生而B不发生 AB,事件A与B互不相容 AB,15/161,五、事件运算,1、交换律:,A,BB,A,ABBA,2、结合律,:(A,B),CA,(BC),,,(AB)CA(BC),3、分配律,:(A,B)C(AC),(BC),,,(AB),C(A,C),(B,C),4、对偶(De Morgan)律,:,16/161,1.3 频率与概率,一、频率,1.定义,事件A,在n次重复试验中出现n,A,次,则比值n,A,/n,称为事件A在n次重复试验中出现频率,记为f,n,(A).,即,f,n,(A)n,A,/n.,
8、17/161,2.频率性质,(1)非负性:,f,n,(A),0;,(2),规范性:f,n,(,)1;,(3),可加性:若AB,,,则,f,n,(A,B)f,n,(A)f,n,(B).,实践证实:当试验次数n增大时,f,n,(A),逐步,趋向一个定值,。,18/161,二.概率,历史上曾有些人做过试验,试图证实抛掷匀质硬币时,出现正反面机会均等。,试验者 n n,H,f,n,(H),De Morgan 2048 1061 0.5181,Buffon 4040 2048 0.5069,K.Pearson 1 6019 0.5016,K.Pearson 24000 1 0.5005,19/161,1
9、定义,若对随机试验E,所对应样本空间,中每一事件 A,均赋予一实数P(A),集合函数P(A)满足条件:,(1),非负性,:,对任,一事件A,有P(A),0;,(2),规范性,:,P(,)1;,(3),可列可加性,:,设A,1,,A,2,是一列两两互不相容事件,即A,i,A,j,,(ij),i,j1,2,有,P(A,1,A,2,)P(A,1,)P(A,2,)+,.(1.1),则称,P(A),为事件A,概率,。,20/161,2.概率性质,(1),不可能事件概率零,:P(,)0;(1.2),(2),有限,可加性,:,设A,1,,A,2,A,n,是n个两两互不相容事件,即A,i,A,j,,(ij)
10、i,j1,2,n,则有,P(A,1,A,2,A,n,)P(A,1,)P(A,2,)+,+P(A,n,);(1.3),(3),单调不减性,:若事件B,A,,则P(B),P(A),且,P(BA)P(B)P(A);(1.4),21/161,(4),互补性,:P(A)1 P(A),且P(A),1;(1.5),(5),加法公式,:对任意两事件A、B,,有,P(A,B)P(A)P(B)P(AB)(1.6),公式,(1.6)可推广到任意n个事件A,1,,A,2,,,,A,n,情形;,(6),可分性,:对任意两事件A、B,有,P(A)P(AB)P(AB).(1.7),22/161,普通,有以下定义,定义,事
11、件组,A,1,,A,2,,,,A,n,(n,可为,),称为样本空间,一个划分(或完备事件组),若满足:,23/161,1.4 古典概型,一、古典概型特征,1.有限性:样本空间,1,2,n,;,2.,等可能性:P(,i,)1/n,(i1,2,n).,古典概型也称为,等可能概型。,24/161,二、古典概型计算公式,P(A),设事件A,中包含k个样本点(基本事件),25/161,例1、,掷一颗骰子,求出6点概率。,例2、,做试验E:“,将一枚硬币连抛2次”,观察出正、反面情形。,(1)写出E,样本,空间;,(2)设A,1,“,恰有一次出正面”,求P(A,1,);,(3),设A,2,“,最少出一次正
12、面”,求P(A,2,).,26/161,例3、,袋中有6只乒乓球,其中4白2红,现从中,取二次,每次取一只(分别考虑,有放回,和,无放回,取球情形)。求,(1)全是白球概率;,(2)两球色相同概率;,(3)最少一只白球概率。,27/161,三、古典概型几类基本问题,1、抽球问题,设袋中有N,个球,其中有M个白球,现从中任抽n个球,问这n个球中恰有k个白球概率是多少?,2、取数问题,设有17七位数字,,从中任取三个不一样数字组成一个三位数,,求,这,三位数是偶数概率。,28/161,3、分配问题,把n,个球随机地,分配到m个盒子中去,问每盒中,至多有一球概率是多少?,4、配对问题,从五双不一样鞋
13、子中任意地取出四只,问其中至,少有两只成双,概率是多少?,29/161,例4、,设有n,个人,每个人都等可能地被分配到N个房,间中任意一间去住(n,N),,求以下事件概率:,(1)指定n个房间每个房间各有一人;,(2)恰好有n个房间,每个房间各有一人。,例5、,某班级有n,个人(n,365,),,问最少有两个人生日在同一天,概率有多大?,30/161,例6,、(De Mere,问题)一颗,骰子掷4次最少得一个六点,与两颗骰子掷24次最少得一个双六,这两件事,哪,一个有更多机会碰到?,31/161,1.5,几何概型,一、几何概型特征,1.,基本事件数无限,:,,,充满区域,,且可测,;,2.,
14、等可能性,:随机点落在某区域g概率与区域g,测度(长度、面积、体积等)成正比,而与其位置及形状无关。,32/161,二、几何概型计算公式,其中A,g,表示“在区域,中随机地取一点落在,区域,g,中”,这一事件。,33/161,例2,、(蒲丰(Buffon),投针问题)1777年法国,科学家蒲丰提出了以下著名问题:,平面上画着一些平行线,它们,之间距离都等于,a,,,向此平面上任,投一长度为,l,(,I,0,,(i1,,,n),,则对任何事件B,F,,,有,式(1.7.5)就称为,全概率公式,。,42/161,例3、,某厂有三个车间生产同一个产品,已知三个车间,产量分别占总产量1/4、1/4、1
15、/2,且次品率分别,为 2、1、3,试求该厂这种产品次品率。,定理2、,设A,1,,,A,n,是,一个划分,且P(A,i,)0,,(i1,,,n),,则对任何事件B,F,,,有,式(1.7.6)就称为,贝叶斯公式,或,逆概率公式,。,43/161,例4、,在无线电通讯中,因为随机原因影响,当发出短号“,”时,收到“,”、“不清”和长号“”概率分别是0.7、0.2和0.1,当发出长号“”时,收到“”、“不清”和“,”“概率分别是0.9、0.1和0.若在整个发报过程中信号“,”及“”出现概率分别是0.6和0.4,当收到信号“不清”时,试推测原发信号。,44/161,1.8 事件独立性,一、两事件独
16、立,定义1、,设A、B,是两事件,若,P(B)P(B|A)(1.8.1),则称事件A与B相互独立。,式(1.8.1),等价于:,P(AB)P(A)P(B)(1.8.2),45/161,二、多个事件独立,定理、,以下四件事等价:,(1)事件A、B,相互独立;(2)事件A、B相互独立;,(3)事件A、B相互独立;(4)事件A、B相互独立。,定义2、,若三个事件A、B、C满足:,(1)P(AB)=P(A)P(B),P(AC)=P(A)P(C),P(BC)=P(B)P(C),则称事件A、B、C,两两相互独立,;若在此基础上还满足:,(2)P(ABC)P(A)P(B)P(C),(1.8.3),则称事件A
17、B、C,相互独立,。,46/161,三、事件独立性应用,普通地,设A,1,,A,2,,A,n,是,n,个事件,,假如对任意k (1,k,n),任意1,i,1,i,2,i,k,n,,含有等式,P(A,i,1,A,i,2,A,i,k,)P(A,i,1,)P(A,i,2,)P(A,i,k,)(1.8.4),称,n,个事件,A,1,,A,2,,A,n,相互独立,。,1、,加法公式简化,:若,事件A,1,,A,2,,A,n,相互独立,则,P(A,1,A,2,A,n,),(1.8.5),2、,在可靠性理论上应用,47/161,1.9贝努里概型,一、贝努里(Bernoulli)概型,1.只有两个可能结果试
18、验称为,贝努里试验,,常记为E。,E也叫做“成功失败”试验,“成功”概率惯用,p,P(A),表示,其中A“成功”。,2.把E重复独立地进行n次,所得试验称为,n,重贝努里,试验,,记为E,n,。,3.把E,重复独立地进行可列屡次,,所得试验称为可列重,贝努里试验,,记为E,。,48/161,二、贝努里概型中几个主要事件概率,以上三种,贝努里试验统称为,贝努里概型,。,1,.,E,n,中成功k次概率是,3.E,中第r次成功发生在第k次试验概率是,2.E,中首次成功发生在第k次试验概率是,49/161,第二章 离散型随机变量及其分布,随机变量概念,一维离散型随机变量分布律,二维离散型随机变量,离散
19、型随机变量函数分布律,50/161,2.1 随机变量概念,实例,做试验抛一枚匀质硬币,其样本空间,H,T,可要求随机变量,XX(,),随机变量实际上是定义在样本空间上一个实函数。,51/161,定义,设随机试验E,样本空间是,,XX(),是定义,在上一个单值实函数。若对任意实数x,样本点,集合|X()xXx是一随机事件,则X()称为随机,变量,简记为X.随机变量普通用英文大写字母X、Y、Z,等表示,也可用希腊字母、等表示。,随机变量分类:,随机变量,52/161,2.2 一维离散型随机变量分布律,一、分布律,1.定义,若随机变量,X,取值x,1,x,2,x,n,且取这些值概率,依次为p,1,p
20、2,p,n,则称X为离散型随机变量,而称,P,X,=x,k,=p,k,(k=1,2,),为X分布律或概率分布,。可表为,X,P,X,=x,k,=p,k,(k=1,2,),,或,X,x,1,x,2,x,n,P p,1,p,2,p,n,53/161,2.分布律性质,(1)p,k,0,k1,2,;,(2),例1,设袋中有5只球,其中有2只白3只黑。现从中任取3,只球(不放回),求抽得白球数X,为k概率。,解,k,可取值0,1,2,54/161,二、几个惯用离散型分布,1.退化分布(单点分布),XPXa1,,其中a为常数。,2.(01)分布(两点分布),XPXkp,k,(1p),1k,(0p1)k0
21、1,3.几何分布,XPXk(1p),k1,p,(0p1)k1,2,4.,二项分布B(n,p),XPXk,p,k,(1p),nk,(0p1)k0,1,2,n,55/161,p,r,(1p),kr,kr,r+1,(r,1,0p0,则称,p,i|j,为Y y,j,条件下,X,条件分布律,;,63/161,同理,,若对固定i,p,i,.,0,则称,p,j|i,为X x,i,条件下,Y,条件分布律,;,条件分布律也满足分布律性质,例1,一射手进行射击,命中目标概率为p(0p1),,射击进行到命中目标两次为止,现用X表示首次命中目标所进行射击次数,用Y表示总共进行射击次数。试求X和Y联合分布律及边缘分布
22、律。,解,由题意知(X,Y)分布律为,PX=m,Y=np,2,(1p),n2,,m=1,2,n1;n=2,3,X,服从参数为p几何分布,其分布律为,PX=mp(1p),m1,,m=1,2,64/161,Y,服从参数为 2、p负二项分布,其分布律为,PY=n(n1)p,2,(1p),n2,,n=2,3,(X,和Y,边缘,分布律,普通可由联合,分布律,求得,)。,另外,当n=2,3,时,P,m|n,PX=m|Y=n,当m=1,2,时,P,n|m,PY=n|X=m,65/161,四、离散型随机变量相互独立性,设随机变量X,与Y,联合分布律,为,(X,Y)PXx,i,Y y,j,p,ij,,(i,j1
23、2,),,若对,任意,i、j,,有p,ij,p,i,.,p,.,j,,即,PXx,i,Y y,j,PXx,i,PY y,j,则称随机变量X,与Y,相互独立,。,上述概念不难推广到n维离散型随机变量情形。例,如,设X,1,,X,2,,,X,n,分别可取值,对任意i,1,i,2,i,n,成立,则称随机变量X,1,,X,2,,,X,n,相互独立,。,66/161,2.4 离散型随机变量函数分布律,一、一维离散型随机变量函数分布律,定理1,设,X,一个随机变量,,若,yg(x),是一元单值实函数,,则Yg(X)也是一个随机变量。,若 XPXx,k,p,k,k1,2,则,Yg(X)PYg(x,k,)p
24、k,,k1,2,其中g(x,k,),有相同,其对应概率合并。,显然,Y分布律也满足分布律性质。,67/161,二、多维离散型随机变量函数分布律,定理2,设,X,1,,X,2,,,X,n,是一个n维随机变量,,若,y,g(x,1,x,2,x,n,),是一个n元实值函数,则,Yg(,X,1,,X,2,,,X,n,),也是一个随机变量。,以二维为例,若,(X,Y)P(Xx,i,Yy,k,)p,ik,,,i,k1,2,则,Zg(X,Y)PYz,l,68/161,例1,设XP(,1,),YP(,2,),,且X与Y相互独立,求,ZXY分布律。,解 PZk PX+Y=k,k,0,1,2,以上划线部分称为整
25、值随机变量,卷积公式,。,69/161,例2,设随机变量(X,Y),分布律为,(1),求PX=2|Y=2,PY=3|X=0;,(2)求WXY分布律;,(3)求Vmax(X,Y)分布律;,(4)求Umin(X,Y)分布律。,解,(1)因为 PY=20.25,PX=00.03,故,PX=2|Y=25/251/5;PY=3|X=01/3.,Y,X,0 1 2 3 4 5,0 0.00 0.01 0.03 0.05 0.07 0.09,1 0.01 0.02 0.04 0.05 0.06 0.08,2 0.01 0.03 0.05 0.05 0.05 0.06,3 0.01 0.02 0.04 0.0
26、6 0.06 0.05,70/161,(2)因为WXY可取值0,1,2,.,8,故其分布律为,W 0 1 2 3 4 5 6 7 8,P 0.00 0.02 0.06 0.13 0.19 0.24 0.19 0.12 0.05,(3)因为Vmax(X,Y),可取值0,1,2,3,4,5,故其分布律为,V 0 1 2 3 4 5,P 0.00 0.04 0.16 0.28 0.24 0.28,(4)因为Umin(X,Y),可取值0,1,2,3,故其分布律为,U 0 1 2 3,P 0.28 0.30 0.25 0.17,71/161,第三章 连续型随机变量及其分布,分布函数,一维连续型随机变量及
27、其分布,二维连续型随机变量及其分布,连续型随机变量函数密度函数,72/161,3.1 分布函数,一、分布函数概念,定义,设X,为随机变量,对任意实数x,事件X,x,概率,P X,x,称为随机变量X分布函数。记为F(x),即,F(x)P X,x.,易知,对任意实数a,b(ab),P aX,b,PX,bPX,a F(b)F(a).,73/161,例1,设随机变量X,具分布律为,X 0 1 2,P 0.1 0.6 0.3,试求出X,分布函数。,解,其图形以下:,F,(,X,),1,O 1 2,X,74/161,二、分布函数性质,1、单调不减性:若x,1,x,2,则F(x,1,),F(x,2,);,2
28、非负规范性:对任意实数x,0,F(x),1,,且,3、,右连续性:对任意实数x,0,,,反之,含有上述三个性质实函数,必是某个随机变量,分布函数。故该三个性质是,分布函数充分必要性质,。,75/161,分布函数概念可推广到n,维随机变量情形。事实,上,对n维随机变量(X,1,X,2,X,n,),,F(X,1,X,2,X,n,)P(X,1,x,1,X,2,x,2,X,n,x,n,),称为n维随机变量(X,1,X,2,X,n,),分布函数,或随机,变量X,1,X,2,X,n,联合分布函数。,普通,对离散型随机变量,XPX=x,k,p,k,k1,2,其分布函数为,76/161,例2,设,陀螺,顶
29、面圆周为单位圆,现在其上从01均匀刻,度,若让X,表示陀螺静止时其顶面圆周与地面接触点,,则X是随机变量,求X分布函数。,解,易知,有,其图形为:,77/161,3.2,一维连续性随机变量及其分布,一、密度函数,1.,定义,对于随机变量X,若存在非负可积函数f(x),,(-,x+,),,使对任意实数x,都有,则称X为连续型随机变量,f(x)为X,概率密度函数,,简,称,概率密度,或,密度函数,.常记为,X f(x),(-,x+,),密度函数,几何意义,为,78/161,2.,密度函数性质,(1)f(x),0,,(-,x,),;,(2),性质(1)、(2)是密度函数充要性质;,(3)若x是f(x
30、)连续点,则f(x),3.,对任意实数b,若X f(x),,,(-,x,),,则PX=b0,实际上,,从而,,79/161,二、几个惯用连续型分布,1.,均匀分布,若Xf(x),则称X在(a,b)内服从均匀分布。,对任意实数c,d(acdb),都有,这说明X落在(a,b)中任一区间概率只与该区间长度成正比,而与该区间位置无关,这就是均匀分布,概率意义,。,80/161,2.,指数分布,若 X,求(1)k,值;(2)P|X|0指数分布。,易知,,例,已知,X,解,(1)由,得,k1/2;,(2),81/161,3.,伽马分布,若 X,则称X,服从参数为,0,,0,伽马,分布,记为,(,),。,易
31、知,,(,)称为,伽马函数,,它含有以下几个性质:,(1),(,+1)=,(,);,(2),(,n,+1)=,n,!,;,82/161,4.,正态分布,若随机变量,其中,0,为实数,则称X,服从参数为,2,,,正态分布,记为N(,2,),,可表为,XN(,2,),.,易知 f(x),0;,令,可得,正态分布有三个特征:,83/161,(1),单峰对称,其图形关于直线,x,=,对称;,f,()max,f,(x).,(2),有两个拐点,(,,f,();(,,f,(),,(3),大小直接影响概率分布,越大,曲线越平坦,概率分布越分散,曲线又矮又胖;,越小,曲线越陡峻,概率分布越集中,曲线又高又瘦。,
32、正态分布也称为高斯(Gauss)分布。,84/161,5.,标准正态分布,参数,0,,2,1正态分布称为,标准正态分布,,可表为N(0,1)。为了区分于普通正态分布,其密度函,数表示为,分布函数表示为,普通概率统计教科书均附有标准正态分布表供读者查阅,(x),值。,85/161,注解,:(1),(x)1(x);,(2),若XN(,2,),,则F(x)PXx,正态分布是实践中应用最为广泛,在理论上,研究最多分布之一,故它在概率统计中占有特,别主要地位。,86/161,3.3二维连续型随机变量及其分布,一、联合分布及边缘分布,1、,联合分布函数,设(X,Y)是二维随机变量,(x,y),R,2,则称
33、F(x,y)=PX,x,Y,y,为(X,Y)分布函数,或X,与Y联合分布函数。,几何意义:对于(x,1,y,1,),(x,2,y,2,),R,2,(x,1,x,2,,y,1,y,2,),有,Px,1,X,x,2,,y,1,y,y,2,F(x,2,y,2,)F(x,1,y,2,)F(x,2,y,1,)F(x,1,y,1,),.,87/161,分布函数F(x,y),含有以下性质:,(1),非负规范,对任意(x,y),R,2,0,F(x,y),1,且F(+,+,)1;F(,),F(x,),F(x,y)F(,y).,(2),单调不减,对任意y,R,当x,1,x,2,时,F(x,1,y),F(x,2,
34、y);,对任意x,R,当y,1,y,2,时,F(x,y,1,),F(x,y,2,).,88/161,(3),右连续,对任意y,R,反之,任一满足上述四个,性质二元函数,F(x,y)都能够,作为某个二维随机变量,(X,Y),分布函数。,(4),矩形不等式,对于任意(x,1,y,1,),(x,2,y,2,),R,2,(x,1,x,2,,y,1,y,2,),F(x,2,y,2,)F(x,1,y,2,)F(x,2,y,1,)F(x,1,y,1,),0.,y,y,2,y,1,0,x,1,x,2,x,对任意x,R,x,1,X,x,2,y,1,0,且y0时,有,综上得,(3)由f(x,y)性质知(见下列图)
35、94/161,y,2,1,D,0 1 2 3 x,2x+3y=6,3.两个惯用二维连续型分布,(1)二维均匀分布,若二维随机变量(X,Y),密度函数为,则称(X,Y)在区域G上(内)服从均匀分布。,该分布密度函数显然满足密度函数两个,充要性质,即,非负性,和,完备性,。,95/161,其中,,1,、,2,为实数,,1,0、,2,0、|,|1,则称(X,Y),服从参数为,1,2,1,2,二维正态分布,可记为,(2)二维正态分布N(,1,2,1,2,),若二维随机变量(X,Y)密度函数为,能够验证:f(x,y)满足密度函数两个充要性质,事,实上,(1)f(x,y),0;,(2),96/161,三
36、边缘密度函数,设(X,Y)f(x,y),(x,y),R,2,则称,为(X,Y)关于X边缘密度函数;,同理,称,为(X,Y)关于Y边缘密度函数。,易知N(,1,2,1,2,),边缘密度函数f,X,(x),是N(,1,1,),密度函数,而f,Y,(y),是N(,2,2,),密度函数,故,二维正态,分布边缘分布也是正态分布,。,97/161,四、条件密度函数,F,X|Y,(x|y)PX,x|Y=y,称为已知Yy,条件下,X条件分布函数。,若已知(X,Y)f(x,y),(x,y),R,2,则因为,98/161,可见,,为已知Yy,条件下,X,条件密度函数,;,同理,称,为已知Xx,条件下,Y,条件密
37、度函数,。,99/161,五、随机变量独立性,1、随机变量相互独立普通定义,设X,1,,X,2,,X,n,为n 个随机变量,若对任意,(x,1,x,2,x,n,),R,n,,,有,PX,1,x,1,X,n,x,n,PX,1,x,1,PX,n,x,n,即 F(x,1,x,2,x,n,)F,X,1,(x,1,)F,X,2,(x,2,),F,X,n,(x,n,),则称X,1,,X,2,,X,n,相互独立。,2、随机变量相互独立等价定义,对于离散型随机变量情形,在第二章2.3节中,已经给予介绍。,100/161,若对任意整数i,1,i,2,i,n,及实数,则称离散型随机变量X,1,X,2,X,n,相互
38、独立。,定理1,设(X,Y)f(x,y),(x,y),R,2,f,X,(x),f,Y,(y),分别,为X与Y边缘密度,则X与Y相互独立等价于,f(x,y)f,X,(x)f,Y,(y),,对任意(x,y),R,2,几乎处处成立,。,易知,对任意(x,y),R,2,f(x,y)f,X,(x)f,Y,(y),f,X|Y,(x|y)f,X,(x),或 f,Y|X,(y|x)f,Y,(y).,101/161,定理1能够推广到n,维连续型随机变量情形:,设X,1,,X,2,X,n,为n 个连续型随机变量,若对任意,(x,1,x,2,x,n,),R,n,,,f(x,1,x,2,x,n,)f,X,1,(x,1
39、)f,X,2,(x,2,),f,X,n,(x,n,),几乎处处成立,则称X,1,,X,2,X,n,相互独立。,定理2,设(X,1,X,2,X,n,)与(Y,1,Y,2,Y,n,)相互独立,,则X,i,(i=1,2,m)与Y,j,(j=1,2,n)相互独立;又若h,g,是连续函数,则h(X,1,X,2,X,n,)与g(Y,1,Y,2,Y,n,)相,互独立.,102/161,3.4 连续型随机变量函数密度函数,一维变量情形,普通方法分布函数法,公式法,多个随机变量函数密度函数,普通方法分布函数法,几个惯用函数密度函数,103/161,3.4 连续型随机变量函数密度函数,一、一维变量情形,1、普通
40、方法,若Xf(x),-,xz,1 PX,1,z,X,n,z 1PX,1,z PX,n,z,1,111/161,尤其,当X,1,X,2,X,n,独立同分布(分布函数相同),时,则有,F,M,(z)F(z),n,;,F,N,(z)11F(z),n,.,深入地,若X,1,X,2,X,n,独立且具相同密度函,数f(x),则M和N密度函数分别由以下二式表出,f,M,(z)nF(z),n1,f(z);,f,N,(z)n1F(z),n1,f(z).,112/161,第四章 随机变量数字特征,数学期望,方差,协方差和相关系数,矩,几个主要随机变量期望和方差,113/161,4.1数学期望,加权平均数,离散型随
41、机变量数学期望,连续型随机变量数学期望,数学期望性质,114/161,4.1数学期望,一,加权平均数,分数 40 60 70 80 90 100,人数 1 6 9 15 7 2,则学生平均成绩是总分总人数(分)。即,例,设某班40名学生概率统计成绩及得分人数以下表所表示:,115/161,后一个计算方法可认为是40,60,70,80,90和100这六个数,加权平均数。普通地说,,加权平均数,可为,i,称为数x,i,权重,可见,平均值,即,加权平均数,。,116/161,X 40 60 70 80 90 100,P 1/40 6/40 9/40 15/40 7/40 2/40,于是,平均成绩,为
42、40PX=40+60PX=60+70PX=70+80PX=80+90PX=90+100PX=100,即取值乘取值概率相加即得平均值。这就是r.v.,数学期,望,概念,现引进r.v.X表示学生得分,则X有分布律,117/161,二.离散型随机变量数学期望,1,.,定义,若XPX=x,k,=p,k,k=1,2,绝对收敛,则,称该和式为r.v.X,数学期望,,简称,期望,或,均值,。记为,E(X)或EX,即,118/161,2.定理与推论,定理1,若,XPX=x,k,=p,k,k=1,2,则Y=g(X),期望,推论,若,(X,Y)PX=x,i,Y=y,j,=p,ij,i,j=1,2,则,Z=g(X
43、Y)期望,119/161,三.连续型随机变量数学期望,1.离散化分析,设Xf(x),-,x,现在a,b上考虑r.v.X期望:E*(X)。把,a,b等分成n个小区间,插入分点:a=x,0,x,1,x,n,=b,其中,x,i,=x,i,-x,i-1,=(b-a)/n,i=1,2,n,则,于是X落在(,x,i-1,x,i,上概率可认为是X集中在点,x,i,处概率。,120/161,故,从而,2,.,定义,若Xf(x),-,x,绝对收敛,则称其为连续型,r.v.X数学期望。即,121/161,四,数学期望性质,3,定理与,推论,定理2,若Xf(x),-,x,则Y=g(X),期望,推论,若(X,Y)f
44、x,y),-,x,-,y0,DY0,则,称为X与Y,相关系数,.,(5)D(X Y)=D(X)+D(Y)2cov(X,Y).,134/161,若,XY,=0,则称,X与Y不相关,,不然称X与Y相关。,称为X标准化,易知EX,*,=0,DX,*,=1.,Cov(X*,Y*)称为X与Y标准化协方差,易知,引理,对于r.v.X,Y,有E(XY),2,E(X,2,)E(Y,2,).,即E(XY),2,E(X,2,)E(Y,2,).,该不等式称为,柯西,(Cauchy),不等式,.,135/161,2.相关系数性质,(1)|,XY,|,1;,(2)|,XY,|=,1存在,常数a,b 使PX=aY+b=
45、1,;,(3)X与Y不相关,cov(X,Y)=0;,(4)X与Y独立,则X与Y不相关,反之不然。,证,(1)由引理知,(2)“,”若|,XY,|=,1,,则,由引理知:判别式,136/161,(3)、(4)显然,137/161,例,设(X,Y)在D=(X,Y):x,2,+y,2,1上服从均匀分布,则,X与Y不相关,但不是相互独立。,138/161,139/161,三.切比雪夫不等式,若,r.v.X,期望和方差存在,则对任意,0,有,这就是著名,切比雪夫(Chebyshev)不等式。,它有以下几个等价形式:,记,2,=,D(X),=E(X),则对k0,有,140/161,4.4 矩、协方差矩阵,
46、矩,协方差矩阵,141/161,4.4 矩、协方差矩阵,一.矩,1.K,阶原点矩,k,=E(X,k,),k=1,2,而E(|X|,k,)称为XK,阶绝对原点矩;,2.,K,阶中心矩,k,=EX-E(X),k,k=1,2,而E|X-E(X)|,k,称为XK,阶绝对中心矩;,易知 E(X)=,1,D(X)=,2,.,142/161,3.K+l,阶混合原点矩,E(X,k,Y,l,),k,l=0,1,2,;,4.,K+l,阶混合中心矩,EX,E(X),k,Y,E(Y),l,k,l=0,1,2,;,易知 cov(X,Y)=EX,E(X)Y,E(Y),是,1+1阶混合中心矩,。,可见矩对于随机变量而言是普
47、通数字特征,而数学,期望、方差、协方差等都是一些特殊矩。,143/161,二.,协方差矩阵,1.定义,设X,1,,,X,n,为n个r.v.,记c,ij,=cov(X,i,X,j,),I,j=1,2,n.则称由c,ij,组成矩阵为r.v.X,1,,,X,n,协方差矩阵,C,。即,2.协方差矩阵性质,记,则,144/161,(1),C,=,C,其中,C,为,C,转置;,(2),C,是,非负定矩阵,,即对任意n维实向量,=(,1,n,),.有,C0.,证:,(1)显然;,(2),C,=,E,(,X,)(,X,),=E,(,X,)(,X,),=,E(,(,X,)(,(,X,),0,,其中,X,=(X,
48、1,X,n,),=(,1,n,),i,=X,i,。,145/161,X,=(X,1,,X,2,),概率密度为,146/161,147/161,故,XY,=,.,可见,若(X,Y)服从二维正态分布,则X与Y,独立,充分必要条件,是X与Y,不相关,。,另外,由,协方差矩阵,能够证实:,相互独立正态随机变,量线性组合还是正态随机变量,。即若X,1,,X,n,相互独,立,且,,则对任意常数,1,,,n,148/161,第五章 大数定律与中心极限定理,依概率收敛,大数定律,依分布收敛,中心极限定理,149/161,5.1 大数定律,依概率收敛,几个惯用大数定律,切比雪夫大数定律,伯努里,大数定律,辛钦大
49、数定律,150/161,5.1 大数定律,一.依概率收敛,设X,n,为随机变量序列,X为随机变量,若对任意,0,有,则称X,n,依概率收敛,于X.可记为,151/161,二.几个惯用大数定律,1.,切比雪夫,大数定律,设X,n,为独立随机变量序列,若EX,k,,D,X,k,C,,C为正数,k=1,2,(称,X,n,为,方差一致有界,),则,X,n,服,从大数定律。即,152/161,推论1,若,X,n,为独立,同分布,随机变量序列,且EX,k,=,D,X,k,=,2,,k=1,2,则,X,n,服从大数定律。,推论2,若,X,n,为独立随机变量序列,满足马尔可夫条件:,则,X,n,服从大数定律。
50、2,.,伯努里,大数定律,设X,n,为独立随机变量序列,且X,k,B(1,p,k,),0 p,k,1,k=1,2,则,X,n,服从大数定律。,153/161,3.,辛钦大数定律,若,X,n,为独立,同分布,随机变量序列,且EX,k,=,k=1,2,则,X,n,服从大数定律。,大数定律说是:对于,随机变量序列X,n,,只要它,满足一定条件,即有,大数定律,能够用来说明,频率稳定性。,154/161,5.2 中心极限定理,依分布收敛,几个惯用中心极限定理,独立同分布,中心极限定理,李雅普诺夫中心极限定理,德莫佛-拉普拉斯中心极限定理,大数定律与中心极限定理关系,155/161,5.2 中心极限定






