1、第五章第五章 大数定律及中心极限定理大数定律及中心极限定理大数定律大数定律中心极限定理中心极限定理1 “概率是频率的稳定值”。前面已经提到,当随机试验的次数无限增大时,频率总在其概率附近摆动,逼近某一定值。大数定理就是从理论上说明这一结果。正态分布是概率论中的一个重要分布,它有着非常广泛的应用。中心极限定理阐明,原本不是正态分布的一般随机变量总和的分布,在一定条件下可以渐近服从正态分布。这两类定理是概率统计中的基本理论,在概率统计中具有重要地位。2一、依概率收敛定定义义5.1.1 (依概率收依概率收敛敛)大数定律大数定律讨论讨论的就是依概率收的就是依概率收敛敛.若若对对任意的任意的 0,有,有
2、则则称随机称随机变变量序列量序列Yn依概率收依概率收敛敛于于Y,记为记为5.1 大数定理3依概率收敛(续)(多多变变量函数量函数)设设g(x,y)在点在点(a,b)连续连续,则则,又,又设设函数函数4 定理(切比雪夫定理(切比雪夫(Chebyshev)不等式)不等式):设随机变量X具有数学期望E(X)=,方差D(X)=2,则对于任意正数,有二、切比雪夫(Chebyshev)不等式5证证明明 (1)设X的概率密度为p(x),则有(2)设离散型随机变量X的分布律为PX=xk=pk,则有6解解 7 切比雪夫大数定律切比雪夫大数定律:设Xk是相互独立的随机变量序列,具有相同的数学期望E(Xk)=和方差
3、D(Xk)=2(k=1,2,),则对于任意给定的0,恒有注注:8解解 所以,满足切比雪夫大数定理的条件,可使用大数定理.9伯努里伯努里大数定律大数定律:设进设进行行n次独立重复次独立重复试验试验,事,事件件A发发生的次数生的次数为为 每次每次试验试验中事件中事件A发发生的生的概率概率为为p,则对则对任意的任意的证证明明:设设第第i次次试验试验事件事件A发发生生第第i次次试验试验事件事件A不不发发生生则则由切由切比雪夫大数定律比雪夫大数定律10 辛辛钦钦大数定律大数定律 若若Xk,k=1,2,.为为独立同分布随机独立同分布随机变变量序列量序列,E(Xk)=,k=1,2,,则则11二、几个常用的大
4、数定律二、几个常用的大数定律1、切比雪夫大数定律切比雪夫大数定律 设设随机随机变变量序列量序列X1,X2,Xn,相互独立,每一个相互独立,每一个随机随机变变量都有相同的数学期望量都有相同的数学期望E(Xk)=和方差和方差D(X1)=2,则则任意正数任意正数,即即12证证明明 因因为为X1,X2,Xn,相互独立,相互独立,由由切比雪夫不等式切比雪夫不等式可得可得该该定理表明:相互独立的随机定理表明:相互独立的随机变变量的算数平均量的算数平均值值 与数学期望的算数平均与数学期望的算数平均值值的差在的差在n充分大充分大时时是一个无是一个无穷穷小小量,量,这这也意味着在也意味着在n充分大充分大时时,经
5、经算算术术平均后得到的随机平均后得到的随机变变量量 的的值值将比将比较紧较紧密地聚集在它的数学期望密地聚集在它的数学期望 的附的附近。近。132、切比雪夫大数定律的特殊情况切比雪夫大数定律的特殊情况 设设随机随机变变量序列量序列X1,X2,Xn,相互独立,且具有相相互独立,且具有相同的数学期望同的数学期望和相同的方差和相同的方差2,记记前前n个随机个随机变变量的算量的算术术平均平均为为Yn,则则随机随机变变量序列量序列Y1,Y2,Yn,依概率收依概率收敛敛于于,即,即证证明明切比雪夫大数定律切比雪夫大数定律143、贝贝努里努里大数定律大数定律 设进设进行行n次独立重复次独立重复试验试验,每次,
6、每次试验试验中事件中事件A发发生生的概率的概率为为p,记记nA为为n次次试验试验中事件中事件A发发生的次数,生的次数,则则证证明(由切比雪夫不等式可直接明(由切比雪夫不等式可直接证证明)明)即即154、辛辛钦钦大数定律大数定律 若若Xk,k=1,2,.为为独立同分布随机独立同分布随机变变量序列量序列,EXk=0)(i=1,2,),记记前前n个个变变量的和量的和的的标标准化准化变变量量为为一、独立同分布的中心极限定理一、独立同分布的中心极限定理(Lindeberg-Levy林德林德贝贝格格-列列维维)则则Yn的分布函数的分布函数Fn(x)对对任意的任意的x(-,+)都有都有 18 该该定理定理说
7、说明,当明,当n充分大充分大时时,Yn近似地服从近似地服从标标准正准正态态分布,分布,YnN(0,1),随机随机变变量量近似地服从于正近似地服从于正态态分布分布 中心极限定理可以解中心极限定理可以解释释如下:如下:假假设设被研究的随机被研究的随机变变量可以表示量可以表示为为大量独立的随大量独立的随机机变变量的和,其中每个随机量的和,其中每个随机变变量量对对于于总总和的作用都很和的作用都很微小,微小,则则可以可以认为这认为这个随机个随机变变量量实际实际上是服从正上是服从正态态分分布的。布的。在在实际实际工作中,只要工作中,只要n足足够够大,便可把独立同分布大,便可把独立同分布的随机的随机变变量之
8、和当作正量之和当作正态变态变量。量。19解解 设设Xk为为第第k 次次掷掷出的点数,出的点数,k=1,2,100,则则X1,X2,X100独立同分布,而且独立同分布,而且由中心极限定理由中心极限定理20二、德莫佛二、德莫佛-拉普拉斯定理拉普拉斯定理(De Moivre-Laplace)在在n重重贝贝努里努里试验试验中,每次中,每次试验试验中事件中事件A发发生的概生的概率率为为p(0p75);(2)p=0.7时时,P(X75)。P(X75)(1)(2)当厂方宣当厂方宣传传符合符合实际时实际时,接受,接受这这一宣一宣传传的概率的概率约为约为0.8944,而当,而当厂方宣厂方宣传传不符合不符合实际时
9、实际时(言言过过其其实实)实际实际上治愈率上治愈率为为0.7时时,接受其,接受其虚假宣虚假宣传传的概率的概率仅仅有有0.1379。294、D(X)=0的充分必要条件是的充分必要条件是X以概率以概率1为为常数,即常数,即P(X=C)=15、切比雪夫、切比雪夫(Chebyshev,俄俄罗罗斯斯)不等式不等式 设设随机随机变变量量X,E(X)=,D(X)=2,则对则对任意的任意的0,必有,必有或或或等价于或等价于30切比雪夫不等式切比雪夫不等式给给出了在随机出了在随机变变量量X的分布未知的分布未知时时,概率,概率P(|X-E(X)|)的一个上限,的一个上限,当当分分别别取取时时2,3,4时时,有,有P(|X-E(X)|2)1/4P(|X-E(X)|3)1/9P(|X-E(X)|4)1/1631解解 由切比雪夫不等式由切比雪夫不等式令令练习练习32