概率1收敛与强大数定律.doc

§3 概率1收敛与强大数定律

一、以概率1收敛
二、强大数定律
本章补充与注记

本章习题

一、以概率1收敛
大家知道, 随机变量是定义在概率空间上取值为实数的函数. 因此我们可以像数学分析讨论函数序列逐点收敛性那样去讨论随机变量序列在每个样本点处的值的收敛性. 然而, 由于随机变量取值的随机性, 我们常常不可能期望随机变量序列在所有点处都存在极限. 现在的问题是研究极限是否在一个概率为1的点集上存在.
定义1 设和{}是定义在概率空间 (Ω, F, P)上的随机变量序列.
1. 如果存在F, P()=0, 且对任意，有，则称以概率1收敛（converge with probability one）或几乎处处收敛(almost surely converge)于，记作(a. s. ).
2. 如果存在F, P()=0, 且对任意，数列{(ω)}是柯西基本列，即(ω)-(ω)→0，(n > m→∞), 则称以概率1是柯西基本列.
注 (a. s. ) 意味着最多除去一个零概率事件外, 逐点收敛于. 根据柯西基本数列一定存在极限的原则, 以概率1收敛当且仅当以概率1是柯西基本列.
下面给出以概率1收敛的判别准则.
定理1 设和{}是定义在概率空间 (Ω, F, P)上的随机变量序列.
(1) (a. s. ) 当且仅当对任意ε>0,
,
或者等价地
.
(2) {}以概率1是柯西基本列当且仅当对任意ε>0,
,
或者等价地
.
证 (1) 对任意ε>0, 令. 那么
{}.
由连续性定理（第一章§3）,
.
则下列关系式成立:
0 = P()
, 对任意m
, 对任意m
, 对任意m
, 对任意ε>0 .
(2). 对任意ε>0, 令, 那么
{不是柯西基本列}=.
以下类似于(1)即可证明.
推论 如果对任意ε>0, , 则(a. s. ).
证 注意到即可.
注 定理1表明(a. s. )可推出. 反之, 存在例子表明并不能导出(a. s. )（见补充与注记4）.

二、强大数定律
与以概率1收敛密切相关的是强大数定律.
定义2 设{}是定义在概率空间(Ω, F, P)上的随机变量序列, 如果存在常数列和使得
(a. s. ) ,
则称{}服从强大数定律(strong law of large numbers). 由于几乎处处收敛性强于依概率收敛性, 故强大数定律也比弱大数定律更深入一步.
我们在第二节知道，贝努里通过对二项分布的精确估计得到贝努里弱大数定律，即贝努里随机试验中事件发生的频率依概率收敛于该事件的概率. 直到1909年波雷尔才证明了下面更强的结果.
定理2（波雷尔强大数定律） 设{}是定义在概率空间(Ω, F, P)上的独立同分布随机变量序列，P(=1)= p, P(=0)=1-p, 0<p<1. 记, 则
(a. s. ). (1)
定理2进一步表达了“频率稳定到概率”这句话的含义.
柯尔莫哥洛夫1930年将上述结果从二项分布的随机变量推广到一般随机变量.
定理3（柯尔莫哥洛夫强大数定律） 设{}是定义在概率空间 (Ω, F, P)上的独立同分布随机变量序列，E. 记, 则
(a. s. ). (2)
事实上, 定理3的逆也成立: 如果存在常数, 使得(2)式成立, 那么的数学期望存在且等于.
这两个定理的证明从略.
例1 （蒙特卡罗方法） 令f (x) 是定义在[0, 1]上的连续函数, 取值于[0,1]. 令是一列服从于[0, 1]上的均匀分布的独立随机变量序列. 定义
,
则{}也独立同分布. 而且
,
由定理3,
(a. s. ). (3)
因此我们可以通过模拟来计算积分值, 方法是：在xoy平面的正方形{0≤x≤1, 0≤y≤1}上随机投点, 统计落在区域{0≤x≤1, 0≤y≤f (x)}内的频率（即为(3)式的左边）, 当投点次数充分多时, 此频率可充分接近所求积分.
至此, 我们已经介绍了概率论中一些经典的极限定理.

补充与注记
1. 在18和19 世纪, 极限定理一直是概率论研究的中心课题. 贝努里大数定律是第一个从数学上被严格证明的概率论定律, 它由贝努里在其1713年出版的名著《 推测术》中详细给出. 大数律这个名称则是泊松（Poisson 1781-1840）于1837年提出的. 中心极限定理这个名词1920年由波利亚（）给出，用于统称随机变量序列部分和的分布渐近于正态分布的一类定理. 它是概率论中最为重要的一类定理, 并有着广泛的实际背景. 最初的中心极限定理是关于重贝努里试验的, 1716年，德莫佛对的情形作了讨论，随后拉普拉斯将其推广到的情形. 从19世纪中叶到20世纪初期，一批著名的俄国数学家对概率论的发展做出了重要贡献. 他们运用严格的、强有力的数学分析工具，如富里埃变换等，将贝努里大数律、德莫佛-拉普拉斯中心极限定理推广到一般随机变量和的情形.
2. 在18世纪以前，证明贝努里大数律是一件相当困难的事情，它涉及到下列和式的计算：

直到德莫佛-拉普拉斯的重要发现以后，贝努里大数律才有了新的、较为简单的证明. 事实上, 德莫佛-拉普拉斯证明了如下的局部和整体中心极限定理：对足够大的和∽，
～
～
从上述渐近结果，我们不难得到贝努里大数定律.
3. 特征函数的泰勒渐近展开
作为第三章结果的一个推论，如果分布函数有阶有限矩，那么它的特征函数次连续可导. 这样我们可以在处对进行泰勒展开.
定理 假设随机变量有阶有限矩，记这些矩分别为. 那么它的特征函数在处有如下形式的泰勒展开：

= ,
其中, |.
4. 依概率收敛不能推出以概率1收敛, 例如: 令Ω=[0,1], F为[0,1]上所有波雷尔集构成的σ域，P为[0,1]上的勒贝格测度（长度）. 定义
i=1,2,…,n ; n=1,2,….
考虑随机变量序列{}, 并重新记成{}. 首先注意到, 对任意ε>0,
,
即. 另一方面, 对任意(ω), n=1,2,…中有无穷多个1，也有无穷多个0, 因此(ω)不存在极限.

习 题
1. 下列分布函数列是否弱收敛于分布函数？
(1) x <-1/ n时, ; x时, ;
(2)
2. 设的分布列为: P(=0)=1-1/ n, P(=1)=1/ n, n=1,2,…. 求证相应的分布函数列收敛于分布函数, 但E不收敛于相应分布的期望.
3. 设{}为独立同分布随机变量序列, 的分布列为 , . 求证的分布收敛于[0, 1]上的均匀分布.
4. 某计算机系统有120个终端.
(1) (1)           每个终端有5 %时间在使用，若各终端使用与否是相互独立的, 求有10个或更多终端在使用的概率;
(2) (2)           若每个终端有20%时间在使用, 求解上述问题.
5. 现有一大批种子，其中良种占1/ 6. 在其中任取6000粒，问在这些种子中良种所占的比例与1/ 6之差小于1 %的概率是多少？
6. 某车间有200台车床，工作时每台车床60 %时间在开动，每台开动时耗电1千瓦. 问应供给这个车间多少电力才能有0. 999的把握保证正常生产？
7. 一家保险公司里有10000个同类型人参加某种事故保险，每人每年付12元保险费，在一年中一个人发生此种事故的概率为0. 006，发生事故时该人可向保险公司领得1000元. 问：
(1) 对该项保险保险公司亏本的概率有多大？
(2) 对该项保险保险公司一年的利润不少于60000元的概率有多大？
8. 一家火灾保险公司承保160幢房屋，最高保险金额有所不同，数值如下表所示:
最大保险金额（万元）
投保房屋数
10
20
30
50
100

80
35
25
15
5
假设
1) 每幢房屋每年一次理赔概率0.04，大于一次理赔概率为0；
2) 各幢房屋是否发生火灾相互独立；
3) 如果理赔发生，理赔量服从0到最高保险金额间的均匀分布.
记N为一年中理赔次数，S为理赔总量,
a. 计算N的期望值和方差；
b. 计算S的期望值和方差；
c. 确定相对保证附加系数，即(每份保单保费收入-平均理赔量)/ 平均理赔量，以确保保险公司的保费收入大于理赔总量的概率等于0. 99.
9. 某保险公司开办5种人寿险，每种险别（一旦受保人死亡）的赔偿额及投保人数如下表所示.

类别k
赔偿额（万元）
投保人数
1
2
3
4
5
1
2
3
5
10
8000
3500
2500
1500
500

设死亡是相互独立的, 其概率皆为0. 02. 保险公司为安全起见, 对每位受保人寻求再保险. 其机制如下：确定一个自留额，设为2万元；若某人的索赔在2万元以下，则都由该保险公司偿付；若赔偿金超过2万元，则超过部分由再保险公司偿付；再保险率为投保金额的2. 5%. 该保险公司（相对于再保险公司而言，也称为分出公司）希望它的全部费用（即实际索赔总额S+再保险费）不超过825万元，求实际费用突破此限额的概率.
10. 设{}独立同分布，其分布分别为 (1) [-a, a] 上的均匀分布；(2) 泊松分布. 记 . 计算的特征函数，并求n时的极限, 从而验证林德贝格—勒维定理在这种情况成立.
11. 用德莫佛—拉普拉斯定理证明：在贝努里试验中，若0< p <1，则不管k是多大的常数，总有
P(|, ( n→∞).
12. 求证：泊松分布的标准化变量当参数λ→∞时趋近标准正态分布.
13. 13.       求证：当n→∞时，.
14. 14.       设{各自独立同分布, 也相互独立. E=0, Var=1， P{. 求证：的分布函数弱收敛于N (0,1).
15. 15.       设{}为独立随机变量序列，都服从(0,)上的均匀分布. 记，其中且.
证明服从中心极限定理.
16. 设服从柯西分布，其密度为(x)=. 求证：.
17. 设{}独立同分布，密度为 p(x)=. 令. 求证：.
18. 18.       求证：
(1) (1)  若,, 则;
(2) (2)  若,, 则;
(3) (3)  若,, c为常数, 与c都不为0，则;
(4) (4)  设,,c为常数, 则
; , (c≠0).
19. 19.       求证下列各独立的随机变量序列{}服从大数定律.
(1) P(P(;
(2) P(;
(3) P(=, n=1, 2, …;
(4) P(=n)=n=2, 3, …; c为常数.
20. 设{}服从同一分布，Var<+∞, 与相关, k=1,2,…, 但当|k-l|≥2时, 与独立. 求证这时大数定律成立.
21. （伯恩斯坦(Bernstein)定理）设{}的方差有界：Var≤c, 且当|i-j|→∞时, Cov(,)→0，则{}服从大数定律. 试证明之.
21. 在贝努里试验中，事件A出现的概率为p，令
= ,
求证{}服从大数定律.
23. 设{}独立同分布，都服从[0, 1]上的均匀分布，令, 求证：(常数)，并求出c.
24. 设{}独立同分布，E=a, Var<∞. 求证：
a .
25. 设{}独立同分布，都服从N (0, 1) 分布，. 求证：的分布函数(0, 1).
26. 设{}为独立同分布随机变量序列，Var<∞. 为绝对收敛级数，令, 则{服从大数定律.
27. 设{}为独立同分布随机变量序列，{为常数列，. 求证：
.
28. {}, {}相互独立，均服从N (0, 1)分布. {为常数列，求证：
[
的充要条件是.
29. 设{}独立同分布，都服从N (0, 1) 分布. 求证：渐近正态分布N (0, 1).
30. 设{}独立同分布，都服从 [-1, 1]上的均匀分布. 求证：
(1) {}服从大数定律；
(2) 的分布函数收敛于N (0, 1).
31. 设{}为相互独立的随机变量序列，成立中心极限定理，则它服从大数定律的充要条件是Var(.
32. 取Ω=(0,1), F为其中波雷尔集全体所成的σ域. 对任一事件A={ω∈(a,b)}，定义P(A)=b-a. 现定义
≡0,

求证：, 但.