大数定律与中心极限定律.docx

大数定律与中心极限定律
大数定律的基本定义：
观察随机变量： 的极限值等于
就说随机变量序列服从大数定律。
本质上来说，大数定律是来观察均值的。
1. 伯努利大数定律：说明了频率接近于概率的实质。

满足上式的随机变量序列就满足大数定律。
这里的n重伯努利实验就满足随机变量序列独立同分布。
2. 切比雪夫大数定律
对任意随机变量序列只要相互独立，若每个方差存在，且它们的方差有共同的上界。则服从大数定律。则有大数定律的成立。
证明：因为每个的方差存在且有共同的上界，于是有. 又有切比雪夫不等式得到：

当时，有
成立。显然，且切比雪夫大数定律只要求随机变量序列是独立的，且方差有限，且同上界。便有大数定律的成立，显然，伯努利大数定律是切比雪夫大数定律的特例。

3. 注意到切比雪夫大数定律中，其实只要求随机变量序列的方差和的平均值的方差极限值等于0，便有大数定律成立，所以就有了马尔科夫条件，显然马尔科夫大数定律不在要求随机变量序列具有同分布、独立性，不相关的假定，显然切比雪夫大数定律是马尔科夫大数定律的特例。

4. 辛钦大数定律 这个定律的条件是为一独立同分布的随机变量序列，且的期望是存在的，则服从大数定律。显然这里伯努利大数定律是辛钦大数定律的特例，但是辛钦大数定律与切比雪夫大数定律和马尔可夫大数定律的最重要条件不一样，即不假定随机变量序列的方差存在，不过要求随机变量序列是独立同分布的。

中心极限定律
中心极限定律的目标是看随机变量序列的和服从什么分布，只要满足中心极限定律的就满足正态分布
分两类看中心极限定律，一类是独立同分布下的随机变量序列的和满足中心极限定律，另一类是独立但不同分布下的随机变量序列的和满足中心极限定律。
一、 独立同分布下的中心极限定律
林德伯格-莱维(Lindeberg-Levy)中心极限定律：设是独立同分布的随机变量序列，且存在，若记：
，则对任意实数y，有

证明：为了证明林德伯格-莱维中心极限定律，只需证明的分布函数列弱收敛于标准正态分布。又有定理4.2.6（分布函数序列弱收敛于分布函数的F(x)的充要条件是的特征函数序列收敛收敛与F(x)的特征函数）只需证明的特征函数列收敛于标准正态分布的特征函数.为此设的特征函数为，则的特征函数为

又因为，所以有

于是特征函数有展开式的：
从而有，而正式N(0, 1)分布特征函数。定理得证。

利莫夫-拉普莱斯中心极限定律 设n重伯努利实验中，事件A在每次实验中出现的频率为p(0<p<1)，记为n次实验中事件A出现的次数，且记

则对任意实数y，有

注意，利用利莫夫-拉普莱斯中心极限定律的去修正二项分布时的方法与注意事项。当然，二项分布也可以用泊松分布去近似但是前提是p比较小的时候，用泊松分布去近似比较好，但是但np>5或npq>5时，用二项分布去近似则比较好，注意修正。
独立不同分布下的中心极限定律的条件是要求保证各项“均匀地小”。
林德伯格中心极限定律：
设独立随机变量序列满足林德伯格条件
，则对任意的x有

李雅普诺夫中心极限定律 设为独立随机变量序列，若存在，满足（注意这里的只是存在，而不是任意的）

则对任意的x，有