资源描述
第 1 章 随机事件及其概率
( 1 )排列 组合公式
(2)加法 和 乘 法 原 理
(3)一些 常见排列
(4)随机 试 验 和 随 机事件
(5)基本 事件、样本 空 间 和 事 件
(6)事件 的 关 系 与 运算
m!
P n = 从 m 个人中挑出n 个人进行排列的可能数。
m (m n)!
m!
C n = 从 m 个人中挑出n 个人进行组合的可能数。
m n!(m n)!
加法原理(两种方法均能完成此事): m+n
某件事由两种方法来完成,第一种方法可由m 种方法完成,第二种方法可由n 种方法来完成,则这件事可由 m+n 种方法来完成。
乘法原理(两个步骤分别不能完成这件事): m×n
某件事由两个步骤来完成,第一个步骤可由m 种方法完成,第二个步骤可由n 种方法来完成,则这件事可由 m×n 种方法来完成。
重复排列和非重复排列(有序)
对立事件(至少有一个)
顺序问题
如果一个试验在相同条件下可以重复进行,而每次试验的可能结果不止一个, 但在进行一次试验之前却不能断言它出现哪个结果,则称这种试验为随机试 验。
试验的可能结果称为随机事件。
在一个试验下, 不管事件有多少个, 总可以从其中找出这样一组事件, 它具有 如下性质:
①每进行一次试验,必须发生且只能发生这一组中的一个事件;
②任何事件,都是由这一组中的部分事件组成的。
这样一组事件中的每一个事件称为基本事件,用 来表示。
基本事件的全体,称为试验的样本空间,用 表示。
一个事件就是由 中的部分点(基本事件 )组成的集合。通常用大写字母 A, B, C, …表示事件,它们是 的子集。
为必然事件,为不可能事件。
不可能事件()的概率为零,而概率为零的事件不一定是不可能事件;同理, 必然事件(Ω)的概率为 1,而概率为 1 的事件也不一定是必然事件。
①关系:
如果事件 A 的组成部分也是事件 B 的组成部分, (A 发生必有事件 B 发生): A 仁 B
如果同时有 A 仁 B, B A ,则称事件 A 与事件 B 等价,或称 A 等于B: A=B。
A、 B 中至少有一个发生的事件: AU B,或者 A+B。
属于 A 而不属于 B 的部分所构成的事件,称为A 与B 的差,记为A-B,也可
表示为 A-AB 或者 AB ,它表示 A 发生而 B 不发生的事件。
A、 B 同时发生: AnB,或者 AB。 A n B=,则表示 A 与 B 不可能同时发生,
称事件 A 与事件B 互不相容或者互斥。基本事件是互不相容的。
(7 )概率 的 公 理 化 定义
(8 )古典 概型
(9 )几何 概型
(10)加法 公式
(11)减法 公式
(12)条件 概率
(13)乘法 公式
-A 称为事件 A 的逆事件,或称 A 的对立事件,记为A 。它表示 A 不发生
的事件。互斥未必对立。
②运算:
结合率: A(BC)=(AB)C A∪(B∪C)=(A∪B)∪C
分配率: (AB) ∪C=(A∪C)∩ (B∪C) (A∪B) ∩C=(AC)∪ (BC)
n A U A
i i
德摩根率: i 1 i 1 A U B A n B, A n B A U B
设 为样本空间, A 为事件,对每一个事件A 都有一个实数 P(A),若满 足下列三个条件:
1° 0≤P(A)≤1,
2° P(Ω) =1
3° 对于两两互不相容的事件A1, A2 ,…有
常称为可列(完全)可加性。
则称 P(A)为事件A 的概率。
1° , … ,
1 2 n
1
2° P( ) P( ) … P( ) 。
1 2 n n
设任一事件A ,它是由 , … 组成的,则有
P(A) = ( )U ( )U … 1U (2 ) =P(m)( ) P( ) … P( )
1 2 m 1 2 m
若随机试验的结果为无限不可数并且每个结果出现的可能性均匀,同时样本空 间中的每一个基本事件可以使用一个有界区域来描述,则称此随机试验为几何 概型。对任一事件 A,
L(A)
P(A) 。其中 L 为几何度量(长度、面积、体积)。
L()
P(A+B)=P(A)+P(B)-P(AB)
当 P(AB) =0 时, P(A+B)=P(A)+P(B)
P(A-B)=P(A)-P(AB)
当 B A 时, P(A-B)=P(A)-P(B)
当 A=Ω时, P(B )=1- P(B)
P(AB)
定义 设 A 、B 是两个事件,且 P(A)>0,则称 为事件 A 发生条件下,事
P(A)
P(AB)
件 B 发生的条件概率,记为P(B / A) 。
P(A)
条件概率是概率的一种,所有概率的性质都适合于条件概率。
例如 P(Ω/B)=1 P( B /A)=1-P(B/A)
乘法公式: P(AB) P(A)P(B /A)
更一般地,对事件 A, A ,…A ,若 P(A A …A )>0,则有
1 2 n 1 2 n- 1
P(A A12 … A )n P(A )P(A12 | A )P(A13 | A A )12 …… P(An | A1A2 … An 1)。
(14)独立 性
(15)全概 公式
(16)贝叶 斯公式
(17)伯努 利概型
①两个事件的独立性
设事件A、 B 满足P(AB) = P(A)P(B), 则称事件A、 B 是相互独立的。 若事件A、 B 相互独立,且P(A) > 0 ,则有
若事件A、 B 相互独立, 则可得到A 与B、 A 与B、 A 与B 也都相互独 立。
必然事件 和不可能事件与任何事件都相互独立。
与任何事件都互斥。
②多个事件的独立性
设 ABC 是三个事件,如果满足两两独立的条件,
P(AB)=P(A)P(B); P(BC)=P(B)P(C); P(CA)=P(C)P(A)
并且同时满足 P(ABC)=P(A)P(B)P(C)
那么 A、 B、 C 相互独立。
对于 n 个事件类似。
设事件 B1,B2, … ,Bn 满足
1°B1,B2, … ,Bn 两两互不相容, P(Bi ) > 0(i = 1,2, … ,n),
A 仁 Un B
i
2° i=1 ,
则有
P(A) = P(B1)P(A | B1)+ P(B2)P(A | B2)+ … + P(Bn )P(A | Bn )。
设事件B1, B2,…, B n及A 满足
1° B1, B2,…, Bn两两互不相容, P(Bi) >0, i = 1, 2,…, n,
A 仁 Un B
2° i=1 i, P(A) > 0,
则
P(B )P(A /B )
P(B /A) = i i , i=1, 2,…n。
P(B )P(A/B )
i n
j j
j =1
此公式即为贝叶斯公式。
P(B ), ( i = 1, 2, …, n ), 通常叫先验概率。 P(B /A), ( i = 1, 2, …,
n ),通常称为后验概率。贝叶斯公式反映了“因果”的概率规律,并作出了
i i
“由果朔因”的推断。
我们作了n 次试验,且满足
令 每次试验只有两种可能结果, A 发生或A 不发生;
令 n 次试验是重复进行的,即A 发生的概率每次均一样;
令 每次试验是独立的,即每次试验 A 发生与否与其他次试验A 发生与 否是互不影响的。
这种试验称为伯努利概型,或称为n 重伯努利试验。
用p 表示每次试验A 发生的概率,则A 发生的概率为1 p = q ,用Pn(k)表
示n 重伯努利试验中A 出现k(0 k n)次的概率,
n
Pn (k) = C k p k q nk k = 0,1,2, … ,n
, 。
第二章 随机变量及其分布
(1)离散 型 随 机 变 量 的 分 布
律
设离散型随机变量X 的可能取值为 X (k=1,2, …)且取各个值的概率,即事
k
件(X=X )的概率为
k
P(X=x )=p, k=1,2, …,
k k
则称上式为离散型随机变量X 的概率分布或分布律。有时也用分布列的形 式给出:
X | x1,x2, … ,xk , …
P(X = xk ) p1,p2, … ,pk , …。
显然分布律应满足下列条件:
pk = 1
k = 1,2, …
(2) k =1 。
,
(1) pk > 0,
(2)连续 型 随 机 变 量 的 分 布
密度
设 F(x)是随机变量X 的分布函数, 若存在非负函数f (x), 对任意实数 x, 有 F(x) = jx f (x)dx
,
则称X 为连续型随机变量。 f (x) 称为X 的概率密度函数或密度函数, 简称概 率密度。
密度函数具有下面 4 个性质:
1° f (x) > 0。
j+ f (x)dx = 1
2° 。
(3)离散 与 连 续 型 随 机 变 量
的关系
积分元 f (x)dx 在连续型随机变量理论中所起的作用与 P(X = xk ) = pk 在离 散型随机变量理论中所起的作用相类似。
(4)分布
函数
设 X 为随机变量, x 是任意实数,则函数
称为随机变量 X 的分布函数,本质上是一个累积函数。
P(a < X b) = F(b) F(a) 可以得到 X 落入区间(a,b]的概率。分布
函数F(x)表示随机变量落入区间( – ∞, x]内的概率。
分布函数具有如下性质:
1° 0 F(x) 1, < x < +;
2° F(x)是单调不减的函数,即x1 < x2 时,有 F(x1) F(x2);
3° F() = lim F(x) = 0, F(+) = lim F(x) = 1;
x x+
4° F(x + 0) = F(x) ,即F(x)是右连续的;
5° P(X = x) = F(x) F(x 0)。
对于离散型随机变量, F(x) = p ;
k
xk x
x
对于连续型随机变量, F(x) = j f (x)dx 。
(5)八大
分布
0- 1 分布
二项分布
P(X=1)=p, P(X=0)=q
在n 重贝努里试验中,设事件 A 发生的概率为p 。事件 A 发生 的次数是随机变量,设为 X ,则 X 可能取值为0,1,2, … ,n。
P(X = k) = Pn (k) = C n(k) p k q nk , 其 中
q = 1 p,0 < p < 1,k = 0,1,2, … ,n,
则 称 随 机 变 量 X 服 从 参 数 为 n , p 的 二 项 分 布。 记 为
X ~ B(n,p)。
当n = 1时, P(X = k) = p k q 1k, k = 0.1,这就是(0- 1)分 布,所以(0- 1)分布是二项分布的特例。
f (x) =〈b – a
泊松分布 设随机变量 X 的分布律为
P(X = k) = 入 k e – 入, 入 > 0, k = 0,1,2 …,
k!
则称随机变量 X 服从参数为入 的泊松分布,记为 X ~ 爪 (入)或
者 P(入 )。
泊松分布为二项分布的极限分布(np=λ, n → ∞)。
超几何分布 几何分布
均匀分布
指数分布
随机变量 X 服从参数为n,N,M 的超几何分布,记为 H(n,N,M)。 P(X = k) = q k – 1p,k = 1,2,3, … ,其中 p≥0, q=1-p。
随机变量 X 服从参数为p 的几何分布,记为 G(p)。
设随机变量 X 的值只落在[a, b]内, 其密度函数f (x) 在[a, b]
1
上为常数 ,即
b – a
a≤x≤b
其他,
| ,
( 1
|l0,
则称随机变量 X 在[a, b]上服从均匀分布,记为 X~U(a, b)。
分布函数为
0, x<a,
F (x) = j x f (x)dx = x – a ,
当 a≤x <x ≤b 时, X 落在区间(x1,x2 )内的概率为
– w 1,(b) – a xa>x。≤b
1 2
P(x < X < x ) = x2 – x1 。
1 2 b – a
入 e – 入x , x > 0
其0中,入 > 0 ,则称x随<机0,变,量 X 服从参数为入 的指数
f (x) =
分布。
X 的分布函数为
F (x) =
1 – e – 入x ,
记0住,积分公式:
x > 0
,
x<0。
正态分布
设随机变量X 的密度函数为
x ,
f (x)
1 e
其中 、 0为常数, 则称随机变量X 服从参数为 、
2
的正态分布或高斯(Gauss)分布,记为 X ~ N ( , 2)。
f (x) 具有如下性质:
1° f (x) 的图形是关于x 对称的;
2
2° 当x 时, f () 1 为最大值;
F(若)e(,) dt(的)分布函数为
2
。 。
参数 0 、 1时的正态分布称为标准正态分布,记为
X1, e(其)密x22度函数记为
2 , x ,
分布函数为
(x) 1 e
(x)是不可求
2
1
Φ(-x) =1- Φ(x)且 Φ(0)= 。
X
2
P(x X x ) x2 x1 。
如果 X ~ N ( , 2 ) ,则 ~ N(0,1) 。
1 2
上分位表: P(X )= 。
(6)分位 数
(7)函数 分布
下分位表: P(X )= ;
离散型
已知 X 的分布列为
X x1, x2, … , xn , …
,
P(X xi ) p1, p2, … , pn , …
Y g(X ) 的分布列( y g(x )互不相等)如下:
Y g(x1), g(x2), … , g(xn), …
i i
,
P(Y yi ) p1, p2, … , pn , …
若有某些g(xi )相等,则应将对应的 pi 相加作为g(xi ) 的概率。
连续型
先利用 X 的概率密度 f (x)写出 Y 的分布函数 F (y) = P(g(X) ≤
X Y
y),再利用变上下限积分的求导公式求出 f (y)。
Y
第三章 二维随机变量及其分布
p
( 1 )联合 分布
离散型
如果二维随机向量 (X, Y)的所有可能取值为至多可列 个有序对(x,y),则称 为离散型随机量。
设 = (X, Y)的所有可能取值为(x ,y )(i,j = 1,2, ),
i j
且事件{ = (xi ,y j ) }的概率为 pij,,称
为 = (X, Y)的分布律或称为 X 和 Y 的联合分布律。联合分
布有时也用下面的概率分布表来表示:
Y
y
y
y
… … …
…
j
X
1
2
12
p
x
p
p
1
11
1j
x
p
p
…
…
…
2
21
22
2j
x
p
i
…
i1
ij
这里 p 具有下面两个性质:
ij
(1) p ≥0 (i,j=1,2,…);
(2) p = 1. ij
i j
连续型
对 于 二 维 随 机 向 量 = (X ,Y), 如 果 存 在 非 负 函 数
f (x,y)( < x < + , < y < +) ,使对任意一个其邻边
分别平行于坐标轴的矩形区域 D,即 D={(X,Y) |a<x<b,c<y<d} 有
则称 为连续型随机向量;并称 f(x,y)为 = (X, Y)的分布
密度或称为 X 和 Y 的联合分布密度。
分布密度 f(x,y)具有下面两个性质:
(1) f(x,y) ≥0;
(2) j+ j+ f (x,y)dxdy = 1.
(2 )二维
随 机 变 量
的本质
(4 )离散 型 与 连 续 型的关系 (5 )边缘
分布
(6 )条件
分布
(7 )独立
性
(3 )联合
分布函数
设(X, Y)为二维随机变量,对于任意实数 x,y,二元函数
称为二维随机向量(X, Y)的分布函数,或称为随机变量X 和Y 的联合分布函 数。
分 布 函 数 是 一 个 以 全 平 面 为 其 定 义 域 , 以 事 件
{(O ,O ) |一w < X(O ) 共 x,一w < Y(O ) 共 y}的概率为函数值的一个实值函
1 2 1 2
数。分布函数 F(x,y)具有以下的基本性质:
(1) 0 共 F(x,y) 共 1;
(2) F (x,y)分别对 x 和 y 是非减的,即
当 x >x 时,有 F (x ,y)≥F(x ,y);当 y >y 时,有 F(x,y ) ≥F(x,y );
2 1 2 1 2 1 2 1
(3) F (x,y)分别对 x 和 y 是右连续的,即
(4) F (一w,一w) = F (一w,y) = F (x,一w) = 0,F (+w,+w) = 1.
(5)对于 x < x, y < y ,
1 2 1 2
F (x, y ) 一 F (x, y ) 一 F (x, y ) + F(x, y ) > 0.
2 2 2 1 1 2 1 1
离散型
连续型
离散型
连续型
一般型
离散型
连续型
二维正态分
布
X 的边缘分布为
P = P(X = x ) = x
i. i
j
Y 的边缘分布为
P = P(Y = y ) = x
. j j
i
X 的边缘分布密度为
Y 的边缘分布密度为
p (i,j = 1,2, …);
ij
p (i,j = 1,2, …)。
ij
在已知 X=x 的条件下, Y 取值的条件分布为
i
在已知 Y=y 的条件下, X 取值的条件分布为
j
在已知 Y=y 的条件下, X 的条件分布密度为
f (y)
f (x | y) = f (x,y);
Y
在已知 X=x 的条件下, Y 的条件分布密度为
F(X,Y)=F (x)F (y)
X Y
有零不独立
f(x,y)=f (x)f (y)
X Y
直接判断,充要条件:
①可分离变量
②正概率密度区间为矩形
p =0
随机变量的
函数
若 X ,X , …X ,X , …X 相互独立, h,g 为连续函数,则:
1 2 m m+1 n
h (X, X , …X )和 g (X , …X )相互独立。
1 2 m m+1 n
特例:若 X 与Y 独立,则: h (X)和 g (Y)独立。 例如:若 X 与Y 独立,则: 3X+1 和 5Y-2 独立。
(8 )二维
均匀分布
设随机向量(X, Y)的分布密度函数为
其中 S 为区域 D 的面积,则称(X, Y)服从 D 上的均匀分布,记为(X, Y)~
D
U (D)。
例如图、图和图。
y
1
D
1
x
O 1
图
y
1
x
2
O
2
图 D
1
y
d
D
c 3
x
b
O a
图
(9 )二维
正态分布
设随机向量(X, Y)的分布密度函数为
其中 山 , 山 幸 > 0,幸 > 0,| p |< 1是 5 个参数,则称(X, Y)服从二维正态分
1 2, 1 2
布,
记为(X, Y)~N ( 山 ,山 幸 2 ,幸 2 , p).
1 2, 1 2
由边缘密度的计算公式,可以推出二维正态分布的两个边缘分布仍为正态分 布,
即 X~N ( 山 ,幸 2 ),Y ~ N(山 幸 2 ).
1 1 2, 2
但是若 X~N ( 山 ,幸 2 ),Y ~ N(山 幸 2 ), (X, Y)未必是二维正态分布。
1 1 2, 2
(10)函数
分布
根据定义计算: F (z) = P(Z 共 z) = P(X + Y 共 z)
Z=X+Y
Z
+w
对于连续型, f (z) = j f (x,z _ x)dx
Z
_w
两个独立的正态分布的和仍为正态分布( 山 + 山 ,幸 2 + 幸 2 )。
1 2 1 2
n 个相互独立的正态分布的线性组合,仍服从正态分布。
山 = x C 山 , 幸 2 = x C 2幸 2
i i i i
i i
Z=max,min(
X1,X2, …Xn)
若 X ,X … X 相 互 独 立 , 其 分 布 函 数 分 别 为
1 2 n
Fx (x), Fx (x) … Fx (x) ,则 Z=max,min(X1,X2, …Xn)的分布
1 2 n
函数为:
X 2 分布
设 n 个随机变量 X ,X , … ,X 相互独立,且服从标准正态分
1 2 n
布,可以证明它们的平方和
的分布密度为
我们称随机变量 W 服从自由度为 n 的 X 2 分布,记为 W~ X 2 (n),
其中
所谓自由度是指独立正态随机变量的个数,它是随机变量 分布中的一个重要参数。
X 2 分布满足可加性:设
则
t 分布
设 X, Y 是两个相互独立的随机变量,且
可以证明函数
的概率密度为
我们称随机变量 T 服从自由度为n 的 t 分布,记为 T~t(n)。
F 分布
设 X ~ X 2 (n ),Y ~ X 2 (n ) ,且 X 与 Y 独 立,可 以 证明
1 2
X/n
Y/n
F = 1 的概率密度函数为
2
我们称随机变量 F 服从第一个自由度为n ,第二个自由度为 n
1 2
的 F 分布,记为F~f(n , n ).
1 2
第四章 随机变量的数字特征
(1) 一 维 随 机 变 量 的 数 字 特
征
连续型
设 X 是连续型随机变量, 其概率密 度为 f(x),
(要求绝对收敛)
离散型
期望
期望就是平均值
设 X 是离散型随机变量,其分布
律 为 P( X = x ) = p ,
k k
k=1,2, …,n,
函数的期望
方差
D(X)=E[X-E(X)]2, 标准差
(X ) = D(X ),
Y=g(X)
(要求绝对收敛)
Y=g(X)
矩
切比雪夫不等式
①对于正整数 k,称随机变量X 的 k 次幂的数学期望为 X 的 k
阶原点矩,记为 v , 即
ν =E(Xk)= k x k p ,
k i i
i
k=1,2, …. ②对于正整数 k,称随机变量X 与 E (X)差的 k 次幂的数学期
望为 X 的 k 阶中心矩,记为 ,
k
即
= (x - E(X ))k p ,
i i
i
k=1,2, ….
①对于正整数 k, 称随机变量 X 的 k 次幂的数学期望为 X 的 k 阶原点
矩,记为 v , 即
k
ν =E(Xk)= j+ x k f (x)dx,
k
-
k=1,2, ….
②对于正整数 k, 称随机变量 X 与 E (X)差的 k 次幂的数学期望为X
的 k 阶中心矩,记为 ,即
k
= j+ (x - E(X ))k f (x)dx,
-
k=1,2, ….
设随机变量 X 具有数学期望 E (X) = μ,方差 D (X) = σ2 ,则对于 任意正数ε,有下列切比雪夫不等式
切比雪夫不等式给出了在未知 X 的分布的情况下,对概率
的一种估计,它在理论上有重要意义。
(2)
期 望
的 性
质
(3)
方 差
的 性
质
(4)
常 见
分 布
的 期
望 和
方差
(1) E(C)=C
(2) E(CX)=CE(X)
(3) E(X+Y)=E(X)+E(Y), E( n C X ) = n C E(X ) i i i i
i=1 i=1
(4) E(XY)=E(X) E(Y),充分条件: X 和 Y 独立;
充要条件: X 和Y 不相关。
(1) D(C)=0; E(C)=C
(2) D(aX)=a2D(X); E(aX)=aE(X)
(3) D(aX+b)= a2D(X); E(aX+b)=aE(X)+b
(4) D(X)=E(X2)-E2 (X)
(5) D(X±Y)=D(X)+D(Y),充分条件: X 和 Y 独立;
充要条件: X 和Y 不相关。
D(X±Y)=D(X)+D(Y) ±2E[(X-E(X))(Y-E(Y))],无条件成立。 而 E(X+Y)=E(X)+E(Y),无条件成立。
期望
0- 1 分布B(1,p) p
二项分布B(n,p) np
泊松分布P(入 )
方差
几何分布G(p)
超几何分布H(n,M ,N)
均匀分布U (a,b)
指数分布e(入 )
(5) 二 维 随 机 变 量 的 数 字 特 征
正态分布N (山,装 2 )
t 分布
期望
函数的期望
方差
协方差
相关系数
协方差矩阵
混合矩
n
0
2n
n
(n>2) n - 2
E[G(X ,Y)]= E[G(X ,Y)]=
对于随机变量 X 与 Y,称它们的二阶混合中心矩 山 为 X 与 Y 的协方
11
差或相关矩,记为装 或 cov(X ,Y),即
XY
与记号 装 相对应, X 与 Y 的方差 D(X) 与 D(Y) 也可分别记为装
XY XX
与
装 。
YY
对于随机变量 X 与Y,如果 D (X) >0, D(Y)>0,则称
为 X 与 Y 的相关系数,记作p (有时可简记为 p ) 。
XY
| p |≤1,当| p |=1 时,称 X 与 Y 完全相关: P(X = aY + b) = 1
(正相关,当p = 1时(a > 0),
完全相关〈l负相关,当p = - 1时(a < 0),
而当 p = 0 时,称 X 与Y 不相关。
以下五个命题是等价的:
XY
① p = 0;
②cov(X,Y)=0;
③E(XY)=E(X)E(Y);
④D(X+Y)=D(X)+D(Y);
⑤D(X-Y)=D(X)
展开阅读全文