1、第一章 随机事件与概率 (1)事件的包含和相等 包含:设A,B为二事件,若A发生必然导致B发生,则称事件B包含事件A,或事A包含于事件B,记作,或性质: 相等:若且,则称事件A与事件B相等,记作A=B。 (2)和事件 概念:称事件“A与B至少有一个发生”为事件A与事件B的和事件,或称为事件A与事件B的并,记作或A+B。 解释:包括三种情况①A发生,但B不发生,②A不发生,但B发生,③A与B都发生。 性质:①,;②若;则 (3)积事件 概念:称“事件A与事件B同时发生”为事件A与事件B的积事件,或称为事件A与B的交,记作A∩B或AB。 解释:A∩B只表示一种情
2、况,即A与B同时发生。 性质:①,;② 若,则AB=A。 (4)差事件 概念:称“事件A发生而事件B不发生”为事件A与事件B的差事件,记作A-B. 性质:① A-;② 若,则A-B= (5)互不相容事件 概念:若事件A与事件B不能同时发生,即AB=,则称事件A与事件B互不相容。 推广:n个事件A1,A2,…,An两两互不相容,即AiAj=,i≠j,i,j=1,2,…n。 (6)对立事件: 概念:称事件“A不发生”为事件A的对立事件,记做. 解释:事件A与B互为对立事件,满足:①AB=ф;②A∪B=Ω 性质:①; ②,; ③A-B==A-AB
3、 ④A与B相互对立A与B互不相容. 小结:关系:包含,相等,互不相容,互为对立; 运算:和,积,差,对立. (7)事件的运算性质 ①(和、积)交换律 A∪B=B∪A,A∩B=B∩A; ②(和、积)结合律 (A∪B)∪C=A∪(B∪C),(A∩B)∩C=A∩(B∩C); ③(和、积)分配律 A∪(B∩C)=(A∪B)∩(A∪C);A∩(B∪C)=(A∩B)∪(A∩C) ④对偶律 ;. 由频率的性质推出概率的性质 ①推出① ②,推出②P(ф)=0,P(Ω)=1 ③A,B互不相容,推出③P(A∪B)=P(A)=P(B),可推广到有限多个
4、和无限可列多个. 2.古典概型 概念:具有下面两个特点的随机试验的概率模型,称为古典概型: ①基本事件的总数是有限个,或样本空间含有有限个样本点; ②每个基本事件发生的可能性相同。 计算公式: 概率的定义与性质 (1)定义:设Ω是随机试验E的样本空间,对于E的每一个事件A赋予一个实数,记为 P(A),称P(A)为事件A的概率,如果它满足下列条件: ①P(A)≥0; ②P(Ω)=1; ③设,,…,,…是一列互不相容的事件,则有 . (2)性质 ①,; ②对于任意事件A,B有; ③; ④. 条件概率与乘法公式 定
5、义:设A,B为两个事件,在已知事件B发生的条件下,事件A发生的概率,称为事件B发生条件下事件A发生的条件概率,记做P(A|B) 计算公式:设AB为两个事件,且P(B)>0,则。 乘法公式:当P(A)>0时,有P(AB)=P(A)P(B|A); 当P(B)>0时,有P(AB)=P(B)P(A|B) 推广: ①设P(AB)>0,则P(ABC)=P(A)P(B|A)P(C|AB) ②设,则 2.全概率公式与贝叶斯公式 (1)划分:设事件,,…,满足如下两个条件: ①,,…,互不相容,且,i=1,2,…,n; ②,即,,…,至少有一个发生,则称,,…,
6、为样本空间Ω的一个划分。 当,,…,为样本空间Ω的一个划分时,每次试验有且仅有其中一个发生。 (2)全概公式:设随机试验的样本空间为Ω,,,…,为样本空间Ω的一个划分,B为任意一个事件,则. 注意:当0
0,则 ,i=1,2,…,n. 注意:①在使用贝叶斯公式时,往往先利用全概公式计算P(B); ②理解贝叶斯公式“后验概率”的意义. 事件的独立性 (1)概念:若P(AB)=P
7、A)P(B),则称事件A与事件B相互独立,简称A,B独立。 (2)性质:① 设P(A)>0,则A与B相互独立的充分必要条件是。 ② 若A与B相互独立,则A与,与B,与都相互独立。 (3)推广:① 3个事件相互独立:设A,B,C为3个事件,若满足 P(AB)=P(A)P(B), P(AC)=P(A)P(C), P(BC)=P(B)P(C), P(ABC)=P(A)P(B)P(C) 则称A,B,C相互独立,简称A,B,C独立。 ② 3个事件两两相互独立:设A,B,C为3个事件,若满足 P(AB)=P(A)P(B), P(AC)=P(A)P(C), P(BC
8、=P(B)P(C), 则称A,B,C两两相互独立。 显然,3事件相互独立必有3事件两两相互独立,反之未必。 ③ n个事件相互独立:设A1,A2,…,An为n个事件,若对于任意整数k (1≤k≤n)和任意k个整数1≤i1< i2<…ik≤n满足 则称A1,A2,…,An相互独立,简称A1,A2,…,An独立 n重贝努利试验 概念:如果一次试验只有两个结果:事件A发生或不发生,且P(A)=p(0
9、1,2,…,n。 第二章 随机变量及其概率分布 随机变量的概念 定义:设E是随机试验,样本空间为Ω,如果对于每一个样本点ω∈Ω,有一个实数X(ω)与之对应,则称X=X(ω)为随机变量,记做X, Y, Z,…。 (4)解释:① 随机变量不是普通变量,它的取值不是任意的,它是以一定的可能性(概率)取某一个值的,即具有随机性,因此称为“随机变量”; ② 在一次随机试验中,可以根据不同的需要来定义不同的随机变量。 ③ 引入随机变量后,可用随机变量来描述事件,如掷骰子,设出现的点数为随机变量X,则“出现4点”可表示为{X=4},“不少于4点”可表示为{X≥4},等等 离散
10、型随机变量定义:若随机变量X只取有限多个或可列无限多个值,则称X为离散型随机变量。 离散型随机变量的分布律:设X为离散型随机变量,可能取值为x1,x2,…,xk,…,且P{X=xk }=pk,k=1,2,…,则称{ pk }为X的分布律(或分布列,概率分布)。 分布律也可以用表格形式表示: (3)分布律{pk}的性质:① pk≥0,k=1,2,…;② . 反之,若一个数列{pk}具有以上两条性质,则它可以作为某随机变量的分布律。 (4)用途:可用分布律求任意事件的概率 三种常用的离散型随机变量的分布 (1)0-1分布(两点分布) 定义:若随机变量X只
11、取两个可能值0,1,且P{X=1}=p,P{X=0}=q, 其中0
0是常数,n是任意正整数,且,则对于任意取定的非负整数k,有。 泊松定理的应用:当n很大,p很小时,二项分布可以用泊松逼近来近似计算。
12、在实际计算中,当n≥20,p≤0.05时计算效果颇佳
(3)泊松分布
定义:设随机变量X的可能取值为0,1,2,…,n,…,而X的分布律为 ,k=0,1,2,…,其中λ>0,则称X服从参数为λ的泊松分布,记做X ~ P(λ)
分布函数的概念
定义:设X为随机变量,称函数F(x)=P(X≤x),x∈(-∞,+∞) 为X的分布函数。
离散型随机变量X的分布函数为
分布函数的性质
(1)0≤F(x)≤1。
(2)F(x)是不减函数,即对于任意的x1 13、
用分布函数表示事件的概率:设随机变量X的分布函数为F(x), 则
(1)P{X≤b}=F(b); (2)P{a 14、存在,且
三种常用连续型随机变量的分布
Ⅰ.均匀分布
(1)定义:若随机变量X的概率密度为, 则称X服从区间[a,b]上的均匀分布,记做X~U(a,b)
(2)分布函数为
Ⅱ.指数分布
(1)定义:若随机变量X的概率密度为,其中λ>0为常数,则称X服从参数为λ的指数分布,记做X~E(λ).
(2)指数分布的分布函数为 ,
Ⅲ.正态分布
(1)定义:若随机变量X的概率密度为,-∞ 15、则对于任意h>0,有P(μ-h 16、态分布的关系
设X~N(μ,σ2),分布函数为F(x),标准正态分布的分布函数为Φ(x),则
① ②
③.
Ⅳ.上侧α分位数
(1)定义:设X~N(0,1),若uα满足条件P{X>uα}=α,0<α<1,则称点uα为标准正态分布的上侧α分位数。(2)求法:反查标准正态分布表
随机变量函数的概念:设是已知连续函数,为随机变量,则函数也是一个随机变量,称之为随机变量的函数.
设离散型随机变量的分布律为
则在随机变量的取值,,不同的情况下,其分布律为
但是,若 有相同的情况,则需要合并为一项.
连续型随机变量函数的概率密度
定理:设为连续 17、型随机变量,其密度函数为 .设是严格单调的可导函数,其值域为,且.记的反函数,则 的概率密度为
.
两个重要结论:当 时,,且随机变量称为X的标准化。另外,正态随机变量的线性变换 仍是正态随机变量,即aX+b~,这两个结论十分有用,必须记住
第三章 多维随机变量及概率分布
设(,)为一个二维随机变量,记,,, 称二元函数为二维随机变量(,)的联合分布函数,或称为(,)的分布函数. 记函数=
= , 则称函数 和 为二维随机变量(,)的两个分量 和 的边缘分布函数.
二维随机变量分布函数的性质:
(1)是变量 (或)的不减函数;
(2)01,对任意给定的, 18、对任意给定的,; ,;
(3)关于和关于均右连续,即.
(4)对任意给定的,有
二维离散型随机变量
设二维随机变量(X,Y)的所有可能取值为(),( =1,2,…),(X,Y)的各个可能取值的概率为,( =1,2,…),称,(=1,2,…)为(X,Y)的分布律
(X,Y)分布律的性质
[1] ,( =1,2,…); [2]
二维连续型随机变量的概率密度
(1)设二维随机变量(X,Y)的分布函数为F(x,y),若存在非负可积函数,使得对任意实数x,y,有, 则称(X,Y)为二维连续型随机变量;并称为(X,Y)的概率密度或X与Y的联合密度函数.
19、
(2)概率密度的性质:
① 非负; ② ;
③ 若在 处连续,则有 ;
④
两种二维连续型随机变量分布
(1)均匀分布
①定义:设D为平面上的有界区域,其面积为S且S>0,如果二维随机变量(X,Y)的概率密度为 则称(X,Y)服从区域D上的均匀分布(或称(X,Y)在D上服从均匀分布),记作(X,Y)~UD。
②两种特殊区域的情况:
ⅰ.D为矩形区域a≤x≤b,c≤y≤d,此时
ⅱ.D为圆形区域,如(X,Y)在以原点为中心,R为半径的圆形区域上服从均匀分布,则(X,Y)概率密度为
二维随机变量的边缘分布
(1)定义 20、对于连续型随机变量(X,Y),分量X(或Y)的概率密度称为(X,Y)关于X(或Y)的边缘概率密度,简称边缘密度,记为
(2)求法:它们可由(X,Y)的概率密度f(x,y)求出,
P71
定义:设F(x,y),FX(x)和FY(y)分别是二维随机变量(x,y)的分布函数和两个边缘分布函数,若对任意实数x,y,有F(x,y)= FX(x)FY(y),则称X与Y相互独立.
(2)等价关系:P{X≤x,Y≤y}=P{X≤x}P{Y≤y}
设(X,Y)为二维连续型随机变量,其概率密 21、度为f(x,y)及关于X和Y的边缘概率密度为和 则X与Y相互独立的充分必要条件是等式 几乎处处成立
P81 两个相互独立且都服从泊松分布(参数分别为 和 )的随机变量之和仍服从泊松分布,且具有参数 (泊松分布可加性)
求Z=X+Y的概率密度
设(X,Y)为二维连续型随机变量,其密度函数为f(x,y),关于X,Y的边缘概率
分别为fx(x),fY(y),又设X与Y相互独立,求Z=X+Y的概率密度:
这就是二维连续型独立随机变量和的卷积公式
第四章 随机变量的数字特征
离散型随机变量的期望
定义:设离散型随机变量X的分布律为P{X=xk} 22、pk,k=1,2,…. 若级数绝对收敛(即级数收敛),则定义X的数学期望(简称均值或期望)为
三种离散型随机变量的数学期望
① 两点分布
设离散型随机变量X的分布律为 其中0 23、随机变量X的概率密度f(x),若广义积分绝对收敛,则称该积分为随机变量X的数学期望(简称期望或均值),记为E(X),即.
(2)三种连续型随机变量的期望
① 均匀分布
设X~U(a,b),其概率密度为 , 则.
② 指数分布
设X~E(λ),其概率密度为 ,则.
③ 正态分布
设X~N(μ,σ2),其概率密度为,-∞ 24、Y)为离散型随机变量,其分布律为,边缘分布律为,,则
,.
(2)若(X,Y)为连续型随机变量,其概率密度与边缘概率密度分别为f(x,y),fX(x),fY(y),则
,.
二维随机变量函数的期望
定理4-4: 设g(x,y)为二元连续函数,对于二维随机变量(X,Y)的函数Z=g(X,Y), (1) 若(X,Y)为离散型随机变量,级数绝对收敛,
则 ;
(2)若(X,Y)为连续型随机变量,且积分绝对收敛,则
.
期望的性质
(1)常数的期望等于该常数,即E(C)=C,C为常数;
(2)常数与随机变量X 25、乘积的期望等于该常数与随机变量期望的乘积,即E(CX)=CE(X);
(3)随机变量和的期望等于随机变量期望之和,即E(X+Y)=E(X)+E(Y);
综合性质(2)和(3),则有E(C1X+C2Y)=C1E(X)+C2E(Y),其中C1,C2为常数.
一般地,,其中Ci为常数.
(4)两个相互独立的随机变量的乘积的期望等于随机变量期望的乘积,即若X,Y为相互独立的随机变量,则E(XY)=E(X)E(Y)
4.2节 方差
定义:设随机变量X,且(X-E(X))2的期望存在,则称E(X-E(X))2为随机变量X 的方差,记为D(X),即D(X)=E(X-E(X) 26、2;又称为随机变量X的标准差.
若离散型随机变量X的分布律为P(X=xk)=pk,k=1,2,…,则 .
若连续型随机变量X的概率密度为f(x),则 .
方差计算公式:①D(X)=E(X2)-(E(X))2即X的方差等于X2的期望—X的期望的平方
② 若离散型随机变量X的分布律为P{X=xk}=pk,k=1,2,…,则.
③若连续型随机变量X的概率密度为f(x),则 .
常用随机变量的方差
(1)0-1分布
设离散型随机变量X的分布律为 其中0 27、p,则 D(X)=npq.
(3)泊松分布
设X~P(λ),其分布律为,i=0,1,2,…,则 D(X)=λ.
(4)均匀分布
设X~U(a,b),即概率密度为 , 则 .
(5)指数分布
设X~E(λ),即概率密度为 ,则 .
(6)正态分布
设X~N(μ,σ2),即概率密度为,-∞ 28、互独立随机变量之和的方差等于它们方差之和,即若X,Y相互独立,则
D(X+Y)=D(X)+D(Y)
下表是六种常见分布的期望和方差的结果。
4.3 协方差与相关系数
定义:设二维随机变量(X,Y),且E(X),E(Y)存在,如果E[(X-E(X))(Y-E(Y))]存在,则称之为X与Y的协方差,记为cov(X,Y),
即cov(X,Y)=E[(X-E(X))(Y-E(Y))].
(2)若离散型二维随机变量(X,Y)的分布律为,(i,j=1,2,…),
则 .
(3)若连续型二维随机变量(X,Y)的概率密度为f(x,y),
则 .
(4)计算公式 29、cov(X,Y)=E(XY)-E(X)E(Y)特例:当X=Y时,cov(X,X)=D(X)
(5)协方差的性质
① cov(X,Y)=cov(Y,X); ② cov(aX,bY)=abcov(X,Y),其中a,b为任意常数;
③ ④ 若X与Y相互独立,则cov(X,Y)=0.
f(x,y)≠fX(x)·fY(y),知X,Y一定不相互独立。可见Cov(X,Y)=0是X与Y相互独立的必要非充分条件。
2.相关系数
(1)定义:若D(X)>0,D(Y)>0,称为X与Y的相关系数,记为,
即 .
(2)性质
①
② 相关系数的绝对值=1的充分必要条件是存在 30、常数a,b,使 P{Y=aX+b}=1且a≠0.
(3)不相关定义:若相关系数ρXY=0,则称X与Y不相关.
(4)相关系数的意义:两个随机变量的相关系数是它们之间线性关系程度的度量:
,表示它们之间存在完全线性关系,即一次函数关系;
ρXY=0,表示它们之间无线性相关关系,但是,不表示它们之间不存在其他相关关系;,表示它们之间存在一定的线性相关关系.
若ρXY>0,表示它们之间存在正线性相关关系,即上式中a>0;
若ρXY<0,表示它们之间存在负线性相关关系,即上式中a<0.
(5)两个重要结论
① 随机变量X与Y相互独立X与Y不相关;反之未必.
② 若二维随机变量 31、X,Y)服从二维正态分布,则ρXY=ρ,且二维随机变量(X,Y)的两个分量不相关两个分量相互独立.ρ=0.
3.矩、协方差矩阵
(1)矩的定义:设X为随机变量,k为正整数,① 如果E(Xk)存在,则称E(Xk)为X的k阶原点矩,记为vk=E(Xk);② 如果存在,则称 为X的k阶中心矩,记为=.
(2)两种随机变量的矩
① 离散型随机变量的矩:若离散型随机变量X的分布律为P{X=xi}=pi,i=1,2,…,则 ,
②连续型随机变量的矩:若连续型随机变量的概率密度为,则,.显然,一阶原点矩是期望,二阶中心矩是方差.
(3)混合矩定义:设X,Y为随机变量,① 若(k,l= 32、1,2,…)存在,则称其为X和Y的阶混合原点矩;②若存在,则称其为X和Y的阶混合中心矩.显然,协方差是二阶混合中心矩.
(4)协方差矩阵
① 二维随机变量的协方差矩阵定义:设二维随机变量(X1,X2)的4个二阶中心矩为
C11=E[X1-E(X1)] 2 =cov(X1 ,X1) =D(X1),
C12=E[(X1-E(X1))( X2-E(X2))] =cov(X1 ,X2),
C21=E[(X2-E(X2))( X1-E(X1))] =cov(X2 ,X1),
C22=E[(X2-E(X2))] 2 =cov(X2 ,X2) = D(X2),
则称 33、矩阵为二维随机变量(X1,X2)的协方差矩阵.
② n维随机变量(X1,X2,…,Xn)的协方差矩阵定义:设n维随机变量(X1,X2,…,Xn)的二阶中心矩为(i,j=1,2,…,n),则称矩阵为维随机变量(X1,X2,…,Xn)的协方差矩阵.
第五章 大数定律及中心极限定理
切比雪夫不等式定理:设随机变量X的期望E(X)及方差D(X)存在,则对任意小正数
ε>0,有
因为事件与事件是对立事件,所以
贝努利大数定律
定理:设m是n次独立重复试验中事件A发生的次数,p是事件A的概率,则对于任意正数ε,有
独立同分布随机变量序列的切比雪夫大数定律
定理:设X1, X2, 34、…,Xn,…是独立同分布随机变量序列,E(Xi)=μ,D(Xi)=σ2,(i=1,2,…)均存在,则对于任意ε>0有
独立同分布随机变量序列的中心极限定理
定理:设X1, X2,…,Xn,…是独立同分布随机变量序列,且具有相同数学期望和方差E(Xi)=μ,D(Xi)=σ2,(i=1,2,…)均存在;再设随机变量 的分布函数为Fn(x),则对任意实数x有其中Φ(x)为标准正态分布函数
两个结论
① 定理说明,当n充分大时,不论独立同分布随机变量服从什么分布,其和近似服从正态分布;
② 定理说明:当n充分大时,不论独立同分布随机变量服从什么分布,其平均值
棣莫弗-拉普拉斯D-L中 35、心极限定理
定理:设随机变量Zn是独立重复试验中事件A发生的次数,p是事件A发生的概率,则对任意实数x有 ,其中q=1-p,Φ(x)为标准正态分布函数.由D-L定理得到 计算公式
两个结论: ①当n充分大时, ;
②当n充分大时,
第六章 统计量及其抽样分布
统计量与抽样分布
定义:设x1, x2,…,xn为总体X的样本,若样本函数T=T(x1, x2,…,xn)中不含任何未知参数,则称T为统计量;统计量的分布称为抽样分布.
2.经验分布函数 定义:设x1, x2,…,xn为总体X的样本,总体X的分布函数为F(x),若将样本观察值x1, x2,… 36、xn按由小到大排列为x(1),x(2),…,x(n),则称之为有序样本;用有序样本定义函数,k=1,2,…,n-1,则称Fn(x)为经验分布函数.显然,Fn(x)是一个非减右连续函数,且满足Fn(-∞)=0,Fn(+∞)=1
样本均值及其抽样分布
(1)样本均值的定义:设x1, x2,…,xn为总体X的样本,其算术平均值称为样本均值,一般记为,即.在将样本分为k组的情况下,样本均值的计算公式为 ,其中,k为组数,xi为第i组的组中值,fi为第i组的频数.
样本均值的性质
① 若称样本的数据与样本均值的差为偏差,则样本偏差之和为零,即
② 偏差平方和最小,即对任意常数c,函数,当时取 37、得最小值.
样本均值的抽样分布
定理:设x1, x2,…,xn为总体X的样本,为样本均值,
(1) 若X~N(μ,σ2),则的精确分布为
(2) 若总体X的分布未知或不是正态分布,且E(X)= μ,D(X)= σ2,则当样本容量n较大时,的渐近分布为.这里的渐近分布是指n较大时的近似分布。
样本方差与样本标准差
(1)定义:设x1, x2,…,xn为总体X的样本,则它关于的平均偏差平方和
称为样本方差;其算术根称为样本标准差.
在上面的定义中,称为样本偏差平方和,它有3个不同的表达式:
=
样本均值的数学期望和方差, 以及样本方差的期望
定理:设x1, x2,… 38、xn为总体X的样本,具有二阶矩,即E(X)= μ,D(X)= σ2, 和s2分别为样本的均值和方差,则,,E(s2)=σ2此定理表明,样本均值的均值与总体均值相同,而样本均值的方差是总体方差的1/n.
样本矩及其函数
定义:设x1, x2,…,xn为总体X的样本,则称统计量为样本k阶原点矩;
称统计量为样本k阶中心矩.样本均值是样本一阶原点矩,但本书中样本方差s2不是样本k阶中心矩,而用表示,以示区别
顺序统计量
定义:设总体X的分布函数为F(x),分布密度为f(x),样本为x1, x2,…,xn,则称
x(1)=min{x1, x2,…,xn}和x(n)=max{x1, x2, 39、…,xn}为此样本的极小顺序统计量和极大顺序统计量
定理:设总体X的分布函数为F(x),分布密度为f(x),样本为x1, x2,…,xn,x(1),x(n)为样本的极小、极大顺序统计量,则x(1)的分布密度为f1(x)=n(1-F(x))n-1f(x),x(n)的分布密度为fn(x)=nFn-1(x)f(x)
正态总体的抽样分布
(1)分布
① 定义:设X1, X2,…,Xn为相互独立且服从同分布N(0,1)的随机变量,则统计量的分布称为自由度为n的分布,记为.
②分布的α分位点:当随机变量时,对给定的α∈(0,1),称满足
的为自由度为n的分布的α分位点.
求法 40、反查分布表
(2)F分布
① 定义:设X1,X2相互独立,且,,则称的分布为自由度为m与n的F分布,记为F~F(m,n), 其中m称为分子自由度,n称为分母自由度.
② F分布的α分位点:当随机变量F~F(m,n)时,对给定的α∈(0,1),称满足
P{F>Fα(m,n)}= α 的Fα(m,n)为自由度为m与n的F分布的α分位点.
③ F分布的α分位点的性质:若F~F(m,n),则1/F~F(n,m).从这个性质可以推出
④ 求法:当α较小时,分位点Fα(m,n)可直接从附表5中查得,而分位点F1-α(m,n)可通过上式查得
(3)t分布
① 定义:设X1 41、X2相互独立,且X1~N(0,1),,则称的分布为自由度为n的t分布,记为t~t(n)
② t分布的α分位点:当随机变量t~t(n)时,对给定的α∈(0,1),称满足
P{t>tα(n)}= α的tα(n)为自由度为n的t分布的α分位点.
③ t分布α分位点的性质:由于t分布的密度函数关于0对称,则有t1-α(n)= -t α(n).
④ 求法:同上
(4)一些重要结论
定理:设x1, x2,…,xn是来自正态总体N(μ,σ2)样本,其样本均值与方差分别为
和, 则有 ①与s2相互独立;
②;
③.(推论6-1)
推理6-2 设x1, x2,…, 42、xm是来自的样本,y1, y2,…,yn是来自的样本,记 ,,其中,,则有;特别的,若,则
推理6-3 在推理6-2的条件下,设,并记
则
第七章 参数估计
点估计的两种常用方法
(1)替换原理和矩法估计
① 替换原理:替换原理常指如下两句话:一是:用样本矩替换总体矩;二是:用样本矩的函数替换相应的总体矩的函数.
② 矩估计的方法:根据替换原理,用样本矩或样本矩的函数对总体的矩或矩的函数进行估计。例如: 用样本均值估计总体均值E(X),即;
用样本二阶中心矩估计总体方差,即;
用事件A的频率估计事件A的概率等
极大似然估计
设总体的概率函数为p(x 43、θ),,其中θ是一个未知参数或未知参数向量,是参数θ的取值范围,x1,x2,…xn是该总体的样本,将样本联合概率函数记为,简记为, 则称为样本的似然函数. 如果存在统计量使得,则称为θ的极大似然估计
计算方法:
① 构造似然函数;② 求似然函数的对数. 由于似然函数是以乘积形式构成,对数函数是的单调增加函数,则似然函数的对数与其有相同的极值点,所以在求导数之前先求似然函数的对数;③ 用导数求似然函数对数的极值,得极大似然估计值
分别给出离散型随机变量和连续型随机变量的极大似然估计求未知参数 的估计 的步骤
(一)离散型随机变量
第一步,从总体X取出样本x1,x2,…, 44、xn
第二步,构造似然函数
L(x1,x2,…,xn,)=P(X=x1)P(X=x2)…P(X=xn)
第三步,计算ln L(x1,x2,…,xn,)并化简
第四步,当=时ln L(x1,x2,…,xn,)取最大值则取=
常用方法是微积分求最值的方法。
(二)连续型随机变量
若X~f(x,)
第一步 从总体X取出样本x1,x2,…,xn
第二步 构造似然函数
L(x1,x2,…,xn,)=f(x1,)f(x2,)…f(xn,)
第三步 计算ln L(x1,x2,…,xn,)并化简
第四步 当=时ln L(x1,x2,…,xn,)取最大值则取=
常用方法是微积分求最值的 45、方法
二项分布:设总体X~B(1,P)即 设P(A)=,从总体X中抽样x1,x2,…,xn,问最大似然法求 是最大点 ∴取
例抽样n次A发生m次,则在x1,x2…xn中有m个1,其余为0,∴
设总体X服从泊松分布p(),求的极大似然估计;
p(X=k)=解得的极大似然估计易知的矩估计亦为
设总体X服从指数分布E(),求的极大似然估计
X~E()∴
设,即从中取样x1 ,x2…xn,试用最大似然法求
若,从中抽样x1,x2…xn,试用最大似然估计法求:,
驻点,的极大似然估计为,
给出的极大似然估计
极大似然估计的一个简单而有用的性质:若 46、是θ的极大似然估计,则对任一θ的函数
g(θ), 它的极大似然估计为,这就是极大似然估计的不变性。
相合性
定义:设为未知参数,是θ的一个估计量,n是样本容量,若对任何ε>0,有 ,则称为参数θ的相合估计
是μ的相合估计; 是σ2的相合估计;也是σ2的相合估计。
相合性判定定理:设是θ的一个估计量,若 ,, 则称为参数θ的相合估计.
无偏性
定义:设是θ的一个估计,θ的参数空间为,若对任意,有
,则称为θ的无偏估计;否则称为有偏估计.
解释:无偏估计表示估计值与被估计量之间没有系统偏差.
几个有用的结论
①是的无偏估计 ②即是σ2的渐进无偏估计;③s2是σ2的无偏 47、估计;
④ 若为θ的无偏估计,一般地,除gθ是θ的线性函数外,不是gθ的无偏估计.
所以,无偏性没有不变性。
有效性
定义:设,是θ的两个无偏估计,如果对任意的有,且至少有一个使上式的不等号严格成立,则称比有效.
解释:这是在无偏估计中选择更好的估计的评价标准。
7. 3 参数的区间估计
点估价的两点不足:① 很难准确;② 没有用数量表示的可信度。为此,引入区间估计
置信区间的定义:设θ为总体的未知参数,,是由样本x1,x2,…,xn给出的两个统计量,若对于给定的概率1-α(0<α<1),有
,则随机区间[]称为参数θ的置信度为1-α的置信区间,称为置信下限,称为置信上 48、限.
(3)解释:参数θ落入区间[]的概率为1-α
(4)置信度与精度的关系
① 在样本容量固定的条件下,置信度增大,将引起置信区间长度增大,使区间估计的精度降低;置信度减小,将引起置信区间长度减小,使区间估计的精度提高;
② 在置信度固定不变的条件下,样本容量增大,将引起置信区间长度减小,区间估计的精度提高;反之,精度降低.
步骤:① 选取合适的估计函数;② 根据置信度查表求上分位点;③ 根据样本及相应的置信区间公式,求出置信区间.
单正态总体参数的置信区间: 设总体X~N(μ,σ2),x1,x2,…,xn为其样本.
(1)σ已知时,μ的置信度为1-α的区间估计 .
49、
(2)σ未知时,μ的置信度为1-α的区间估计
选择统计量~,得到μ的置信度为1-α的置信区间为
,其中,是σ2的无偏估计
3.μ未知,σ2的置信区间 .
第八章 假设检验
统计假设检验中的一些基本概念
(1)参数检验与非参数检验
如果需要检验的量仅仅涉及总体分布的未知参数,则称之为参数检验. 这是本章讲解的主要内容;如果涉及分布函数形式等时,则称之为非参数检验.
(2)原假设与备择假设
引例中的假设H0,即正常情况下放弃H0是小概率事件,则称H0为原假设或零假设;
与之相对立的是假设H1,称之为备择假设. 两个假设有且仅有一个为真.
(3 50、检验统计量
引例中的,称为检验统计量. 对样本数据进行加工并用来判断是否接受原假设的统计量称为检验统计量. 检验统计量应满足:①必须与统计假设有关;②当H0为真时,检验统计量的分布是已知的.
(4)显著水平
假设检验的基本理论根据是小概率原理,即小概率事件在一次试验中几乎不可能发生,根据这一原理,如果小概率事件不发生,则接受原假设,否则拒绝原假设。那么,确定多大范围算作小概率呢?选择一个小数α(0<α<1)作为标准,通常取0.05,0.01等,称之为显著水平,所以,假设检验问题要规定一个显著水平α.
(5)接受域与拒绝域
应用检验统计量及其分布和显著水平,可以求






