第二章参数估计.pptx

参数估参数估计问题计问题假设检假设检验问题验问题点点 估估 计计区间估计区间估计统计统计推断推断的基的基本问本问题题参数检验参数检验非参数检验非参数检验什么是参数估计？参数是刻画总体某方面概率特性的数量参数是刻画总体某方面概率特性的数量.当此数量未知时当此数量未知时,从总体抽出一个样本，从总体抽出一个样本，用某种方法对这个未知参数进行估计就用某种方法对这个未知参数进行估计就是参数估计是参数估计.例如，例如，X N(,2),点估计点估计区间估计区间估计若若,2未知未知,通过构造样本的函数通过构造样本的函数,给出给出它们的估计值或取值范围就是参数估计它们的估计值或取值范围就是参数估计的内容的内容.参数估计的类型参数估计的类型点估计点估计 估计未知参数的值估计未知参数的值区间估计区间估计 估计未知参数的取值范围，估计未知参数的取值范围，并使此范围包含未知参数并使此范围包含未知参数 真值的概率为给定的值真值的概率为给定的值.2.1 点估计方法点估计的思想方法设总体X 的分布函数的形式已知,但含有一个或多个未知参数：1,2,k设 X1,X2,Xn为总体的一个样本构造 k 个统计量：随机变量当测得样本值(x1,x2,xn)时,代入上述统计量，即可得到 k 个数：数 值称数为未知参数的估计值如何构造统计量？如何构造统计量？如何评价估计量的好坏？如何评价估计量的好坏？对应统计量 为未知参数的估计量问问题题常用的点估计方法q 频率替换法频率替换法利用事件A 在 n 次试验中发生的频率作为事件A 发生的概率 p 的估计量例例1 1 设总体X N(,2),在对其作28 次 独立观察中,事件“X 4”出现了21 次,试用频率替换法求参数 的估计值.方法方法用样本 k 阶矩作为总体 k 阶矩的估计量,建立含有待估参数的方程,从而解出待估参数一般,不论总体服从什么分布,若总体期望 与方差 2 存在,则它们的矩估计量分别为q 矩法矩法 注意：不是 !事实上，按矩法原理，令设待估计的参数为设总体的 k 阶矩存在，记为样本 X1,X2,Xn 的 r 阶矩为令 含未知参数 1,2,k 的方程组解方程组,得 k 个统计量：未知参数 1,k 的矩估计量代入一组样本值得 k 个数:未知参数 1,k 的矩估计值例例2 2 设总体 X N(,2),X1,X2,Xn为 总体的样本,求 ,2 的矩法估计量.例例3 3 设总体 X Exp(),X1,X2,Xn为总体的样本,求 的矩法估计量.问题：的的矩估计是否唯一？结论：矩估计可能不存在（如Cauchy分布的参数的矩估计不存在），即使存在也有可能不唯一（如例3）。例例4 4 设从某灯泡厂某天生产的灯泡中随机抽取10只灯泡，测得其寿命为(单位:小时)1050,1100,1080,1120,1200 1250,1040,1130,1300,1200试用矩法估计该厂这天生产的灯泡的平均寿命及寿命分布的方差.例例5 5 设总体 X U(a,b),a,b 未知,求参数 a,b 的 矩法估计量.q 极大似然估计法极大似然估计法 思想思想：实际推断原理（一次试验就出 现的事件有较大的概率）例如:有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球现从两箱中任取一箱,并从箱中任取一球,结果所取得的球是白球.答答:第一箱.问问:所取的球来自哪一箱的可能性大？例例6 6 设总体 X 服从0-1分布,且P(X=1)=p,用极大似然法求 p 的估计值.解解总体 X 的概率分布为 设 x1,x2,xn为总体样本X1,X2,Xn的样本值,则对于不同的 p,L(p)不同,见下图现经过一次试验，发生了，事件则 p 的取值应使这个事件发生的概率最大.在容许范围内选择 p，使L(p)最大 注意到，ln L(p)是 L 的单调增函数,故若某个p 使ln L(p)最大,则这个p 必使L(p)最大。所以为所求 p 的估计值.称这样得到的 为参数 的极大似然估计值极大似然估计值称统计量为参数 的极大似然估计量极大似然估计量选择适当的=,使 取最大值,即L()极大似然法的思想其中f(x,)为总体的密度函数或分布律。若 X 为离散型随机变量,其分布律为则样本 X1,X2,Xn的联合分布为或称 L()为样本的似然函数若 X 连续,令 f(x,)为X 的密度函数则似然函数为注注未知参数可以不止一个,如1,k 设X 的密度(或分布)为则定义似然函数为若关于1,k可微,则称为似然方程组若对于某组给定的样本值 x1,x2,xn，参数 使似然函数取得最大值,即则称为1,k 的极大似然估计值显然，称统计量为1,2,k 的极大似然估计量例例7 7 设总体 X N(,2),x1,x2,xn 是 X 的样本值,求,2 的极大似然估计.解解,2 的极大似然估计量分别为似然似然方程方程组为组为总结：极大似然估计方法1）写出似然函数 2）求出,使得可得未知参数的极大似然估计值 L是 的可微函数,解似然方程组若若注：似然方程组法可能不适用,此时需用其它方法求极大似然估计值.见下例：例例8 8 设 X U(a,b),x1,x2,xn 是 X 的一个样本值,求 a,b 的极大似然估计值与极大似然估计量.解解 X 的密度函数为似然函数为似然函数只有当 a xi b,i=1,2,n 时才能获得最大值,且 a 越大,b 越小,L 越大.令xmin=min x1,x2,xnxmax=max x1,x2,xn取则对满足的一切 a b,都有故是 a,b 的极大似然估计值.分别是 a,b 的极大似然估计量.问问 题题1)待估参数的极大似然估计是否一定存在待估参数的极大似然估计是否一定存在?2)若存在若存在,是否惟一是否惟一?设 X U(a ,a+),x1,x2,xn 是 X的一个样本,求 a 的极大似然估计值.解解 由上例可知,当时,L 取最大值 1,即显然,a 的极大似然估计值可能不存在,也可能不惟一.例例9 9不仅如此,任何一个统计量若满足都可以作为 a 的估计量.极大似然估计的不变性极大似然估计的不变性设 是 的极大似然估计值,u()()是 的任一函数,则 是 u()的极大似然估计值.如如 在正态总体N(,2)中,2的极大 似然估计值为是 2的函数,故 的极大lg 的极大似然估计值为似然估计值为