非参数统计学讲义(第六章)分布检验和某些卡方检验.doc

非参数统计学讲义主讲：统计系 袁靖 第六章 分布检验和某些卡方检验1 引 言本章属于拟合优度检验问题，即模型检验或分布的检验，属于非参数检验的范畴。在初等统计中，人们要想知道数据是否服从某一特定分布，可以通过直方图，或P-P图，Q-Q图来直接判断，但这种直观的方式很不精确。本章将介绍几种分布的检验：K-S检验，Lilliefors检验和检验。实际上，K-S检验是在针对检验的缺点 检验与K-S检验均属拟合优度检验，但检验常用于定类尺度测量数据，K-S检验还用于定序尺度测量数据；当预期频数较小时，检验常需要合并邻近的类别才能计算，K-S检验则不需要，因此它能比检验保留更多的信息；对于特别小的样本数目，检验不能应用，而K-S检验则不受限制。此外，检验需要人为对总体分布的支撑集进行划分，将总体分布转化成一种导出分布，后果：样本信息利用不充分；实际检验的是导出分布对数据的拟合优度，而不是假设分布对数据的拟合优度。上提出的。它们是建立在经验分布函数基础上的检验结果。2 Kolmogorov检验一、 基本假设一般地要检验手中的样本是否来自某个已知，假定其真实分布为，对应的检验类型有 对 至少有一个x 对 至少有一个x 对 至少有一个x设为该组数据的经验分布函数，则二、 基本方法Kolmogorov于三十年代提出了一种基于经验分布的检验方法，基本思想是：由格里文科定理，当时，样本经验分布以概率1一致收敛到总体分布F，为此可以定义到的距离为当H0成立时，由格氏定理，D以概率1收敛到0，因此D的大小可以度量对总体分布拟合的好坏。可供选择的检验统计量分别为；类型A 类型B 类型C 在实际操作时，如果有n个观察值，用下面的统计量代替上面的DNOTE：由的取值是离散的，考虑到跳跃性，该能够保证S与F0之间取得最大距离；在H0下的分布有表可查，P201在大样本时，有近似分布，这里的分布函数有表达式，P122，该分布有表可查P203：三、 应用举例【例6-1】轴承的内径检验检验某车间生产的20个轴承外座圈的内径，测得数据如下（单位：mm）表6-1 轴承内径数据15.0415.3614.5714.5315.5714.6915.3714.6614.5215.4115.3414.2815.0114.7614.3815.8713.6614.9715.2914.95按照设计要求，这个内径应在150.2mm，检验是否符合标准，即检验该数据是否来自均值，方差的正态分布。分析：方法一，可以利用直方图、Q-Q图、P-P图进行直观判断；方法二，利用Kolmogorov检验由P122表中数据得：，拒绝H0，认为不满足要求。近似，P-值=0.9790.05，接受H0。【例6-2】数理统计与管理论文作者服从洛特卡分布 洛特卡定律是1926年6月19日洛特卡（Vlachy）在美国颇有影响的学术刊物华盛顿科学院杂志上首先提出，它第一次提示了作者与文献量的统计规律性。在这之后，洛特卡进一步发展了洛特卡定律，得出这样的一个关系：若以x表示每一作者所著的论文数，与其相应的写x篇论文的作者数为y，则y与x成反比关系。将46期的数理统计与管理的文章按第一作者统计，得到表7-2的结果。论文作者数是否服从洛特卡分布。表6-2 论文数目与作者数的统计表论文数（x）1234567作者（y）3432791112分析：洛特卡得出这样的一个关系：若以x表示每一作者所著的论文数，与其相应的写x篇论文的作者数为y，则y与x成反比关系。即有(0.1)式中，N为论文总数，m、C为两个特定的常数，在不同的学科领域数值不同。假定根据表62提供的数据，认为论文作者服从洛特卡分布，并对其真实性进行检验，首先必须确定它的理论分布，即计算出m、C的值。估计m的值，通常采用最小二乘法。将（6.1）式进行对数变换，使其线性化，得到：(0.2)m相当于一元线性回归方程中的回归系数b，根据表中的数据运用最小二乘法，得到m=3.0550。关于C值，可以用这样一个公式进行近似计算。这是1985年美国情报学家M.L.Pao教授在数学家的协助之下提出的。计算式为：经计算，。因此46期数理统计与管理的论文与作者数的理论洛特卡分布为 (0.3)为了判定数理统计与管理论文作者的实际分布是否与理论分布一致，可以采用Kolmogorov检验。建立的假设组为 对 至少有一个x理论累积频率的各个值，可以将x分别代入（6.3）式计算得到，实际累积频率是将累计的作者数分别除以作者总人数得到。计算结果，作者实际累积频率及理论累积频率及各个差值如表6-3。表6-3 作者实际累积频率与理论累积频率表12345670.83890.93980.96900.98110.98720.99070.99290.89320.96350.98700.98960.99220.99481.00000.05430.02370.01800.00850.00500.00410.0071根据显著性水平，作者人数，查表，由于，得临界值。显然因此数据在1%的显著性水平上不能拒绝H0，若显著性水平，查表得临界值。显然因此，数据在5%的显著性水平上也不能拒绝H0，可以认为，数理统计与管理作者的分布服从洛特卡分布。3 Lilliefors正态性检验Lilliefors正态性检验实质上是对Kolmogorov检验的一个改进。当用Kolmogorov检验某样本是否来自一正态总体时，当和未知时，就会用样本均值作为总体均值的估计，样本方差作为总体方差的估计，从而将数据标准化为：，再用标准正态分布作来计算K氏统计量。但这时统计量在H0下的分布发生了改变，Lilliefors（1976）对Kolmogorov的检验临界值表作了修正。【例6-3】以例6-1为例在该例中，对于5%的显著性水平，不能拒绝原假设。而按照Kolmogorov的临界值表，在5%显著性水平下的临界值为0.294，要比Lilliefors检验保守。4 Smirnov两样本检验一、 Smirnov检验主要用来检验两个样本是否同时来自于某一总体，设样本来自分布，而样本来自分布为的总体。Smirnov检验的基本思想和Kolmogorov检验一样，因此经常通称这两个检验为Kolmogorov-Smirnov拟合优度检验，简称K-S检验。1 基本假设检验类型为：类型A 对 至少有一个x类型B 对 至少有一个x类型C 对 至少有一个x2 基本方法设和分别为这两个样本的经验分布函数。则检验A的统计量可以取(0.4)式中NOTE：含义其它检验类型的统计量仿此可以写出的分布有表可查，P204，P205大样本时，有近似分布二、 应用举例【例6-4】检验两个地区的GDP指数是否具有相同的分布华北五省市区和华东七省市1996年的GDP指数（前一年为100）数据如下：表6-4 两个地区的GDP指数华北109.2114.3113.5111.0112.7华东113.0112.2112.7114.4115.4113.4112.2检验这两个地区的GDP指数的分布是否相同。分析：数据的计算过程详见P126接受H0。5 2拟合优度检验检验目的：检验样本是否来自于某一特定的分布或总体。在20世纪初，Pearson提出了拟合优度的统计量。其基本做法是：首先将样本区间进行分割，抽取n个观察值（相当于做了n次试验），则X落在每个区间中的数目服从多项分布，我们就是让这个多项分布去逼近X的分布(0.5)其中：r为总体分布里待估参数的个数，k为划分的组数。卡方拟合优度检验就是用来检验一批分类数据所来自的总体分布是否与某种理论分布相一致，即检验。其基本思想是：设总体可以分成类，现对总体作了n次观察，各类出现的频数分别为，且，则在成立时，应有实际频数与理论频数相差不大。为此，在20世纪初，Pearson提出了拟合优度的统计量。(0.6)【例6-5】检验顾客使用电话是否服从泊松分布详见P128。6 二维列联表的齐性和独立性的检验统计量特别适合于分类数据的各种模型的检验。因为在分类数据的场合不存在假设分布与由对总体支撑集的划分所导出分布的区别。虽然检验统计量的形式一样，但对不同的目的和不同的数据结构的解释是不一样的。一、 列联表的齐性检验实际问题中，常遇到：有n组从不同来源得到的数据，要判定这些数据的来源是否相同 如：有来自不同地区的地质样品，通过这些样品来了解这些地区的地质结构是否相同。（有相同的分布），统计上我们可以将这些问题表述为：假定有组样本，分别取自k个总体，要检验这k个总体的分布是否相同。这样的假设检验问题称为“齐次性检验”。对一般的二维列联表P130，可以提出假设不全相等在H0下，这些概率与j无关，因此的期望值（理论频数）为，因此期望值，则检验统计量为(0.7)二、 列联表的独立性检验关心的目标是两个变量是否相互影响（独立）至少有一个不相等(0.8)式中，NOTE：对立联表的齐次性检验和独立性检验，虽然检验的统计量均为统计量且有相同的分布形式。但两者之间有一些实质性区别独立性检验中的数据是取自一个总体的二维样本，而齐次性检验中的数据是取自多个总体的一维样本；独立性检验是要检验两个变量的独立性，而齐次性检验则是要检验多个总体分布的齐次性；在独立性检验中是随机变量，而齐次性检验中的不是随机变量；独立性检验中的统计量的极限分布只要在时，就成立，而齐次性检验中的统计量的极限分布要在都趋于无穷时才成立。三、 应用举例【例6-7】人们去三个商场的概率是否一样在一个有三个主要百货商场的商贸中心，调查者问479个不同年龄段的人首先去三个商场中的哪个，结果如下表表6-6 调查结果年龄段商场1商场2商场3总和3083704519831509186151925041381089总和21519470479问：人们去这三个商场的概率是否一样。分析：列联表的齐次性检验不全相等拒绝H0。【例6-8】在丧偶问题上的性别因素和地区因素是否独立按照1996年一个抽样，我国华北五省市区的丧偶人数按性别分为表6-7 1996年华北地区丧偶情况统计男女合 计北 京112356478天 津130305435河 北84617872633山 西3597821141内蒙古291558849合 计174837885536问：在丧偶数量上性别因素和地区因素是否独立。分析：该问题属于独立性检验至少有一个不相等拒绝H0。【本章思考题】1 Kolmogorov检验和Smirnov检验是怎样计算的？2 列联表齐次性的检验和独立性检验所使用的统计量有什么不同？9第 页