方差分析与正交实验设计初步.pptx

第第 7 章章 方差分析与正交实验设计初步方差分析与正交实验设计初步7.1 方差分析的基本思想方差分析的基本思想7.2 单因素方差分析单因素方差分析7.3 双因素方差分析双因素方差分析7.4 正交正交实验设计初步实验设计初步学习目标l方差分析的基本思想和原理方差分析的基本思想和原理l单因子方差分析单因子方差分析l多重比较多重比较l双因子方差分析的方法双因子方差分析的方法l实验设计方法与数据分析实验设计方法与数据分析不同运动队的平均成绩之间是否有显著差异不同运动队的平均成绩之间是否有显著差异？n奥奥运运会会女女子子团团体体射射箭箭比比赛赛，每每个个队队有有3名名运运动动员员。进进入入最最后后决决赛赛的的运运动动队队需需要要进进行行4组组射射击击，每每个个队队员员进进行行两两次次射射击击。这这样样，每每个个组组共共射射出出6箭箭，4组共射出组共射出24箭箭n在在2008年年8月月10日日进进行行的的第第29届届北北京京奥奥运运会会女女子子团团体体射射箭箭比比赛赛中中，获获得得前前3名名的的运运动动队队最最后后决决赛赛的的成成绩如下表所示绩如下表所示不同运动队的平均成绩之间是否有显著差异？不同运动队的平均成绩之间是否有显著差异？n每个队伍的24箭成绩可以看作是该队伍射箭成绩的一个随机样本。获得金牌、银牌和铜牌的队伍之间的射箭成绩是否有显著差异呢？n如果采用第5章介绍的假设检验方法，用分布做两两的比较，则需要做次数比较。这样做不仅繁琐，而且每次检验犯第类错误的概率都是一样的，作多次检验会使犯第类错误的概率相应地增加，检验完成时，犯第类错误的概率将会很大。同时，随着检验的次数的增加，偶然因素导致差别的可能性也会增加。n采用方差分析方法很容易解决这样的问题，它是同时考虑所有的样本数据，一次检验即可判断多个总体的均值是否相同，这不仅排除了犯错误的累积概率，也提高了检验的效率。7.1 方差分析的基本思想方差分析的基本思想l7.1.1方差分析的有关概念方差分析的有关概念l7.1.2方差分析的基本思想和原理方差分析的基本思想和原理l7.1.3方差分析中的基本假定方差分析中的基本假定l7.1.4假设问题的一般提法假设问题的一般提法 7.1.1方差分析的有关概念什么是方差分析什么是方差分析(ANOVA)?1）检验多个总体均值是否相等检验多个总体均值是否相等通过分析数据的误差判断各总体均值是否相等2）研究分类型自变量对数值型因变量的影响分类型自变量对数值型因变量的影响 一个或多个分类尺度的自变量两个或多个(k 个)处理水平或分类一个间隔或比率尺度的因变量3）有单因素方差分析和双因素方差分析单因素方差分析：涉及一个分类的自变量双因素方差分析：涉及两个分类的自变量什么是方差分析什么是方差分析?(例题分析)消费者对四个行业的投诉次数消费者对四个行业的投诉次数 行业行业观测值观测值零售业零售业旅游业旅游业航空公司航空公司家电制造业家电制造业12345675766494034534468392945565131492134404451657758【例例例例 】为了对几个行业的服务质量进行评价，消费者协会为了对几个行业的服务质量进行评价，消费者协会在四个行业分别抽取了不同的企业作为样本。最近一年中消在四个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共费者对总共23家企业投诉的次数如下表家企业投诉的次数如下表一个一个分类分类变量变量什么是方差分析什么是方差分析?(例题分析)1.1.分分析析四四个个行行业业之之间间的的服服务务质质量量是是否否有有显显著著差差异异，也也就就是是要要判判断断“行行业业”对对“投投诉诉次次数数”是否有显著影响是否有显著影响2.2.作作出出这这种种判判断断最最终终被被归归结结为为检检验验这这四四个个行行业业被投诉次数的被投诉次数的均值是否相等。均值是否相等。怎样检验？怎样检验？3.3.若若它它们们的的均均值值相相等等，则则意意味味着着“行行业业”对对投投诉诉次次数数是是没没有有影影响响的的，即即它它们们之之间间的的服服务务质质量量没没有有显显著著差差异异；若若均均值值不不全全相相等等，则则意意味味着着“行行业业”对对投投诉诉次次数数是是有有影影响响的的，它它们们之之间的服务质量有显著差异。间的服务质量有显著差异。方差分析中的其他有关概念方差分析中的其他有关概念 1.因素或因子(factor)所要检验的对象要分析行业对投诉次数是否有影响，行行业业是要检验的因素或因子2.水平或处理(treatment)因子的不同表现零售业、旅游业、航空公司、家电制造业就是因子的水平3.观察值在每个因素水平下得到的样本数据每个行业被投诉的次数就是观察值4.试验这这里里只只涉涉及及一一个个因因素素，因因此此称称为为单单因因素素四四水水平平的的试验试验5.总体因素的因素的每一个水平每一个水平可以看作可以看作是一个总体是一个总体比比如如零零售售业业、旅旅游游业业、航航空空公公司司、家家电电制制造造业业可可以看作是四个总体以看作是四个总体6.样本数据被被投投诉诉次次数数可可以以看看作作是是从从这这四四个个总总体体中中抽抽取取的的样样本本数据数据7.1.2方差分析的基本思想和原理方差分析的基本思想和原理 零售业 旅游业 航空公司 家电制造1.从散点图上可以看出不同行业被投诉的次数是有明显差异的同一个行业，不同企业被投诉的次数也明显不同家电制造被投诉的次数较高，航空公司被投诉的次数较低2.行行业与被投诉次数之间有一定的关系业与被投诉次数之间有一定的关系如果行业与被投诉次数之间没有关系，那么它们被投诉的次数应该差不多相同，在散点图上所呈现的模式也就应该很接近方差分析的基本思想和原理方差分析的基本思想和原理(图形分析图形分析)3仅从散点图上观察还不能提供充分的证据证明不同行业被投诉的次数之间有显著差异这种差异可能是由于抽抽样样的的随随机机性性所造成的,也有可能是系统性影响因素系统性影响因素造成的。4需要有更准确的方法来检验这种差异是否显著，也就是进行方差分析所以叫方差分析，因为虽然我们感感兴兴趣趣的的是是均均值值，但在判断均值之间是否有差异时则需要借助于方差这个名字也表示：它它是是通通过过对对数数据据误误差差来来源源的的分分析析判判断断不不同同总总体体的的均均值值是是否否相相等等。因此，进行方差分析时，需要考察数据误差的来源数据误差的来源1.比较两类误差（系统性误差、随机误差），以检验均值是否相等；2.比较的基础是方差比；3.如果系统(处理)误差明显地不同于随机误差，则均值就是不相等的；反之，均值就是相等的；4.误差是由各部分的误差占总误差的比例来测度的。方差分析的基本思想和原理方差分析的基本思想和原理方差分析的基本思想和原理方差分析的基本思想和原理(两类误差两类误差)1.随机误差随机误差随机误差随机误差因因素素的的同同一一水水平平(总总体体)下下，样样本本各各观观察察值值之之间间的的差差异异比如，同一行业下不同企业被投诉次数是不同的比如，同一行业下不同企业被投诉次数是不同的这这种种差差异异可可以以看看成成是是随随机机因因素素的的影影响响，称称为为随随随随机机机机误误误误差差差差 2.系统误差系统误差因素的不同水平因素的不同水平(不同总体不同总体)下，各观察值之间的差异下，各观察值之间的差异比如，不同行业之间的被投诉次数之间的差异比如，不同行业之间的被投诉次数之间的差异这这种种差差异异可可能能是是由由于于抽抽样样的的随随机机性性所所造造成成的的，也也可可能能是是由由于于行行业业本本身身所所造造成成的的，后后者者所所形形成成的的误误差差是是由由系统性因素造成的，称为系统性因素造成的，称为系统误差系统误差系统误差系统误差方差分析的基本思想和原理方差分析的基本思想和原理(两类方差两类方差)1.数数据据的的误误差差用用平平方方和和(sum of squares)表表示示，又又构成方差。构成方差。2.组内方差组内方差(within groups)因素的同一水平因素的同一水平(同一个总体同一个总体)下样本数据的方差下样本数据的方差比如，零售业被投诉次数的方差比如，零售业被投诉次数的方差组内方差只包含组内方差只包含随机误差随机误差3.组间方差组间方差(between groups)因素的不同水平因素的不同水平(不同总体不同总体)下各样本之间的方差下各样本之间的方差比如，四个行业被投诉次数之间的方差比如，四个行业被投诉次数之间的方差组间方差既包括组间方差既包括随机误差随机误差，也包括，也包括系统误差系统误差方差分析的基本思想和原理方差分析的基本思想和原理(方差的比较方差的比较)1.若不同行业对投诉次数没有影响，则组间误差中只包含随随机机误误差差，又又有有系系统统误误差差。这时，组间误差与组内误差经过平均后的数值就应该很接近，它们的比值就会接近1。2.若不同行业对投诉次数有影响，在组间误差中除了包含随机误差外，还会包含有系统误差，这时组组间间误误差差平平均均后后的的数数值值就就会会大于组内误差平均后的数值，它们之间的比值就会大于大于组内误差平均后的数值，它们之间的比值就会大于1。3.当这个比比值值大大到到某某种种程程度度时，就可以说不同水平之间存在着显著差异，也就是自变量对因变量有影响。判断行业对投诉次数是否有显著影响，实际上也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响。7.1.3方差分析的基本假定方差分析的基本假定方差分析的基本假定方差分析的基本假定1 1.每个每个总体都应服从总体都应服从正态分布正态分布对对于于因因素素的的每每一一个个水水平平，其其观观察察值值是是来来自自服服从从正正态分布总体的简单随机样本态分布总体的简单随机样本比如，每个行业被投诉的次数必需服从正态分布比如，每个行业被投诉的次数必需服从正态分布2.各个各个总体的总体的方差必须相同方差必须相同各组观察数据是从具有相同方差的总体中抽取的各组观察数据是从具有相同方差的总体中抽取的比如，四个行业被投诉次数的方差都相等比如，四个行业被投诉次数的方差都相等3.观观察值是察值是独立的独立的比比如如，每每个个行行业业被被投投诉诉的的次次数数与与其其他他行行业业被被投投诉诉的次数独立的次数独立方差分析中的基本假定方差分析中的基本假定21.在在上上述述假假定定条条件件下下，判判断断行行业业对对投投诉诉次次数数是是否否有有显显著著影影响响，实实际际上上也也就就是是检检验验具具有有同同方方差差的的四个正态总体的均值是否相等四个正态总体的均值是否相等2.如如果果四四个个总总体体的的均均值值相相等等，可可以以期期望望四四个个样样本本的均值也会很接近的均值也会很接近四四个个样样本本的的均均值值越越接接近近，推推断断四四个个总总体体均均值值相相等等的证据也就越充分的证据也就越充分样样本本均均值值越越不不同同，推推断断总总体体均均值值不不同同的的证证据据就就越越充分充分 方差分析中基本假定方差分析中基本假定 如果原假设成立，即H0：1=2=3=4四个行业被投诉次数的均值都相等意味着每个样本都来自均值为、方差为 2的同一正态总体 X X Xf(X)f(X)f(X)1 1 1 1 2 2 2 2 3 3 3 3 4 4 4 4 方差分析中基本假定方差分析中基本假定若备择假设成立，即若备择假设成立，即H H1 1:j j(j j=1,2,3,4=1,2,3,4)不全相等不全相等至少有一个总体的均值是不同的至少有一个总体的均值是不同的四个样本分别来自均值不同的四个正态总体四个样本分别来自均值不同的四个正态总体 X X Xf(X)f(X)f(X)3 3 3 3 1 1 1 1 2 2 2 2 4 4 4 4 7.1.4问题的一般提法问题的一般提法1.设因素有k个水平，每个水平的均值分别用 1,2,k 表示2.要检验k个水平(总体)的均值是否相等，需要提出如下假设：H0：1 2 k H1：1,2,，k 不全相等不全相等3.设 1为零售业被投诉次数的均值，2为旅游业被投诉次数的均值，3为航空公司被投诉次数的均值，4为家电制造业被投诉次数的均值，提出的假设为H0：1 2 3 4 H1：1,2,3,4 不全相等不全相等7.2 单因素方差分析单因素方差分析 l7.2.1 数据结构数据结构l7.2.2 分析步骤分析步骤l7.2.3 关系强度的测量关系强度的测量7.2.1单因素方差分析的数据结构单因素方差分析的数据结构(one-way analysis of variance)观察值观察值 (i)因素因素(A)j 水平水平A1 水平水平A2 水平水平Ak12:n x11 x12 x1k x21 x22 x2k :xn1 xn2 xnk一、提出假设：1.一般提法H0：1=2=k 自变量对因变量没有显著影响 H1：1，2，k不全相等自变量对因变量有显著影响 2.注意：拒拒绝绝原原假假设设，只只表表明明至至少少有有两两个个总总体体的的均均值值不不相相等等，并并不不意意味味着着所所有有的的均均值值都不相等都不相等 7.2.2方差分析的基本步骤方差分析的基本步骤二、构造检验的统计量二、构造检验的统计量 构造统计量需要计算水平的均值全部观察值的总均值误差平方和(SS)均方(MS)三、构造检验的统计量三、构造检验的统计量(计算水平的均值计算水平的均值)1.假定从第j个总体中抽取一个容量为ni的简单随机样本，第j个总体的样本均值为该样本的全部观察值总和除以观察值的个数2.计算公式为 式中：式中：n ni i为第为第 i i 个总体的样本观察值个数个总体的样本观察值个数 x xij ij 为第为第 i i 个总体的第个总体的第 j j 个观察值个观察值 四、构造检验的统计量四、构造检验的统计量(计算全部观察值的总均值计算全部观察值的总均值)1.全部观察值的总和除以观察值的总个数2.计算公式为 例题分析例题分析 五、构造检验的统计量(计算总误差平方和 SST：sum of squares for total)1.全部观察值 与总平均值 的离差平方和2.反映全部观察值的离散状况3.其计算公式为 前例的计算结果：前例的计算结果：SST SST=(57-47.869565)=(57-47.869565)2 2+(58-47.869565)(58-47.869565)2 2 =115.9295 =115.9295六、构造检验的统计量六、构造检验的统计量(计算水平项平方和计算水平项平方和 SSA)SSA：Sum of squares for factor A1.各组平均值 与总平均值 的离差平方和2.反映各总体的样样本本均均值值之之间间的的差差异异程程度度，又称组组间平方和间平方和3.该平方和既包括随机误差，也包括系统误差随机误差，也包括系统误差4.计算公式为 前例的计算结果：前例的计算结果：SSA SSA=1456.608696=1456.608696七、构造检验的统计量七、构造检验的统计量(计算误差项平方和计算误差项平方和 SSE)SSE:Sum of squares for error1.每个水平或组的各样本数据与其组平均值的离差平方和2.反映每个样本各观察值的离散状况，又称组组内内平平方和方和3.该平方和反映的是随机误差随机误差的大小4.计算公式为 前例的计算结果：前例的计算结果：SSE SSE=2708=2708八、构造检验的统计量八、构造检验的统计量(三个平方和的关系三个平方和的关系)总离差平方和(SST)、误差项离差平方和(SSE)、水平项离差平方和(SSA)之间的关系SST=SSA+SSE总离差平方和总离差平方和总离差平方和总离差平方和=组间离差平方和组间离差平方和组间离差平方和组间离差平方和+组内离差平方和组内离差平方和组内离差平方和组内离差平方和 前例的计算结果：前例的计算结果：4164.608696=1456.608696+2708 4164.608696=1456.608696+2708 三个平方和的作用三个平方和的作用1.SST反映全部数据总的误差程度；SSE反映随机误差的大小；SSA反映随随机机误误差差和和系系统统误误差差的大小2.如果原假设成立，则表明没有系统误差，组间平方和SSA除以自由度后的均均方方与组内平方和SSE除以自由度后的均均方方差异就不会太大；如果组组间间均均方方显著地大于组组内内均均方方，说明各水平(总体)之间的差异不仅有随机误差，还有系统误差3.判断因素的水平是否对其观察值有影响，实际上就是比较组组间间方方差差与组组内内方方差差之间差异的大小十、构造检验的统计量十、构造检验的统计量(计算均方计算均方MS)1.各误差平方和的大小与观察值的多少有关，为消除观察值多少对误差平方和大小的影响，需要将其平均，这就是均方均方，也称为方差方差2.计算方法是用误差平方和除以相应的自由度3.三个平方和对应的自由度分别是SST 的自由度为n-1，其中n为全部观察值的个数SSA的自由度为k-1，其中k为因素水平(总体)的个数SSE 的自由度为n-k十一、构造检验的统计量十一、构造检验的统计量(计算均方计算均方 MS)1.组组间间方方差差：SSA的均方，记为MSA，计算公式为2.组组内内方方差差：SSE的均方，记为MSE，计算公式为十二、构造检验的统计量十二、构造检验的统计量(计算检验统计量计算检验统计量 F)1.将MSA和MSE进行对比，即得到所需要的检验统计量F2.当H0为真时，二者的比值服从分子自由度为k-1、分母自由度为 n-k 的 F 分布，即 记住记住F分布与拒绝域分布与拒绝域如果均值相等，如果均值相等，如果均值相等，如果均值相等，如果均值相等，如果均值相等，F F F=MSAMSAMSA/MSEMSEMSE1 1 1 F 分布分布F(k-1,n-k)0 0拒绝拒绝拒绝拒绝HH0 0不能拒绝不能拒绝不能拒绝不能拒绝H H H H0 0 0 0F F十二、统计决策十二、统计决策 将将统统计计量量的的值值F与与给给定定的的显显著著性性水水平平 的的临临界值界值F 进行比较，作出对原假设进行比较，作出对原假设H0的决策的决策根根据据给给定定的的显显著著性性水水平平，在在F分分布布表表中中查查找找与与第第一一自自由由度度df1k-1、第第二二自自由由度度df2=n-k 相应的临界值相应的临界值 F 若若FF ，则则拒拒绝绝原原假假设设H0，表表明明均均值值之之间间的的差差异异是是显显著著的的，所所检检验验的的因因素素对对观观察察值有显著影响值有显著影响若若F F F ，则则拒拒拒拒绝绝绝绝原原假假设设H H0 0 ，表表明明均均值值之之间间的的差差异异是是显显著著的的，即即所所检检验验的的行行因因素素对对观观察察值值有有显著影响显著影响若若F FC C F F ，则则拒拒拒拒绝绝绝绝原原假假设设H H0 0 ，表表明明均均值值之之间间有有显显著著差差异异，即即所所检检验验的的列列因因素素对对观观察察值值有有显显著影响著影响 7统计决策统计决策双因素方差分析表双因素方差分析表(基本结构基本结构)双因素方差分析双因素方差分析(例题分析例题分析)提出假设提出假设提出假设提出假设对品牌因素提出的假设为对品牌因素提出的假设为对品牌因素提出的假设为对品牌因素提出的假设为HH0 0：1 1=2 2=3 3=4 4 (品品品品牌牌牌牌对对对对销销销销售售售售量量量量没没没没有有有有影响影响影响影响)HH1 1：i i (i i=1,2,4)=1,2,4)不全相等不全相等不全相等不全相等 (品牌对销售量有品牌对销售量有品牌对销售量有品牌对销售量有影响影响影响影响)对地区因素提出的假设为对地区因素提出的假设为对地区因素提出的假设为对地区因素提出的假设为HH0 0：1 1=2 2=3 3=4 4=5 5 (地地地地区区区区对对对对销销销销售售售售量量量量没没没没有有有有影响影响影响影响)HH1 1：j j (j j=1,2,5)=1,2,5)不全相等不全相等不全相等不全相等 (地区对销售量有地区对销售量有地区对销售量有地区对销售量有影响影响影响影响)双因素方差分析双因素方差分析(例题分析例题分析)结论：结论：结论：结论：F FR R18.1077718.10777F F 3.49033.4903，拒绝原假设拒绝原假设H H0 0，说明彩，说明彩电的品牌对销售量有显著影响电的品牌对销售量有显著影响 F FC C2.1008462.100846 F F 3.25923.2592，不能拒绝原假设，不能拒绝原假设H H0 0，说，说明销售地区对彩电的销售量没有显著影响明销售地区对彩电的销售量没有显著影响7.4.1 实验设计的概念和设计原则7.4 正交实验设计初步正交实验设计初步1、实验设计有三个基本原则实验设计有三个基本原则l重复性原则l随机化原则l区组化原则2、安排实验时应注意：、安排实验时应注意：l尽量减少试验误差；l尽量减少试验次数；l所设计的试验要便于对指标值进行统计分析。7.4.2 多因子试验问题多因子试验问题l在多因子试验中，各因子又有不同的水平数，我们的目的是要从这些因子不同的水平组合中，找出一组或几组不同组合使所要求的指标达到最优。（p202）7.4.3 交互作用交互作用1、一个因子的水平好坏或好坏程度受另一个因子水、一个因子的水平好坏或好坏程度受另一个因子水平制约的情况，称为因子平制约的情况，称为因子A和和B的交互作用，记作的交互作用，记作AB或或AB。2、当因子间存在交互作用时，交互作用会随着因子、当因子间存在交互作用时，交互作用会随着因子个数的增加而增加。个数的增加而增加。3、我们主要考虑二级交互作用。、我们主要考虑二级交互作用。7.4.4正交表及其类型正交表及其类型1、正交表及其特性l正交表是正交设计的工具，是运用组合数字理论在正交拉丁方的基础上构造的一种规格化表格，符号：Ln(ji).l两个特征：（1）每列中不同的数字重复的次数相同。（2）将任意两列的同行数字看成一个数对，那么任意可能数对重复的次数相等。2、正交表的分类。（p204）7.4.5 无交互情况的设计1、正交表安排试验时的步骤：、正交表安排试验时的步骤：（1）明确实验目的，确定要考察的试验指标；）明确实验目的，确定要考察的试验指标；（2）确定要考察的因子和因子的水平；）确定要考察的因子和因子的水平；（3）选用合适的正交表，进行表头设计；）选用合适的正交表，进行表头设计；（4）根据试验号的安排进行试验，并记录试验指标）根据试验号的安排进行试验，并记录试验指标的具体数据；的具体数据；（5）数据分析。）数据分析。2、数据分析的方法：（1）用极差分析各因子对指标影响程度的大小；（2）用方差分析；（3）贡献率分析法。【例题】某化工厂生产的一种产品的收率较低，为此希望通过试验提高收率。在试验中考察如下三个因子三个水平。水平因子一二三A:温度808590B:加碱量354855C:催化剂种类甲乙丙7.4.6 有交互作用设计（p211-212）1、表头设计、表头设计l自由度l在对有交互作用的试验进行分析时应遵循的原则2、数据的方差分析、数据的方差分析l统计模型统计模型l平方和分解平方和分解l方差分析表方差分析表l最佳水平组合的选择最佳水平组合的选择结结 束束