方差分析与实验设计.pptx

STAT学习目标1.解释方差分析的概念解释方差分析的概念2.解释方差分析的基本思想和原理解释方差分析的基本思想和原理3.掌握单因素方差分析的方法及应用掌握单因素方差分析的方法及应用4.理解多重比较的意义理解多重比较的意义5.掌握双因素方差分析的方法及应用掌握双因素方差分析的方法及应用6.掌握试验设计的基本原理和方法掌握试验设计的基本原理和方法10.1 方差分析引论一一.方差分析及其有关术语方差分析及其有关术语二二.方差分析的基本思想和原理方差分析的基本思想和原理三三.方差分析的基本假定方差分析的基本假定四四.问题的一般提法问题的一般提法方差分析及其有关术语STAT什么是方差分析(ANOVA)?(analysis of variance)1.检验多个总体均值是否相等通过分析察数据的误差判断各总体均值是否相等2.研究分类型自变量对数值型因变量的影响 一个或多个分类尺度的自变量2个或多个(k 个)处理水平或分类一个间隔或比率尺度的因变量3.有单因素方差分析和双因素方差分析单因素方差分析：涉及一个分类的自变量双因素方差分析：涉及两个分类的自变量STAT什么是方差分析?(例题分析)消费者对四个行业的投诉次数消费者对四个行业的投诉次数 行业行业观测值观测值零售业零售业旅游业旅游业航空公司航空公司家电制造业家电制造业12345675766494034534468392945565131492134404451657758【例例例例】为了对几个行业的服务质量进行评价，消费者协会在为了对几个行业的服务质量进行评价，消费者协会在四个行业分别抽取了不同的企业作为样本。最近一年中消费四个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共者对总共2323家企业投诉的次数如下表家企业投诉的次数如下表STAT什么是方差分析?(例题分析)1.分析四个行业之间的服务质量是否有显著差异，也就是要判断“行业”对“投诉次数”是否有显著影响2.作出这种判断最终被归结为检验这四个行业被投诉次数的均值是否相等3.如果它们的均值相等，就意味着“行业”对投诉次数是没有影响的，即它们之间的服务质量没有显著差异；如果均值不全相等，则意味着“行业”对投诉次数是有影响的，它们之间的服务质量有显著差异STAT方差分析中的有关术语1.因素或因子(factor)所要检验的对象要分析行业对投诉次数是否有影响，行行业业是要检验的因素或因子2.水平或处理(treatment)因子的不同表现零售业、旅游业、航空公司、家电制造业就是因子的水平3.观察值在每个因素水平下得到的样本值每个行业被投诉的次数就是观察值STAT方差分析中的有关术语1.试验这里只涉及一个因素，因此称为单因素四水平的试验2.总体因素的每一个水平可以看作是一个总体比如零售业、旅游业、航空公司、家电制造业可以看作是四个总体3.样本数据被投诉次数可以看作是从这四个总体中抽取的样本数据方差分析的基本思想和原理STAT方差分析的基本思想和原理(图形分析)零售业 旅游业 航空公司 家电制造STAT1.从散点图上可以看出不同行业被投诉的次数是有明显差异的即使是在同一个行业，不同企业被投诉的次数也明显不同家电制造也被投诉的次数较高，航空公司被投诉的次数较低2.行业与被投诉次数之间有一定的关系如果行业与被投诉次数之间没有关系，那么它们被投诉的次数应该差不多相同，在散点图上所呈现的模式也就应该很接近方差分析的基本思想和原理(图形分析)STAT1.仅从散点图上观察还不能提供充分的证据证明不同行业被投诉的次数之间有显著差异这种差异也可能是由于抽样的随机性所造成的2.需要有更准确的方法来检验这种差异是否显著，也就是进行方差分析所以叫方差分析，因为虽然我们感兴趣的是均值，但在判断均值之间是否有差异时则需要借助于方差这个名字也表示：它是通过对数据误差来源的分析判断不同总体的均值是否相等。因此，进行方差分析时，需要考察数据误差的来源。方差分析的基本思想和原理STAT1.比较两类误差，以检验均值是否相等2.比较的基础是方差比3.如果系统(处理)误差显著地不同于随机误差，则均值就是不相等的；反之，均值就是相等的4.误差是由各部分的误差占总误差的比例来测度的方差分析的基本思想和原理STAT方差分析的基本思想和原理(两类误差)1.随机误差随机误差因素的同一水平(总体)下，样本各观察值之间的差异比如，同一行业下不同企业被投诉次数是不同的这种差异可以看成是随机因素的影响，称为随机误差随机误差 2.系统误差系统误差因素的不同水平(不同总体)下，各观察值之间的差异比如，不同行业之间的被投诉次数之间的差异这种差异可能是由于抽样的随机性所造成的，也可能是由于行业本身所造成的，后者所形成的误差是由系统性因素造成的，称为系统误差系统误差STAT方差分析的基本思想和原理(两类方差)1.数据的误差用平方和(sum of squares)表示，称为方差2.组内方差(within groups)因素的同一水平(同一个总体)下样本数据的方差比如，零售业被投诉次数的方差组内方差只包含随机误差随机误差3.组间方差(between groups)因素的不同水平(不同总体)下各样本之间的方差比如，四个行业被投诉次数之间的方差组间方差既包括随机误差随机误差，也包括系统误差系统误差STAT方差分析的基本思想和原理(方差的比较)1.若不同不同行业对投诉次数没有影响，则组间误差中只包含随机误差，没有系统误差。这时，组间误差与组内误差经过平均后的数值就应该很接近，它们的比值就会接近12.若不同行业对投诉次数有影响，在组间误差中除了包含随机误差外，还会包含有系统误差，这时组间误差平均后的数值就会大于组内误差平均后的数值，它们之间的比值就会大于13.当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异，也就是自变量对因变量有影响判断行业对投诉次数是否有显著影响，实际上也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响方差分析的基本假定STAT方差分析的基本假定1.每个总体都应服从正态分布对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本比如，每个行业被投诉的次数必需服从正态分布2.各个总体的方差必须相同各组观察数据是从具有相同方差的总体中抽取的比如，四个行业被投诉次数的方差都相等3.观察值是独立的比如，每个行业被投诉的次数与其他行业被投诉的次数独立STAT方差分析中的基本假定1.在上述假定条件下，判断行业对投诉次数是否有显著影响，实际上也就是检验具有同方差的四个正态总体的均值是否相等2.如果四个总体的均值相等，可以期望四个样本的均值也会很接近四个样本的均值越接近，推断四个总体均值相等的证据也就越充分样本均值越不同，推断总体均值不同的证据就越充分 STAT方差分析中基本假定 如果原假设成立，即H0:1=2=3=4四个行业被投诉次数的均值都相等意味着每个样本都来自均值为、差为2的同一正态总体 X X Xf(X)f(X)f(X)1 1 1 1 2 2 2 2 3 3 3 3 4 4 4 4 STAT方差分析中基本假定若备择假设成立，即H1:i(i=1，2，3，4)不全相等至少有一个总体的均值是不同的四个样本分别来自均值不同的四个正态总体 X X Xf(X)f(X)f(X)3 3 3 3 1 1 1 1 2 2 2 2 4 4 4 4 问题的一般提法STAT问题的一般提法1.设因素有k个水平，每个水平的均值分别用 1、2、k 表示2.要检验k个水平(总体)的均值是否相等，需要提出如下假设：H0:1 2 k H1:1,2,，k 不全相等不全相等3.设 1为零售业被投诉次数的均值，2为旅游业被投诉次数的均值，3为航空公司被投诉次数的均值，4为家电制造业被投诉次数的均值，提出的假设为H0:1 2 3 4 H1:1,2,3,4 不全相等不全相等10.2 单因素方差分析一一.数据结构数据结构二二.分析步骤分析步骤三三.关系强度的测量关系强度的测量四四.用用Excel进行方差分析进行方差分析STAT单因素方差分析的数据结构(one-way analysis of variance)观察值观察值 (j)因素因素(A)i 水平水平A1 水平水平A2 水平水平Ak12:n x11 x21 xk1 x12 x22 xk2 :x1n x2n xkn分析步骤分析步骤提出假设提出假设构造检验统计量构造检验统计量统计决策统计决策STAT提出假设1.一般提法H0:1=2=k 自变量对因变量没有显著影响 H1:1，2，k不全相等自变量对因变量有显著影响 2.注意：拒绝原假设，只表明至少有两个总体的均值不相等，并不意味着所有的均值都不相等 STAT构造检验的统计量构造统计量需要计算水平的均值全部观察值的总均值误差平方和均方(MS)STAT构造检验的统计量(计算水平的均值)1.假定从第i个总体中抽取一个容量为ni的简单随机样本，第i个总体的样本均值为该样本的全部观察值总和除以观察值的个数2.计算公式为 式中：式中：n ni i为第为第 i i 个总体的样本观察值个数个总体的样本观察值个数 x xij ij 为第为第 i i 个总体的第个总体的第 j j 个观察值个观察值 STAT构造检验的统计量(计算全部观察值的总均值)1.全部观察值的总和除以观察值的总个数2.计算公式为 STAT构造检验的统计量(例题分析)STAT构造检验的统计量(计算总误差平方和 SST)1.全部观察值 与总平均值 的离差平方和2.反映全部观察值的离散状况3.其计算公式为 前例的计算结果：前例的计算结果：SST SST=(57-47.869565)=(57-47.869565)2 2+(58-47.869565)(58-47.869565)2 2 =115.9295 =115.9295STAT构造检验的统计量(计算水平项平方和 SSA)1.各组平均值 与总平均值 的离差平方和2.反映各总体的样本均值之间的差异程度，又称组间平方和3.该平方和既包括随机误差，也包括系统误差4.计算公式为 前例的计算结果：前例的计算结果：SSA SSA=1456.608696=1456.608696STAT构造检验的统计量(计算误差项平方和 SSE)1.每个水平或组的各样本数据与其组平均值的离差平方和2.反映每个样本各观察值的离散状况，又称组内平方和3.该平方和反映的是随机误差的大小4.计算公式为 前例的计算结果：前例的计算结果：SSE SSE=2708=2708STAT构造检验的统计量(三个平方和的关系)总离差平方和(SST)、误差项离差平方和(SSE)、水平项离差平方和(SSA)之间的关系SST=SSA+SSE 前例的计算结果：前例的计算结果：4164.608696=1456.608696+2708 4164.608696=1456.608696+2708 STAT构造检验的统计量(三个平方和的作用)1.SST反映全部数据总的误差程度；SSE反映随机误差的大小；SSA反映随机误差和系统误差的大小2.如果原假设成立，则表明没有系统误差，组间平方和SSA除以自由度后的均均方方与组内平方和SSE和除以自由度后的均均方方差异就不会太大；如果组组间间均均方方显著地大于组组内内均均方方，说明各水平(总体)之间的差异不仅有随机误差，还有系统误差3.判断因素的水平是否对其观察值有影响，实际上就是比较组间方差组间方差与组内方差组内方差之间差异的大小STAT构造检验的统计量(计算均方MS)1.各误差平方和的大小与观察值的多少有关，为消除观察值多少对误差平方和大小的影响，需要将其平均，这就是均方均方，也称为方差2.计算方法是用误差平方和除以相应的自由度3.三个平方和对应的自由度分别是SST 的自由度为n-1，其中n为全部观察值的个数SSA的自由度为k-1，其中k为因素水平(总体)的个数SSE 的自由度为n-kSTAT构造检验的统计量(计算均方 MS)1.组组间间方方差差：SSA的均方，记为MSA，计算公式为2.组组内内方方差差：SSE的均方，记为MSE，计算公式为STAT构造检验的统计量(计算检验统计量 F)1.将MSA和MSE进行对比，即得到所需要的检验统计量F2.当H0为真时，二者的比值服从分子自由度为k-1、分母自由度为 n-k 的 F 分布，即 STAT构造检验的统计量(F分布与拒绝域)如果均值相等，如果均值相等，如果均值相等，如果均值相等，如果均值相等，如果均值相等，F F F=MSAMSAMSA/MSEMSEMSE1 1 1 F 分布分布F(k-1,n-k)0 0拒绝拒绝拒绝拒绝HH0 0不拒绝不拒绝不拒绝不拒绝H H H H0 0 0 0F FSTAT统计决策 将统计量的值F与给定的显著性水平的临界值F进行比较，作出对原假设H0的决策根据给定的显著性水平，在F分布表中查找与第一自由度df1k-1、第二自由度df2=n-k 相应的临界值 F 若FF ，则拒绝原假设H0，表明均值之间的差异是显著的，所检验的因素对观察值有显著影响若FF ，则拒拒绝绝原假设H0，表明均值之间的差异是显著的，即所检验的行因素对观察值有显著影响若FC F ，则拒拒绝绝原假设H0，表明均值之间有显著差异，即所检验的列因素对观察值有显著影响 STAT双因素方差分析表(基本结构)STAT双因素方差分析(例题分析)提出假设对品牌因素提出的假设为H0:1=2=3=4 (品牌对销售量没有影响)H1:i (i=1,2,4)不全相等 (品牌对销售量有影响)对地区因素提出的假设为H0:1=2=3=4=5 (地区对销售量没有影响)H1:j(j=1,2,5)不全相等 (地区对销售量有影响)用用Excel进行无重复双因素分析进行无重复双因素分析STAT双因素方差分析(例题分析)结论：结论：结论：结论：F FR R18.1077718.10777F F 3.49033.4903，拒绝原假设，拒绝原假设H H0 0，说明彩电，说明彩电的品牌对销售量有显著影响的品牌对销售量有显著影响 F FC C2.100846 2.100846 F F 3.25923.2592，不拒绝原假设，不拒绝原假设H H0 0，不能认，不能认为销售地区对彩电的销售量有显著影响为销售地区对彩电的销售量有显著影响STAT双因素方差分析(关系强度的测量)1.行平方和(行SS)度量了品牌这个自变量对因变量(销售量)的影响效应2.列平方和(列SS)度量了地区这个自变量对因变量(销售量)的影响效应3.这两个平方和加在一起则度量了两个自变量对因变量的联合效应4.联合效应与总平方和的比值定义为R25.其平方根R反映了这两个自变量合起来与因变量之间的关系强度 STAT双因素方差分析(关系强度的测量)例题分析品牌因素和地区因素合起来总共解释了销售量差异的83.94%其他因素(残差变量)只解释了销售量差异的16.06%R=0.9162，表明品牌和地区两个因素合起来与销售量之间有较强的关系 有交互作用的双因素方差分析(可重复双因素分析)STAT可重复双因素分析(例题)【例例】城市道路交通管理部门为研究不同的路段和不同的时间段对行车时间的影响，让一名交通警察分别在两个路段和高峰期与非高峰期亲自驾车进行试验，通过试验取得共获得20个行车时间(分钟)的数据，如下表。试分析路段、时段以及路段和时段的交互作用对行车时间的影响 STAT交互作用的图示路段与时段对行车时间的影响交互作用交互作用交互作用交互作用无交互作用无交互作用无交互作用无交互作用行车时间行车时间路段路段1 1路段路段2 2高峰期高峰期非高峰期非高峰期行车时间行车时间路段路段1 1路段路段2 2高峰期高峰期非高峰期非高峰期STAT可重复双因素分析(方差分析表的结构)STAT可重复双因素分析(平方和的计算)设：为对应于行因素的第i个水平和列因素的第j个 水平的第l行的观察值 为行因素的第i个水平的样本均值 为列因素的第j个水平的样本均值 对应于行因素的第i个水平和列因素的第j个水 平组合的样本均值 为全部n个观察值的总均值 STAT可重复双因素分析(平方和的计算)1.总平方和：2.行变量平方和：3.列变量平方和：4.交互作用平方和：5.误差项平方和：STAT可重复双因素分析(Excel计算)第第1步：步：选择“工具”下拉菜单，并选择“数据分析”选项第第2步：步：在分析工具中选择“素方差分析：可重复双因素分 析”，然后选择“确定”第第3步：步：当对话框出现时 在“输入区域”方框内键入A1：C11 在方框内键入0.05(可根据需要确定)在“每一样本的行数”方框内键入5 在“输出选项”中选择输出区域用用Excel进行可重复双因素分析进行可重复双因素分析10.5 试验设计初步一一.完全随机化设计完全随机化设计二二.随机化区组设计随机化区组设计三三.因子设计因子设计STAT试验设计与方差分析完全随机化完全随机化设计设计因子因子设计设计试验设计试验设计随机化随机化区组设计区组设计可重复双因素可重复双因素方差分析方差分析单因素单因素方差分析方差分析无重复双因素无重复双因素方差分析方差分析完全随机化设计STAT完全随机化设计(completely randomized design)1.“处理”被随机地指派给试验单元的一种设计“处理”是指可控制的因素的各个水平“试验单元(experiment unit)”是接受“处理”的对象或实体2.在试验性研究中，感兴趣的变量是明确规定的，因此，研究中的一个或多个因素可以被控制，使得数据可以按照因素如何影响变量来获取3.对完全随机化设计的数据采用单因素方差分析单因素方差分析STAT完全随机化设计(例题分析)【例例】一家种业开发股份公司研究出三个新的小麦品种：品种1、品种2、品种3。为研究不同品种对产量的影响，需要选择一些地块，在每个地块种上不同的品种，然后获得产量数据进行分析。这一过程就是试验设计的过程 这里的“小麦品种”就是试验因子或因素，品种1、品种2、品种3就是因子的三个不同水平，称为处理处理假定选取3个面积相同的地块，这里的“地块”就是接受处理的对象或实体，称为试验单元试验单元将每个品种随机地指派给其中的一个地块，这一过程就是随机化设计过程STAT完全随机化设计(例题分析)试验数据试验数据：STAT完全随机化设计(例题分析)方差分析：方差分析：随机化区组设计STAT随机化区组设计(randomized block design)1.先按一定规则将试验单元划分为若干同质组，称为“区组(Block)”2.再将各种处理随机地指派给各个区组比如在上面的例子中，首先根据土壤的好坏分成几个区组，假定分成四个区组：区组1、区组2、区组3、区组4，每个区组中有三个地块在每个区组内的三个地块以抽签方式决定所种的小麦品种3.分组后再将每个品种（处理）随机地指派给每一个区组的设计就是随机化区组设计4.试验数据采用无重复双因素方差分析无重复双因素方差分析STAT随机化区组设计(例题分析)试验数据：试验数据：STAT随机化区组设计(例题分析)方差分析：方差分析：因子设计STAT因子设计(factorial design)1.感兴趣的因素有两个如：小麦品种和施肥方式假定有甲、乙两种施肥方式，这样三个小麦品种和两种施肥方式的搭配共有32=6种。如果我们选择30个地块进行实验，每一种搭配可以做5次试验，也就是每个品种(处理)的样本容量为5，即相当于每个品种(处理)重复做了5次试验2.考虑两个因素(可推广到多个因素)的搭配试验设计称为因子设计3.该设计主要用于分析两个因素及其交互作用对试验结果的影响4.试验数据采用可重复双因素方差分析可重复双因素方差分析STAT因子设计(例题分析)试验数据：试验数据：STAT因子设计(例题分析)方差分析：方差分析：STAT本章小结1.方差分析方差分析(ANOVA)的概念的概念2.方差分析的思想和原理方差分析的思想和原理3.素方差分析中的基本假设素方差分析中的基本假设4.单因素方差分析单因素方差分析5.双因素方差分析双因素方差分析6.试验设计试验设计STAT结结 束束