数据分析方法3(方差分析).ppt

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,.,*,试验设计数据的方差分析,.,试验设计,一个养蟹户要遇到许多影响生产的因素或因子（,factor,），比如水温，饲料，水质等各种问题。要想稳定高产，就要进行各种因素的不同水平,(level),的搭配（组合）试验。这里的“水平”就是一个因素可能取的值。比如对于饲料这个因素，每个水平就是一种饲料；如果有三种可供选择的饲料，该因素就有三个水平。而如果水温有四种水平，则水温和饲料就有,12,种可能的搭配（组合）。,试验设计模型可以说就是回归模型的一种，自变量有定性变量的情况的处理和试验设计数据处理是一样的。但试验设计问题本身有很大一部分是如何设计试验，使得人们有可能用最少的资源得到最好的结果。当然，我们不打算详细讨论如何设计试验，而把主要精力放在试验设计数据的方差分析上。,.,方差分析,方差分析（,analysis of variance,，,ANOVA,）是分析各个自变量对因变量影响的一种方法。这里的自变量就是定性变量的因子及可能出现的称为协变量（,covariate,）的定量变量。分析结果是由一个方差分析表表示的。原理为：因变量的值随着自变量的不同取值而变化。我们把这些变化按照自变量进行分解，使得每一个自变量都有一份贡献，最后剩下无法用已知的因素解释的则看成随机误差的贡献。然后用各自变量的贡献和随机误差的贡献进行比较（,F,检验），以判断该自变量的不同水平是否对因变量的变化有显著贡献。输出就是,F-,值和检验的一些,p-,值。下面看一个例子。,.,销售数据,(sales.sav),研究这个数目的主要目的是看销售额（因变量）是否受到促销方式、售后服务和奖金这三个自变量的影响（头两个是定性变量，亦称为因子，分别有,3,个和,2,个水平；而定量变量奖金是协变量）以及怎样的影响。,.,.,什么是方差分析,(ANOVA)?,检验多个总体均值是否相等,通过分析数据的误差判断各总体均值是否相等,研究分类型自变量对数值型因变量的影响,一个或多个分类型自变量,两个或多个,(k,个,),处理水平或分类,一个数值型因变量,有单因素方差分析,和多因素,方差分析,单因素方差分析：涉及一个分类的自变量,多,因素,方差分析：,涉及多个,分类的自变量,.,什么是方差分析,?,消费者对四个行业的投诉次数,行业,观测值,零售业,旅游业,航空公司,家电制造业,1,2,3,4,5,6,7,57,66,49,40,34,53,44,68,39,29,45,56,51,31,49,21,34,40,44,51,65,77,58,例题分析：为了对几个行业的服务质量进行评价，消费者协会在四个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共,23,家企业投诉的次数如下表,.,什么是方差分析,?,分析四个行业之间的服务质量是否有显著差异，也就是要判断“行业”对“投诉次数”是否有显著影响,作出这种判断最终被归结为检验这四个行业被投诉次数的均值是否相等,若它们的均值相等，则意味着“行业”对投诉次数是没有影响的，即它们之间的服务质量没有显著差异；若均值不全相等，则意味着“行业”对投诉次数是有影响的，它们之间的服务质量有显著差异,.,方差分析中的有关术语,因素或因子,(factor),所要检验的对象,要分析行业对投诉次数是否有影响，行业是要检验的因素或因子,水平或处理,(treatment),因子的不同表现,零售业、旅游业、航空公司、家电制造业就是因子的水平,观察值,在每个因素水平下得到的样本数据,每个行业被投诉的次数就是观察值,.,方差分析中的有关术语,试验,这里只涉及一个因素，因此称为单因素四水平的试验,总体,因素的每一个水平可以看作是一个总体,比如零售业、旅游业、航空公司、家电制造业可以看作是四个总体,样本数据,被投诉次数可以看作是从这四个总体中抽取的样本数据,.,方差分析的基本思想和原理,(,图形分析,),零售业 旅游业 航空公司 家电制造,.,从散点图上可以看出,不同行业被投诉的次数是有明显差异的,同一个行业，不同企业被投诉的次数也明显不同,家电制造被投诉的次数较高，航空公司被投诉的次数较低,行业与被投诉次数之间有一定的关系,如果行业与被投诉次数之间没有关系，那么它们被投诉的次数应该差不多相同，在散点图上所呈现的模式也就应该很接近,方差分析的基本思想和原理,(,图形分析,),.,仅从散点图上观察还不能提供充分的证据证明不同行业被投诉的次数之间有显著差异,这种差异也可能是由于抽样的随机性所造成的,需要有更准确的方法来检验这种差异是否显著，也就是进行方差分析,所以叫方差分析，因为虽然我们感兴趣的是均值，但在判断均值之间是否有差异时则需要借助于方差,这个名字也表示：它是通过对数据误差来源的分析判断不同总体的均值是否相等。因此，进行方差分析时，需要考察数据误差的来源,方差分析的基本思想和原理,.,1.,比较两类误差，以检验均值是否相等,2.,比较的基础是方差比,3.,如果系统,(,处理,),误差明显地不同于随机误差，则均值就是不相等的；反之，均值就是相等的,4.,误差是由各部分的误差占总误差的比例来测度的,方差分析的基本思想和原理,.,方差分析的基本思想和原理,(,两类误差,),随机误差,因素的同一水平,(,总体,),下，样本各观察值之间的差异,比如，同一行业下不同企业被投诉次数是不同的,这种差异可以看成是随机因素的影响，称为随机误差,系统误差,因素的不同水平,(,不同总体,),下，各观察值之间的差异,比如，不同行业之间的被投诉次数之间的差异,这种差异可能是由于抽样的随机性所造成的，也可能是由于行业本身所造成的，后者所形成的误差是由系统性因素造成的，称为系统误差,.,方差分析的基本思想和原理,(,误差平方和,),数据的误差用平方和,(sum of squares),表示,组内平方和,(within groups),因素的同一水平,(,同一个总体,),下样本数据的平方和,比如，零售业被投诉次数的误差平方和,组内平方和只包含随机误差,组间平方和,(between groups),因素的不同水平,(,不同总体,),下各样本之间的平方和,比如，四个行业被投诉次数之间的误差平方和,组间平方和既包括随机误差，也包括系统误差,.,方差分析的基本思想和原理,(,误差的比较,),若原假设成立，组间平方和与组内平方和经过平均后的数值就应该很接近，它们的比值就会接近,1,若原假设不成立，组间平方和平均后的数值就会大于组内平方和平均后的数值，它们之间的比值就会大于,1,当这个比值大到某种程度时，就可以说不同水平之间存在着显著差异，也就是自变量对因变量有影响,判断行业对投诉次数是否有显著影响，也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差，说明不同行业对投诉次数有显著影响,.,方差分析的基本假定,每个总体都应服从正态分布,对于因素的每一个水平，其观察值是来自服从正态分布总体的简单随机样本,比如，每个行业被投诉的次数必需服从正态分布,各个总体的方差必须相同,各组观察数据是从具有相同方差的总体中抽取的,比如，四个行业被投诉次数的方差都相等,观察值是独立的,比如，每个行业被投诉的次数与其他行业被投诉的次数独立,.,方差分析中的基本假定,在上述假定条件下，判断行业对投诉次数是否有显著影响，实际上也就是检验具有同方差的四个正态总体的均值是否相等,如果四个总体的均值相等，可以期望四个样本的均值也会很接近,四个样本的均值越接近，推断四个总体均值相等的证据也就越充分,样本均值越不同，推断总体均值不同的证据就越充分,.,方差分析中基本假定,如果原假设成立，即,H,0,：,m,1,=,m,2,=,m,3,=,m,4,四个行业被投诉次数的均值都相等,意味着每个样本都来自均值为,、方差为,2,的同一正态总体,X,f(X),1,2,3,4,.,方差分析中基本假定,若备择假设成立，即,H,1,：,m,i,(,i,=1,2,3,4),不全相等,至少有一个总体的均值是不同的,四个样本分别来自均值不同的四个正态总体,X,f(X),3,1,2,4,.,问题的一般提法,设因素有,k,个水平，每个水平的均值分别用,1,2,k,表示,要检验,k,个水平,(,总体,),的均值是否相等，需要提出如下假设：,H,0,：,1,2,k,H,1,：,1,2,，,k,不全相等,设,1,为零售业被投诉次数的均值，,2,为旅游业被投诉次数的均值，,3,为航空公司被投诉次数的均值，,4,为家电制造业,被投诉次数的均值,，,提出的假设为,H,0,：,1,2,3,4,H,1,：,1,2,3,4,不全相等,.,单因素方差分析的数据结构,观察值,(,j,),因素,(,A,),i,水平,A,1,水平,A,2,水平,A,k,1,2,:,:,n,x,11,x,21,x,k,1,x,12,x,22,x,k,2,:,:,x,1,n,x,2,n,x,kn,.,分析步骤,提出假设,构造检验统计量,统计决策,.,提出假设,一般提法,H,0,：,m,1,=m,2,=m,k,自变量对因变量没有显著影响,H,1,：,m,1,，,m,2,，,，,m,k,不全相等,自变量对因变量有显著影响,注意：拒绝原假设，只表明至少有两个总体的均值不相等，并不意味着所有的均值都不相等,.,构造检验的统计量,构造统计量需要计算,水平的均值,全部观察值的总均值,误差平方和,均方,(,MS,),.,构造检验的统计量,(,计算水平的均值,),假定从第,i,个总体中抽取一个容量为,n,i,的简单随机样本，第,i,个总体的样本均值为该样本的全部观察值总和除以观察值的个数,计算公式为,式中：,n,i,为第,i,个总体的样本观察值,个数，,x,ij,为第,i,个总体的第,j,个观察值,.,构造检验的统计量,(,计算全部观察值的总均值,),全部观察值的总和除以观察值的总个数,计算公式为,.,构造检验的统计量,(,例题分析,),.,构造检验的统计量,(,计算总误差平方和,SST,),全部观察值 与总平均值 的离差平方和,反映全部观察值的离散状况,其计算公式为,前例的计算结果：,SST,=(57-47.869565),2,+,+,(58-47.869565),2,=115.9295,.,构造检验的统计量,(,计算水平项平方和,SSA,),各组平均值 与总平均值 的离差平方和,反映各总体的样本均值之间的差异程度，又称组间平方和,该平方和既包括随机误差，也包括系统误差,计算公式为,前例的计算结果：,SSA,=1456.608696,.,构造检验的统计量,(,计算误差项平方和,SSE,),每个水平或组的各样本数据与其组平均值的离差平方和,反映每个样本各观察值的离散状况，又称组内平方和,该平方和反映的是随机误差的大小,计算公式为,前例的计算结果：,SSE=2708,.,构造检验的统计量,(,三个平方和的关系,),总离差平方和,(SST),、误差项离差平方和,(SSE),、水平项离差平方和,(SSA),之间的关系,SST,=,SSA,+,SSE,前例的计算结果：,4164.608696=1456.608696+2708,.,构造检验的统计量,(,三个平方和的作用,),SST,反映全部数据总的误差程度；,SSE,反映随机误差的大小；,SSA,反映随机误差和系统误差的大小,如果原假设成立，则表明没有系统误差，组间平方和,SSA,除以自由度后的均方与组内平方和,SSE,和除以自由度后的均方差异就不会太大；如果组间均方显著地大于组内均方，说明各水平,(,总体,),之间的差异不仅有随机误差，还有系统误差,判断因素的水平是否对其观察值有影响，实际上就是比较组间方差与组内方差之间差异的大小,.,构造检验的统计量,(,计算均方,MS,),各误差平方和的大小与观察值的多少有关，为消除观察值多少对误差平方和大小的影响，需要将其平均，这就是均方，也称为方差,计算方法是用误差平方和除以相应的自由度,三个平方和对应的自由度分别是,SST,的自由度为,n-1,，其中,n,为全部观察值的个数,SSA,的自由度为,k-1,，其中,k,为因素水平,(,总体,),的个数,SSE,的自由度为,n-k,.,构造检验的统计量,(,计算均方,MS,),组间方差：,SSA,的均方，记为,MSA,，计算公式为,组内方差：,SSE,的均方，记为,MSE,，计算公式为,.,构造检验的统计量,(,计算检验统计量,F,),将,MSA,和,MSE,进行对比，即得到所需要的检验统计量,F,当,H,0,为真时，二者的比值服从分子自由度为,k-1,、分母自由度为,n-k,的,F,分布，即,.,构造检验的统计量,(,F,分布与拒绝域,),如果均值相等，,F,=,MSA,/,MSE,1,a,F,分布,F,(,k,-1,n,-,k,),0,拒绝,H,0,不能拒绝,H,0,F,.,统计决策,将统计量的值,F,与给定的显著性水平,的临界值,F,进行比较，作出对原假设,H,0,的决策,根据给定的显著性水平,，在,F,分布表中查找与第一自由度,df,1,k-1,、第二自由度,df,2,=n-k,相应的临界值,F,若,FF,，则拒绝原假设,H,0,，表明均值之间的差异是显著的，所检验的因素对观察值有显著影响,若,F,F,，,则拒绝原假设,H,0,，,表明均值之间的差异是显著的，即所检验的行因素对观察值有显著影响,若,F,C,F,，,则拒绝原假设,H,0,，,表明均值之间有显著差异，即所检验的列因素对观察值有显著影响,.,双因素方差分析表,(,基本结构,),.,双因素方差分析,提出假设,对品牌因素提出的假设为,H,0,：,m,1,=,m,2,=,m,3,=,m,4,(,品牌对销售量无显著影响,),H,1,：,m,i,(,i,=1,2,4),不全相等,(,有显著影响,),对地区因素提出的假设为,H,0,：,m,1,=,m,2,=,m,3,=,m,4,=,m,5,(,地区对销售量无显著影响,),H,1,：,m,j,(,j,=1,2,5),不全相等,(,有显著影响,),.,双因素方差分析,结论：,1.F,R,18.10777F,3.4903,，拒绝原假设,H,0,，说明彩电的品牌对销售量有显著影响；,2.,F,C,2.100846 F,3.2592,，不拒绝原假设,H,0,，无证据表明销售地区对彩电的销售量有显著影响,.,双因素方差分析,(,关系强度的测量,),行平方和,(,行,SS),度量了品牌这个自变量对因变量,(,销售量,),的影响效应,列平方和,(,列,SS),度量了地区这个自变量对因变量,(,销售量,),的影响效应,这两个平方和加在一起则度量了两个自变量对因变量的联合效应,联合效应与总平方和的比值定义为,R,2,其平方根,R,反映了这两个自变量合起来与因变量之间的关系强度,.,双因素方差分析,(,关系强度的测量,),例题分析,品牌因素和地区因素合起来总共解释了销售量差异的,83.94%,其他因素,(,残差变量,),只解释了销售量差异的,16.06%,R=0.9162,，表明品牌和地区两个因素合起来与销售量之间有较强的关系,.,有交互作用的双因素方差分析,【,例,】,城市道路交通管理部门为研究不同的路段和不同的时间段对行车时间的影响，让一名交通警察分别在两个路段和高峰期与非高峰期亲自驾车进行试验，通过试验取得共获得,20,个行车时间,(,分钟,),的数据，如下表。试分析路段、时段以及路段和时段的交互作用对行车时间的影响,.,交互作用的图示,路段与时段对行车时间的影响,交互作用,无交互作用,行车时间,路段,1,路段,2,高峰期,非高峰期,行车时间,路段,1,路段,2,高峰期,非高峰期,.,可重复双因素分析,(,方差分析表的结构,),m,为样本的行数,.,可重复双因素分析,(,平方和的计算,),设,：为对应于行因素的第,i,个水平和列因素的第,j,个,水平的第,l,行的观察值,为行因素的第,i,个水平的样本均值,为列因素的第,j,个水平的样本均值,对应于行因素的第,i,个水平和列因素的第,j,个水,平组合的样本均值,为全部,n,个观察值的总均值,.,可重复双因素分析,(,平方和的计算,),总平方和：,行变量平方和：,列变量平方和：,交互作用平方和：,误差项平方和：,.,第一个例子的方差分析,(,只考虑主效应,不考虑交互效应及协变量,),首先假定自变量受到的仅仅有不同因素的主效应（,main effect,）而没有交互效应（,interaction,）和协变量的影响。主效应就是每个自变量对因变量的单独影响，而交互效应是当两个或更多的自变量的某些水平同时出现时除了主效应之外的附加影响。拿我们例子来说，当单独考虑时，假定主动促销比被动促销可以多产生,8,万元效益，而有售后服务比没有售后服务多产生,9,万元效益。那么在没有交互作用时，同时采取主动促销和售后服务会产生,8,9,17,万元的效益（称为可加的）。但如果存在交互效应，那么同时采取主动促销和售后服务会产生一个附加的效应即交互效应（一般来说也可能是正面的，也可能是负面的），这时的总效应就不是,17,万元了。,.,方差分析,(,只考虑主效应,不考虑交互效应及协变量,),如要分析的只是因变量销售额和自变量促销和售后服务的,主效应,。用,y,表示销售额，,i,表示促销（下标表示不同水平），,j,表示售后服务；则相应的只有主效应的线性模型为：,这里的下标,i,代表促销的水平，下标,j,代表是否有售后服务，下标,k,代表每种,ij,组合中的第几个观测值。这里的最后一项,ijk,为随机误差项。,.,对于这个模型，,SPSS,输出为,促销,(,promot,),的,F,检验统计量,(,其自由度来自,promot,和,error,的自由度,:,2,20,),取值为,13.880,，,p,值,为,0.000,(,更精确些是,0.0001658,).,而售后服务的,F,检验统计量为,25.497,，,p,-,值为,0.000(,更精确些是,0.00006135).R,2,为,0.981.,.,这里的估计只有相对意义。一定要放在模型中，或者考虑同一因子水平之间的差，比如,a,1,-,a,3,、,a,2,-,a,3,、,b,1,-,b,2,等等。上面的模型还可以有,截距，有,截距时的,SPSS,默认约束是固定,a,3,=,b,2,=0,；而目前的没有截距的,a,1,，,a,2,，,a,3,的估计实际上等于截距的估计加上有截距时的,a,1,，,a,2,，,a,3,的估计。,由于约束条件不一样，所以各种软件的各种选项的估计不尽相同，但相对大小是不会变的。,对于这个模型，参数估计为,.,没有交互作用的模型可以从上面点图中直观看出。图中下面一条折线连接了没有售后服务时三种促销状况的销售均值，而上面一条连接了有售后服务时三种促销状况的销售均值。由于模型选择为无交互作用，所以这两条线是平行的。从该图可以看出，两个因子效应综合效应是简单的加法。,.,SPSS,实现,(,只有因子主效应的方差分析,),拿,sales.sav,为例，在,SPSS,中选,Analyze,General Linear Model,Univariate,进入主对话框；,然后把,sales,选入,Dependent Variable,，把,promot,和,service,选入,Fixed Factors,；,然后点击,Model,，选择,Custom,，在,Build Terms:Main effects,中选择,Main effects,再把,promot(F),和,service(F),选入,Model,；,选择或不选择,Include intercept in model,则确定是否在模型中包含常数项；回到主对话框（,Continue,），这时点,OK,即可；,如果要输出参数估计可以在,Options,选诸如,Parameter Estimates,等。,.,SPSS,实现,(,有交互效应,但没有协变量的方差分析,),sales.sav,为例,1.,在,SPSS,中选,Analyze,General Linear Model,Univariate,进入主对话框；,2.,把,sales,选入,Dependent Variable,，把,promot,和,service,选入,Fixed Factors,；,3.,点击,Model,，选择,Full factorial,；选择或不选择,Include intercept in model,则确定是否在模型中包含常数项；,4.,回到主对话框（,Continue,），这时点,OK,即可；,如果要输出参数估计可以在,Options,选诸如,Parameter Estimates,等。,.,方差分析,现在再加上作为协变量的定量变量奖金，看它对销售有没有影响，这时的线性模型就又多了一个如同回归一样的代表自变量奖金,x,的一项（加上系数,）,x,.,方差分析,而计算机的方差分析表的输出,(,主要部分,),为：,.,这个模型的交互作用可以用下面的来描述：,.,还要说明的是，如果每一种因子水平的组合只有一个观测值（这里例中每个组合有四个观测值），那么，无法对是否有交互作用进行判断；这是由于数据量不够，交互作用即使有也混在误差项中，无法剥离出来进行分析。,.,SPSS,实现,(,有交互效应及协变量的方差分析,),拿,sales.sav,为例，在,SPSS,中选,Analyze,General Linear Model,Univariate,进入主对话框；,然后把,sales,选入,Dependent Variable,，把,promot,和,service,选入,Fixed Factors,，把,bonus,选入,Covariate,；然后点击,Model,，选择,Full factorial,；,选择或不选择,Include intercept in model,则确定是否包含常数项；回到主对话框（,Continue,），这时点,OK,即可；如果要输出参数估计可以在,Options,选诸如,Parameter Estimates,等。,.,方差分析表的意义,而计算机的方差分析表的输出的意义为：,.,计算机的方差分析表公式的意义为：,.,