资源描述
,单击此处编辑母版标题样式,*,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,第七章 方差分析,什么是方差分析,(ANOVA)?,1,),检验多个总体均值是否相等,通过分析数据的误差判断各总体均值是否相等,2,)研究,分类型自变量对数值型因变量的影响,3,)有单因素方差分析和双因素方差分析,单因素方差分析:涉及一个,分类,的自变量,双因素方差分析:涉及,两个分类,的自变量,什么是方差分析,?,(,例题分析,),消费者对四个行业的投诉次数,行业,观测值,零售业,旅游业,航空公司,家电制造业,1,2,3,4,5,6,7,57,66,49,40,34,53,44,68,39,29,45,56,51,31,49,21,34,40,44,51,65,77,58,【,例,】,为了对几个行业的服务质量进行评价,消费者协会在四个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共,23,家企业投诉的次数如下表,一个分类变量,什么是方差分析,?,(,例题分析,),分析四个行业之间的服务质量是否有显著差异,也就是要判断“行业”对“投诉次数”是否有显著影响,作出这种判断最终被归结为检验这,四个,行业被投诉次数的,均值是否相等。,怎样检验?,若它们的均值相等,则意味着“行业”对投诉次数是没有影响的,即它们之间的服务质量没有显著差异;若均值不全相等,则意味着“行业”对投诉次数是有影响的,它们之间的服务质量有显著差异,方差分析中的其他有关概念,1.,因素或因子,(factor),所要检验的对象,要分析行业对投诉次数是否有影响,,行业,是要检验的因素或因子,2.,水平或,处理,(,treatment),因子的不同表现,零售业、旅游业、航空公司、家电制造业就是因子的水平,3.,观察值,在每个因素水平下得到的,样本数据,每个行业被投诉的次数就是观察值,4.,试验,这里只涉及一个因素,因此称为单因素四水平的试验,5.,总体,因素的,每一个水平,可以看作,是一个总体,比如零售业、旅游业、航空公司、家电制造业可以看作是四个总体,6.,样本数据,被投诉次数可以看作是从这四个总体中抽取的样本,数据,2,.,方差分析的基本思想和原理,零售业 旅游业 航空公司 家电制造,方差分析的基本思想和原理,(,两类误差,),随机误差,因素的同一水平,(,总体,),下,样本各观察值之间的差异,比如,同一行业下不同企业被投诉次数是不同的,这种差异可以看成是随机因素的影响,称为,随机误差,系统误差,因素的不同水平,(,不同总体,),下,各观察值之间的差异,比如,不同行业之间的被投诉次数之间的差异,这种差异,可能,是由于,抽样的随机性,所造成的,,也可能,是由于,行业本身,所造成的,后者所形成的误差是由系统性因素造成的,称为,系统误差,方差分析的基本思想和原理,(,两类方差,),数据的误差用平方和,(,sum of squares,),表示,又构成方差。,组内方差,(,within groups,),因素的同一水平,(,同一个总体,),下样本数据的方差,比如,零售业被投诉次数的方差,组内方差只包含,随机误差,组间方差,(,between groups,),因素的不同水平,(,不同总体,),下各样本之间的方差,比如,四个行业被投诉次数之间的方差,组间方差既包括,随机误差,,也包括,系统误差,方差分析的基本思想和原理,(,方差的比较,),若不同行业对投诉次数没有影响,则组间误差中只包含,随机误差,又有系统误差,。这时,组间误差与组内误差经过平均后的数值就应该很接近,它们的比值就会接近,1,若不同行业对投诉次数有影响,在组间误差中除了包含随机误差外,还会包含有系统误差,这时,组间误差平均后的数值就会大于组内误差平均后的数值,它们之间的比值就会大于,1,当这个,比值大到某种程度,时,就可以说不同水平之间存在着显著差异,也就是自变量对因变量有影响,判断行业对投诉次数是否有显著影响,实际上也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差,说明不同行业对投诉次数有显著影响,方差分析的基本假定,1,每个,总体都应服从,正态分布,对于因素的每一个水平,其观察值是来自服从正态分布总体的简单随机样本,比如,每个行业被投诉的次数必需服从正态分布,各个,总体的,方差必须相同,各组观察数据是从具有相同方差的总体中抽取的,比如,四个行业被投诉次数的方差都相等,观,察值是,独立的,比如,每个行业被投诉的次数与其他行业被投诉的次数独立,方差分析中的基本假定,2,在上述假定条件下,判断行业对投诉次数是否有显著影响,实际上也就是检验具有,同方差,的四个正态总体的均值是否相等,如果四个总体的均值相等,可以期望四个样本的均值也会很接近,四个样本的均值越接近,推断四个总体均值相等的证据也就越充分,样本均值越不同,推断总体均值,不同,的证据就越充分,方差分析中基本假定,如果原假设成立,即,H,0,:,m,1,=,m,2,=,m,3,=,m,4,四个行业被投诉次数的均值都相等,意味着,每个样本都来自均值为,、方差为,2,的同一正态总体,X,f(X),1,2,3,4,方差分析中基本假定,若备择假设成立,即,H,1,:,m,j,(,j,=1,2,3,4,),不全相等,至少有一个总体的均值是不同的,四个样本分别来自均值不同的四个正态总体,X,f(X),3,1,2,4,问题的一般提法,设因素有,k,个水平,每个水平的均值分别用,1,2,k,表示,要检验,k,个水平,(,总体,),的均值是否相等,需要提出如下假设:,H,0,:,1,2,k,H,1,:,1,2,,,k,不全相等,设,1,为零售业被投诉次数的均值,,2,为旅游业被投诉次数的均值,,3,为航空公司被投诉次数的均值,,4,为家电制造业,被投诉次数的均值,,,提出的假设为,H,0,:,1,2,3,4,H,1,:,1,2,3,4,不全相等,单因素方差分析的数据结构,(one-way analysis of variance),观察值,(,i,),因素,(,A,),j,水平,A,1,水平,A,2,水平,A,k,1,2,:,n,x,11,x,12,x,1k,x,21,x,22,x,2k,:,:,:,:,:,:,x,n1,x,n2,x,nk,一、提出假设:,一,般提法,H,0,:,m,1,=,m,2,=,=,m,k,自变量对因变量没有显著影响,H,1,:,m,1,,,m,2,,,,,m,k,不,全相等,自变量对因变量有显著影响,注意:,拒绝原假设,只表明至少有两个总体的均值不相等,并不意味着所有的均值都不相等,方差分布的基本步骤,二、构造检验的统计量,构造统计量需要计算,水平的均值,全部观察值的总均值,误差平方和,(SS),均方,(,MS,),三、构造检验的统计量,(,计算水平的均值,),假定从,第,j,个总体中抽取一个容量为,n,i,的简单随机样本,第,j,个总体的样本均值为该样本的全部观察值总和除以观察值的个数,计算公式为,式中:,n,i,为第,i,个总体的样本观察值个数,x,ij,为第,i,个总体的第,j,个观察值,四、构造检验的统计量,(,计算全部观察值的总均值,),全部观察值的总和除以观察值的总个数,计算公式为,五、构造检验的统计量,(,计算总误差平方和,SST,:,sum of squares for total,),全,部观察值 与总平均值 的离差平方和,反映全部观察值的离散状况,其计算公式为,前例的计算结果:,SST,=(57-47.869565),2,+,+,(58-47.869565),2,=115.9295,六、构造检验的统计量,(,计算水平项平方和,SSA,),SSA,:,Sum of squares for factor A,各组平均值 与总平均值 的离差平方和,反映各总体的,样本均值之间的差异程度,,又称,组间平方和,该平方和既包括,随机误差,也包括系统误差,计算公式为,前例的计算结果:,SSA,=1456.608696,七、构造检验的统计量,(,计算误差项平方和,SSE,),SSE,:Sum of squares for error,每个水平或组的各样本数据与其组平均值的离差平方和,反映,每个样本各观察值的离散状况,,又称,组内平方和,该平方和反映的是,随机误差,的大小,计算公式为,前例的计算结果:,SSE,=2708,八、构造检验的统计量,(,三个平方和的关系,),p254,总离差平方和,(,SST,),、,误差项离差平方和,(,SSE,),、,水平项离差平方和,(,SSA,),之间的关系,SST=SSA+SSE,总离差平方和,=,组间离差平方和,+,组内离差平方和,前例的计算结果:,4164.608696=1456.608696+2708,三个平方和的作用,SST,反映全部数据总的误差程度;,SSE,反映随机误差的大小;,SSA,反映,随机误差和系统误差,的大小,如果原假设成立,则表明没有系统误差,组间平方和,SSA,除以自由度后的,均方,与组内平方和,SSE,除以自由度后的,均方,差异就不会太大;如果,组间均方,显著地大于,组内均方,,说明各水平,(,总体,),之间的差异不仅有随机误差,还有系统误差,判断因素的水平是否对其观察值有影响,实际上就是比较,组间方差,与,组内方差,之间差异的大小,十、构造检验的统计量,(,计算均方,MS,),各误差平方和的大小与观察值的多少有关,为消除观察值多少对误差平方和大小的影响,需要将其平均,这就是,均方,,也称为,方差,计算方法是用误差平方和除以相应的自由度,三个平方和对应的自由度分别是,SST,的,自由度为,n,-1,,,其中,n,为全部观察值的个数,SSA,的,自由度为,k,-1,,,其中,k,为因素,水平,(,总体,),的,个数,SSE,的,自由度为,n,-,k,十一、构造检验的统计量,(,计算均方,MS,),组间方差:,SSA,的均方,记为,MSA,,,计算公式为,组内方差:,SSE,的均方,记为,MSE,,,计算公式为,十二、构造检验的统计量,(,计算检验统计量,F,),将,MSA,和,MSE,进行对比,即得到所需要的检验统计量,F,当,H,0,为真时,二者的比值服从分子自由度为,k,-1,、,分母自由度为,n,-,k,的,F,分布,即,记住,F,分布与拒绝域,如果均值相等,,F,=,MSA,/,MSE,1,a,F,分布,F,(,k,-1,n,-,k,),0,拒绝,H,0,不能拒绝,H,0,F,十二、统计决策,将统计量的值,F,与给定的显著性水平,的临界值,F,进行比较,作出对原假设,H,0,的决策,根据给定的显著性水平,,在,F,分布表中查找与第一自由度,df,1,k,-1,、,第二自由度,df,2,=,n,-,k,相应的临界值,F,若,F,F,,,则拒绝原假设,H,0,,,表明均值之间的差异是显著的,所检验的因素对观察值有显著影响,若,Fanova-one-way Anova,3,、选因变量,wear,和自变量,brand;,4,、为了检验方差齐性假定,点击按钮,tests-,选,levenes test-ok.,5,、均值的多重比较,点击按钮,means,进行选择;,6,、,OK,。,二、编程方法实现,Proc anova data=dst.veneer;,class brand;,Model wear=brand;,Run;,第二节 双因素方差分析,一、无交互作用的双因素方差分析,(,一)编程实现,例如:为提高合金钢的强度,Y,同时考虑碳含量(因素,A,)和铝含量(因素,B,)对强度,Y,的影响,目的是找出最佳的含量组合,使强度,Y,达到最大。设计的方案和实验数据如下:,B1(3.3%),B2(3.4%),B3(3.5%),B4(3.6),A1(0.03),63.1,63.9,65.6,66.8,A2(0.04),65.1,66.4,67.8,69,A3(0.05),67.2,71,71.9,73.5,Data d322;,Do a=a1,a2,a3;,do b=b1,b2,b3,b4;,input y;output;,end;,end;,Cards;,63.1 63.9 65.6 66.8 65.1 66.4,67.8 69 67.2 71 71.9 73.5,;,Proc print data=d322;,Run;,Proc anova data=d322;,class a b;,Model y=a b;,Means a b/t;,Run;,(二)分析员应用,1,、进入分析员,打开数据集;,2,、,statistics,anovafactorial anova;,3,、指定因变量,Y,,自变量,A,、,B;,4,、点击,mean,按钮,选择,LSD,最小显著差异法,把,A,和,B,置于,effect,框中;,5,、,OK.,二、有交互作用的双因素方差分析,考虑肥料水平(,variety),和种子处理方法(,method),对产量(,yield),的影响。数据,DST.FCTORIAL,。,Proc anova data=dst.fctorial;,Class method variety;,Model yield=method variety method*variety;,Run;,分析员操作。,第八章,相关与,回归分析,第一节 相关系数,一、用,Insight,作散点图,1、散点图,打开数据集,DST.BCLASS,Analyze=Scatter Plot=,选,WEIGHT,为,Y,,HEIGHT,为,XOK,二、用,Insight,计算相关系数,数据集,DST.CARS,是对许多不同类型的汽车的价格和性能的调查数据。,打开,DST.CARS=Analyze=Multivariate(Y),=,选,MIDPRICE,CITYMPG,HWYMPG,ENGSIZE,RPM,PERFORM,为,Y=OK,为得到检验的,P,值,再选,Tables=CORR PValues,三、用分析员应用计算相关系数,打开数据集,DST.FITNESS,31,位成年人心肺功能调查数据:,选,Statistics=Descriptive=Correlations=,选,OXYGEN,RETPULSE,RUNPULSE,RUNTIME,为分析变量=,OK,四、编程,PROC CORR DATA=,数据集名,【,选项,】,;,Var,变量名列;,partial,变量名列表;,Run;,例,1,:,Proc corr data=dst.cars;,Var midprice citympg hwympg cylinder egnsize;,run;,例,2,:对,10,种商品的受欢迎度和其知名度进行排序:,编号,1,2,3,4,5,6,7,8,9,10,欢迎度,9,4,3,6,5,8,1,7,10,2,知名度,8,2,5,4,7,9,1,6,10,3,第二节 简单线性回归,一、用,Insight,拟合回归方程,1、方程的建立,打开数据集,DST.CARS,选,Analyze=Fit(Y X)=,将,MIDPRICE,选为,Y,,PERFORM,选为,X=OK,2、产生预测值,继续上述过程,回到数据表中,当,PERFORM,输入新值,按“,Enter”,后,就会在,P,MIDPRI,列中看到预测值。,3、回归与预测值的置信区间,继续上述过程,选,Curves=Cofidence Curves=Mean:95%,和,Curves=Cofidence Curves=Prediction:95%,4、,拟合不含常数项的回归,打开数据集,DST.SHIPMENT,选,Analyze=Fit(Y X)=,将,COST,选为,Y,,DELAY,选为,X,,点击,Intercept,前的方框,,使之不打勾=,OK,二、用分析员应用拟合简单线性回归,打开数据集,DST.FITNESS,选,Statistics=Regression=Simple=,将,RUNTIME,选为,Independent,将,OXYGEN,选为,Dependent=OK,三、编程(回归并作图),proc,reg,data=dst.fitness graphics;,model oxygen=runtime;,plot oxygen*runtime;,run,;,其中:,plot,纵轴变量*横轴变量,第三节 多元线性回归,一、用,Insight,拟合多元线性回归,1、拟合多元线性回归,打开数据集,DST.CARS,选,Analyze=Fit(Y X)=,将,MIDPRICE,选为,Y,,CITYMPG、HWYMPG、ENGSIZE、RPM、,REVLTNS、FUELTNK、PERFORM,选为,X=OK,2、删除自变量,选中某一自变量=,Edit=Delete,二、用分析员应用拟合多元线性回归,打开数据集,DST.FITNESS,Statistics=Regression=Linear=,把,OXYGEN,选为,Dependent,把,AGE,MAXPULSE,RSTPULSE,RUNPULSE,RUNTIME,WEIGHT,选为,Explanatory=OK,三、对,fitness,数据进行逐步回归分析。,调用,reg,过程,,model,语句中的参数选项使用,selection=stepwise,。程序如下:,proc reg,data=dst.fitness,;,model oxygen=age weight rstpulse maxpulse runpulse runtime/selection=stepwise ;,run;,例如:,广告花费,X,与销售额,Y,的回归模型。大多数公司最终会询问关于花费在广告上的费用对公司产品销售额的影响程度。由于广告需要一定的时间才能达到它的效应,同时它的效应也不是永久持续的,它的影响也许仅仅延续开头的一段时期。假设公司相信销售额与当月以及前两个月内所花的广告费有较密切的关系,即意味着:,Yt,与,Xt,,,Xt-1,,,Xt-2,有密切的关系。假设它们之间存在线性关系,建立模型为:,Yt=0+1Xt+2 Xt-1+3 Xt-2+t,我们现在有某公司,15,月内有关广告花费,X,与销售额,Y,的数据,见下表所示:,DATA DST.AA06;,INPUT SALES ADV;,ADVLAG1=LAG1(ADV);,ADVLAG2=LAG2(ADV);,OUTPUT;,CARDS;,2945 280 4295 400 5645 450 6995 590 8345 650,9695 750 11045 890 12395 1000 13745 1050,15095 1200 16445 1250 17795 1350 19145 1460,20495 1500 21845 1650,;,PROC REG DATA=DST.AA06;,MODEL SALES=ADV ADVLAG1 ADVLAG2;,RUN;,运行后,得到的最小二乘回归形式为:,Yt=522.1+3.681Xt+4.966Xt-1+5.200Xt-2,进一步统计分析,按显著性水平,=0.05,需要剔除,ADV,变量,并要求绘制残差图,要再一次提交下列程序:,DELETE ADV;,Print;,PLOT R.*P./SYMBOL=*;,RUN;,将,Xt,从模型中剔除而重新建立模型,得到的估计方程为:,Yt=1161.6+5.873Xt-1+7.945Xt-2,注意到新的估计方程式并不是从原来的方程式中单纯剔除,Xt,项而获得,新的估计方程式也必须重新进行完全的,F,检验与部分的,T,检验,结果显示余下的变量应当保留在模型中。,
展开阅读全文