第五章_异方差性及检验.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,Econometrics,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,Econometrics,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第五章 异方差性,1,本章讨论四个问题：,异方差的实质和产生的原因,异方差产生的后果,异方差的检测方法,异方差的补救,2,第一节 异方差性的概念,一、什么是异方差性,在简单线性回归模型和多元线性回归模型的基,本假定中，有同方差假定：,如果,Var,(,u,i,),对不同的解释变量的观测值彼此不,同，则称随机误差项具有,异方差性,。,3,方差度量的是被解释变量观测值围绕回归线的分散程度，所以,异方差性,就是指被解释变量观测值,的分散程度随解释变量的变化而变化。,4,在复杂的实际经济现象中,异方差性,是大量存在的。,例如,储蓄函数,再如,服装需求函数,这里,Q,为,服装的需求量，,Y,为,消费者的收入、,P,为,服装价格、,P,1,为,其它商品的价格。,这里,Y,i,表示第,i,个家庭的储蓄额，,X,i,为收入。,5,二、产生异方差的原因,（一）模型中省略了某些重要的解释变量,假设正确的模型是：,假如略去了重要的解释变量,X,3,，而采用,这时会导致,X,3,对,Y,的影响反映在,v,i,中，而这些影响,具有差异性，从而产生异方差性。,所以在用剔除变量法消除共线性时，又有可能,引起异方差性，应注意。,6,（二）模型的设定误差,模型的设定主要包括变量的选择和模型形式的确定。模型中略去了重要解释变量常常导致异方差，实际就是模型设定问题。除此而外，模型的函数形式不正确，如把变量间本来为非线性的关系设定为线性，也可能导致异方差。,（三）数据的测量误差,样本数据的观测误差有可能随研究范围的扩大而增加，或随时间的推移逐步积累，也可能随着观测技术的提高而逐步减小。如储蓄函数，假如用的是,1980,年至,2010,年的数据，前些年工资较透明，现在灰色收入较多，测量误差有变化。,7,（四）截面数据中总体各单位的差异,例如利用截面数据研究消费与收入的关系时，不同地区收入有差距，低收入地区家庭用于生活必需品的比例较大，消费的分散程度不大，而高收入地区家庭有更多自由支配的收入，家庭消费有更广泛的选择范围，消费的分散程度较大，而出现异方差性。,通常认为，截面数据较时间序列数据更容易产生异方差。这是因为同一时点不同对象的差异，一般说来会大于同一对象不同时间的差异。不过，在时间序列数据发生较大变化的情况下，也可能出现比截面数据更严重的异方差。,8,第二节 异方差性的后果,一、对参数估计统计特性的影响,如果随机误差项具有,异方差性,，当我们仍用,OLS,进行参数估计时，估计式仍具有线性性和无,偏性，但已不再具有最小方差性。,设回归模型为,9,与同方差假定无关，所以存在异方差时仍能保持,线性性。,因为用,OLS,估计,10,推导也仅用到零均值假定，表明无偏性也成立。,P37(2.36),11,为了说明最小方差性不再成立，将回归方程改,写成离差形式：,由于,Var,(,v,i,)=,Var,(,u,i,),，若,（,1,）,式存在异方差，,则,（,2,）,式也存在异方差，为讨论方便，不妨设：,（,1,）,（,2,）,将（,2,）变为,：,其中,显然,w,i,已具有同方差。,（,3,）,12,对,(1),采用,OLS,法估计得：,（,1,）,于是,（,3,）,对,(3),采用OLS,法（也即对,(2),采用,WLS,法）,估计得：,P37(2.36),P38(2.40),13,于是,由于,所以,即,14,二、对参数显著性检验的影响,在同方差假定下，作,t,检验，用无偏估计,仍以模型为例,代替,s,2,这里,在异方差情况下，不妨设,作,OLS,估计，参数方差为,15,于是,代替,s,2,时,如果,当用无偏估计,则,16,若仍用,作为统计量的值，由于低估,由于高估了真实方差，导致降低,t,统计量的值，本应拒绝的原假设可能被错误地接受，从而降低了所估计参数的显著性。,则,了真实方差，导致夸大,t,统计量的值，本应接受的原,假设可能被错误地拒绝，从而夸大了所估计参数的显著性。反之，如果,17,当,u,存在异方差时，表明方差与解释变量的变化有关，虽然参数的估计量仍然无偏，并且基于此的预测也是无偏的，但是方差会增大，参数估计量不是有效的，从而对,Y,的预测也将不是有效的，,Y,的预测值的精度会下降。,三、对预测的影响,18,第三节 异方差性的检验,常用检验方法,:,图示检验法,Goldfeld-Quanadt,检验,White,检验,Glejser,检验,19,一、图示检验法,（一）相关图形分析,方差描述的是随机变量取值的（与其均值的）离散程度。因为被解释变量,Y,与随机误差项,u,有相同的方差，所以分析,Y,与,X,的相关图,，可以初略地看到,Y,的离散程度与X,之间是否有相关关系。,如果随着,X,的增加，,Y,的离散程度为逐渐增大（或减小）的变化趋势，则认为存在递增型（或递减型）的异方差。,20,用,1998,年四川省各地市州农村居民家庭消费支出与家庭纯,收入的数据，绘制出消费支出对纯收入的散点图,其中用,Y1,表示农村家庭消费支出，,X1,表示家庭纯收入。,图形举例,21,虽然随机误差项无法观测，但样本回归的残差一,定程度反映了随机误差的某些分布特征，可通过残差,的图形对异方差进行观察。,（二）残差图形分析,对于一元回归模型，绘制出,e,i,2,对,X,i,的散点图,对,于多元回归模型，绘制出,e,i,2,对,Y,i,的散点图,或,e,i,2与认,为和异方差有关的,X,的散点图,。,如果,e,i,2,不随,X,i,或,Y,i,而变化，则表明,不存在异方差,；,如果,e,i,2,随,X,i,或,Y,i,而变化，则表明,存在异方差,。,22,二、,Goldfeld-Quanadt,检验,基本思想：,将样本分为两部分，然后分别对两个样,本进行回归，并计算两个子样的残差平方和所构成,的比，以此为统计量来判断是否存在异方差。,（一）检验的前提条件,1,、要求检验使用的为大样本容量，一般样本容,量不低于参数个数的两倍。,2,、除了同方差假定不成立外，其它假定均满足。,23,（二）检验步骤,1.,将观测值按某个解释变量的取值按从小到大排序。,2.,将排列在中间的,c,个（取样本容量约,1/4,）观察值删除掉，再将剩余的分为两个部分，每部分观察,值的个数为,（,n,-,c,)/2,。,3.,提出假设,H,0,:,两部分数据的方差相等,H,1,：,两部分数据的方差相等,24,4.,构造,F,统计量,分别对两个部分的观察值作回归，得到两个部分,的残差平方和，设：,S,e,1,i,2,为前一部分样本回归产生的残差平方和，,S,e,2,i,2,为后一部分样本回归产生的残差平方和。,它们的自由度均为,(,n,-,c,)/2-,k,，,k,为参数的个数。则,25,给定显著性水平,a,，查,F,分布表，得临界值,F,a,。,若,F,F,a,，则拒绝,H,0,，接受,H,1,，认为存在异方差；,若,F,F,a,，则接受,H,0,，拒绝,H,1,，认为不存在异方差。,5.,判断,如果没有异方差，则,S,e,1,i,2,与,S,e,2,i,2,为比较接近，,F,值接近于,1,；如果存在递增性方差，则,S,e,1,i,2,应明显大,于,S,e,2,i,2,，此时,F,值应比,1,大；对递减性方差，可考虑,26,要求大样本,异方差的表现既可为递增型，也可为递减型,检验结果与选择数据删除的个数 的大小有关,只能判断异方差是否存在，在多个解释变量的,情况下，无法判断是哪个变量引起的异方差。,（三）检验的特点,27,三、,White,检验,（一）基本思想：,不需要关于异方差的任何先验信息，只需要在大样本的情况下，将,OLS,估计后的残差平方对常数、解释变量、解释变量的平方及其交叉乘积等构成一个辅助回归，利用辅助回归建立相应的检验统计量来判断异方差性。,28,（二）检验步骤：,以一个二元线性回归模型为例，设模型为：,1.,用,OLS,估计上式，计算残差,e,i,；,2.,用,e,i,2,作为异方差,s,i,2,的估计，作辅助回归：,其中 是 的估计值；,29,3.,计算辅助回归函数的可决系数,R,2,；,4.,提出假设,H,0,:,a,2,=,a,3,=,a,4,=,a,5,=,a,6,=0,H,0,:,a,2,a,3,a,4,a,5,a,6,不全为,0,在无异方差的假设下，,nR,2,近似服从自由度等,于辅助回归中回归元个数的,c,2,分布，即,这里,m,=5,，,n,为样本容量。,30,5.,检验,给定显著性水平,a,，查,c,2,分布表的临界值,c,a,2,(5),，,若,nR,2,c,a,2,(5),，则拒绝,零假设，接受备择假设，表,明存在异方差；反之，则不存在异方差。,(,二,),检验的特点,要求变量的取值为大样本；不仅能够检验异方,差的存在性，同时在多变量的情况下，还能判断出,是哪一个变量引起的异方差。缺点是引进回归元太,多，容易消耗自由度，有时可把交叉项去掉。,31,（一）基本思想,寻找残差与某个解释变量之间的显著成立的,关系，将残差的绝对值同时去拟合解释变量的若干,种函数，若其中有显著成立的关系，则认为存在异,方差性。于,1969,年提出。,四、,Glejser,检验,(,格莱泽，戈里瑟）,32,（二）检验步骤：,1.,根据样本数据建立估计模型，计算残差,e,i,；,2.,分别建立残差绝对值对每个解释变量的一系列函数形式，进行回归，如：,33,3.,用,t,检验，若参数,b,，显著地不为零，则认为存在,异方差。,(,二,),检验的特点,不仅能对异方差的存在作出判断，而且还能得,到异方差的随某个解释变量变化的形式。要求大样,本。缺点是函数形式不易确定，检验量太大。,34,第四节 异方差性的补救措施,主要方法,:,模型变换法,加权最小二乘法,模型的对数变换,35,一、对模型进行变换,假定经检验，存在异方差，并且已知,以一元线性回归模型为例,其中,s,2,为常数，,f,(,X,i,),是,X,i,的已知函数。,将模型作适当变换，用 去除模型两边，得,36,记,则有,此时,可见，随机扰动项已没有异方差了。,f,(,X,i,),可以有不同的形式,Glejser,检验提供了相应的信息。,37,二、加权最小二乘法,普通最小二乘法的目标，是使残差平方和最小，在,同方差假定下，普通最小二乘法是把每个残差的平,方都同等对待，赋予相同的权数,1,。但存在异方差,时，方差越小，其样本值偏离均值程度越小，其观,测值越应受到重视，其作用越大。所以对较小的,e,i,给予较大的权数，对较大的,e,i,给予较小的权数，从,而使残差平方和更好地反映,s,i,2,对它的影响。,仍以一元线性回归模型为例,38,通常取权数,得加权的残差平方和：,根据最小二乘原理，使得加权的残差平方和最小。,39,40,其中,于是,这样估计的参数称为,加权最小二乘估计,。,41,可以证明，对原模型变换的方法与加权最小二乘法实际是等价的。所以常常是采用加权最小二乘法来消除异方差性，而用对原模型变换的方法来说明加权最小二乘法可以消除异方差性，注意前提是方差,s,i,2,的函数形式是已知的。,42,对数变换后的模型通常可以降低异方差性的影响运用对数变换能使测定变量值的尺度缩小。,经过对数变换后的线性模型，其残差表示相对误,差，往往比绝对误差有较小的差异。,当,s,i,2,未知时，可采用对数变换，变量,Y,i,和,X,i,分别用,ln,Y,i,和,ln,X,i,代替，即,注意：,1,、取对数后变量的经济意义。,2,、解释变量之间是否呈对数线性关系。,三、模型的对数变换,43,第五节 案例分析,44,【,例,1】,表,1,列出了,1998,年我国主要制造工业销售收入与销售利,润的统计资料，请利用数据资料,检验异方差性。,表,1,我国制造工业,1998,年销售利润与销售收入情况,行业名称,销售利润,销售收入,行业名称,销售利润,销售收入,食品加工业,187.25,3180.44,医药制造业,238.71,1264.1,食品制造业,111.42,1119.88,化学纤维制品,81.57,779.46,饮料制造业,205.42,1489.89,橡胶制品业,77.84,692.08,烟草加工业,183.87,1328.59,塑料制品业,144.34,1345,纺织业,316.79,3862.9,非金属矿制品,339.26,2866.14,服装制品业,157.7,1779.1,黑色金属冶炼,367.47,3868.28,皮革羽绒制品,81.7,1081.77,有色金属冶炼,144.29,1535.16,木材加工业,35.67,443.74,金属制品业,201.42,1948.12,家具制造业,31.06,226.78,普通机械制造,354.69,2351.68,造纸及纸品业,134.4,1124.94,专用设备制造,238.16,1714.73,印刷业,90.12,499.83,交通运输设备,511.94,4011.53,文教体育用品,54.4,504.44,电子机械制造,409.83,3286.15,石油加工业,194.45,2363.8,电子通讯设备,508.15,4499.19,化学原料纸品,502.61,4195.22,仪器仪表设备,72.46,663.68,一、图示检验法,1,、相关图形分析,观察销售利润Y,与销售收入,X,的相关图：,SCAT X Y,从图中可以看出，随着销售收入的增加，销售利润的平,均水平不断提高，但离散程度也逐步扩大。这说明变量,之间可能存在递增的异方差性。,46,2,、残差图形分析,首先将数据排序，然后建立回归方程。在方程窗口,中点击,Resids,按钮可以得到模型的残差分布图。,47,从残差分布图和散点图可以看出，随机误差项存在明显,的扩大趋势，即表明存在异方差性。,再分别作出散点图,:,48,二、,Goldfeld-Quandt,检验,1,、将样本按解释变量,X,排序：,SORT X,2,、,将排列在中间的,8,个观测数据去掉，再将剩余的,20,个,观测值分成,1到,10,共,10,个样本和,19,到,28,共,10,个样本,3,、利用样本,1,建立回归模型,1,（回归结果如图,1,）：,SMPL 1 10,LS Y C X,其残差平方和为,RSS=2579.587,利用样本,2,建立回归模型,2,（回归结果如图,2,）：,SMPL 19 28,LS Y C X,其残差平方和为,RSS=63769.67,49,图,1,样本,1,回归结果,50,图,2,样本,2,回归结果,51,4,、计算,F,统计量：,F,63769.67/2579.59=24.72,5,、取,a,=0.05,时，查,F,分布表得,F,a,(8,8)=3.44,，而,F=24.72 F,a,(8,8)=3.44,所以存在异方差性。,三、,White,检验,1,、建立回归模型：,LS Y C X,由于本例是一元回归模型，辅助回归模型中只有,X,和,X,2,项，没有交叉项：,2,、检验异方差性：点击,ViewResidualTestWhite Heteroskedastcity,辅助回归模型的估计结果如下：,52,53,3,、辅助回归的可决系数,R,2,=0.223944,4,、给定显著性水平,a,=0.05,，这里,辅助回归中,回归元,的个数,m,=2,，由于,所以存在异方差性。,实际上，由输出结果的概率（,p,值）可以看出，只要,取显著性水平,a,0.04349,，就可以认为存在异方差性。,实际应用中可以直接观察,p,值的大小，若,p,值较小，,则认为存在异方差性。反之，则认为不存在异方差性。,54,四、,Glejser,检验,1,、建立回归模型：,LS Y C X,残差的绝对值,e,i,：,GENR E=ABS(RESID),2,、分别建立序列（,E,）对如下解释变量的回归模型：,X,，,X2,，,X(1/2),，,X(,1),，,X(,1/2),回归结果如图所示,55,56,3,、由上述各回归结果可知，各回归模型中解释变量,的系数估计值显著不为,0,且均能通过显著性检验。,所以认为存在异方差性。,通过可决系数,R,2,可以确定异方差的具体形式。,本例中，图X(1/2),中所示的回归方程中,R,2,最大，,可以据此来确定异方差的形式。,异方差性的补救,一、加权最小二乘法,1,、生成权数变量,根据,Glejser,检验，得到 是 的函数,GENR,w,=1/X,57,2,、利用加权最小二乘法估计模型：,LS(W=W)Y C X,3,、对所估计的模型再进行,White,检验，观察异方差的,修正情况。点击,ViewResidualTestWhite Heteroskedastcity,检验结果如下：,58,White,检验显示，,P,值较大，所以接收不存在异方差,的原假设。,59,二、模型的对数变换,1,、生成序列,lnY,和,lnX,：,GENR lnY=log(Y),GENR lnX=,log(X,),2,、用,OLS,方法求,lnY,对,lnX,的回归，结果如下：,60,3,、对所估计的模型进行,White,检验，观察异方差的,修正情况。点击,ViewResidualTestWhite Heteroskedastcity,检验结果如下：,61,White,检验显示，,P,值较大，所以不存在异方差。,62,第五章 小 结,1.,异方差性是指模型中随机误差项的方差不是常量，而且它的变化与解释变量的变动有关。,2.,产生异方差性的主要原因有：模型中略去的变量随解释变量的变化而呈规律性的变化、变量的设定问题、截面数据的使用，利用平均数作为样本数据等。,3.,存在异方差性时对模型的,OLS,估计仍然具有无偏性，但最小方差性不成立，从而导致参数的显著性检验失效和预测的精度降低。,63,4.,检验异方差性的方法有多种，常用的有图形法、,Goldfeld-Qunandt,检验、,White,检验、,ARCH,检验以及,Glejser,检验，运用这些检验方法时要注意它们的假设条件。,5.,异方差性的主要方法是加权最小二乘法，也可以用变量变换法和对数变换法。变量变换法与加权最小二乘法实际是等价的,。,64,作 业,1,、在一元线性回归模型,中，若,取权数,证明：对原模型变换后用普通最小二乘法与使用,加权最小二乘法，估计结果是相同的。,2,、,P149,练习题,5.1,65,