南开大学计量多元线性回归异方差问题.ppt

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,南开大学计量多元线性回归异方差问题,南开大学计量多元线性回归异方差问题南开大学计量多元线性回归异方差问题一、异方差及其影响1、异方差的定义：,对于多元线性回归模型，如果随机扰动项的方差并非是不变的常数，则称为存在异方差（heteroscedasticity)。异方差可以表示为 。或2,一、异方差及其影响,1,、异方差的定义：,对于多元线性回归模型，如果随机扰动项的方差并非是不变的常数，则称为存在异方差（,heteroscedasticity),。异方差可以表示为 。或,2,两变量线性回归模型的异方差,3,1,、异方差的定义,异方差主要出现在截面数据分析中，例如大公司的利润变化幅度要比小公司的利润变化幅度大，即大公司利润的方差比小公司利润的方差大。这取决于公司的规模、产业特点和研究开发支出多少等因素。又如高收入家庭通常比低收入家庭对某些商品的支出有更大的方差。,例,9.1,：人均家庭支出（,cum),和可支配收入（,in),的关系模型,给出中国,1998,年各地区城镇居民平均每人全年家庭交通及通讯支出（,cum),和可支配收入（,in),的数据，估计两者之间的关系模型,4,2,、异方差的影响,1,、,OLS,估计量不再是,BLUE,，其是无偏和一致的，但并非有效的，即不再具有方差最小性。,2,、检验假设的统计量不再成立，建立在,t,分布和,F,分布之上的置信区间和假设检验不可靠。,5,二、异方差的发现和判断,（一）残差的图形检验,（二）,Breusch-Pagan,检验,（三）戈里瑟检验（,Glejser test,）,（四）怀特检验（,White test,）,6,（一）残差的图形检验,这是一种最直观的方法，它以某一变量（通常取因变量）作为横坐标，以随机项的估计量,e,或,e,2,为纵坐标，根据作出的散点图直观地判断是否存在相关性。如果存在相关性，则存在异方差。通常的方法是先产生残差序列，再把它和因变量一起绘制散点图。,例,9.2,：,利用该方法绘制上一章关于美国机动车消费量的模型中,QMG,与残差的散点图。,7,（二）,Breusch-Pagan,检验,假设回归模型如下：,检验假定线性函数,8,步骤：,1,、作普通最小二乘回归（,1,），不考虑异方差问题。,2,、从原始回归方程中得残差,u,i,，并求其平方。,3,、利用原始模型中的解释变量作形如上式,(2),的回归，记下这个回归的,R,平方 。,4,、检验零假设是,对方程（,2,）进行,F,检验,，,或计算,LM,统计量进行检验。,9,（三）戈里瑟检验,1,、通常拟合 和 之间的回归模型：,根据图形中的分布选择,2,、再检验零假设 ,0,（不存在异方差）。如果零假设被拒绝，则表明可能存在异方差。,10,（四）怀特检验,假设有如下模型：,（,3,）,基本步骤：,1,、首先用,OLS,方法估计回归方程（,3,）式。,2,、然后作辅助回归：,（,4,）,11,3,、求辅助回归方程的,R2,值。在零假设：不存在异方差下，,White,证明了，从方程（,4,）中获得,R,2,值与样本容量（,n,）的积服从卡方分布,自由度等于（,4,）式中的解释变量的个数。,4,、根据样本计算统计量,n*R,2,值，并与所选取的显著性水平进行比较，看是否接受零假设（,零假设为残差不存在异方差性,）。,5,、,Eviews,计算：,View-Residual Tests-White Heteroskedasticity.,应用,：对例,9.1,进行,White,异方差检验,（四）怀特检验,12,等价的,White,检验,（,1,）用,OLS,估计模型（,3,），得到残差和拟合值，计算它们的平方；,（,2,）做回归,记下这个回归的,R,平方,（,3,）构造,F,或,LM,统计量并计算,p,值（前者为,F,2,，,n,3,分布，后者用 分布。,13,（五）实例,例,9.1,：人均家庭支出（,cum),和可支配收入（,in),的关系模型,给出中国,1998,年各地区城镇居民平均每人全年家庭交通及通讯支出（,cum),和可支配收入（,in),的数据，估计两者之间的关系模型,发现：,采用水平模型存在异方差性，但采用对数模型不存在异方差性。,14,三、异方差的解决方法,加权最小二乘法,模型的重新设定,15,（一）加权最小二乘法,基本思路：赋予残差的每个观测值不同权数，从而使模型的随机误差项具有同方差性。,16,（一）加权最小二乘法,方差已知的情形,假设已知随机误差项的方差为,var,(,u,i,)=,i,2,设权数,w,i,与异方差的变异趋势相反,w,i,=1/,i,将原模型两端同乘以,w,i,。,w,i,使异方差经受了“压缩”和“扩张”变为同方差。,17,（一）加权最小二乘法,方差已知的情形,对于一元线性回归模型,y,=,b,0,+,b,1,x,+,u,，加权最小化残差平方和为,获得的估计量就是加权最小二乘估计量。对于多元线性回归模型,y=X,u,，令权数序列,w,i,=1/,i,，,W,为,NN,对角矩阵，对角线上为,w,i,，其他元素为,0,。则变换后的模型为,18,（一）加权最小二乘法,方差未知的情形,（,1,）误差方差与,x,i,成比例,Var,(,u,i,)=,2,*,x,i,其中,2,为常数，这时可以令权序列,（,2,）误差方差与,x,i,2,成比例,Var,(,u,i,)=,2,*,x,i,2,其中,2,为常数，这时可以令权序列,19,（一）加权最小二乘法,方差未知的情形,例,9.3,：住房支出模型,给出由四组家庭住房支出和年收入组成的截面数据，建立住房支出模型，并检验和修正异方差。,（,3,）其他的与自变量,x,i,的加权形式,f(,x,i,),20,（一）加权最小二乘法,方差未知的情形,21,（一）加权最小二乘法,（,4,）用随机误差项的近似估计量求权重序列,首先利用,OLS,估计原模型得到残差序列 ，然后利用残差序列的绝对值的倒数序列作为加权序列，即令,22,（一）加权最小二乘法,OLS,是加权最小二乘法的特例,显然，当满足同方差假定时，,w,1,=w,2,=,=w,n,=1/,=,常数,即权数相等且等于常数，加权最小二乘法，就是,OLS,法,。,23,纠正异方差性的一个可行程序,（,1,）将,y,对,x,1,x,2,x,k,做回归并得到残差,u,;,（,2,）将残差进行平方，然后再取自然对数而得到,log(u,2,);,（,3,）做,log(u,2,),对,x,1,x,2,x,k,的回归并得到拟合值,g,；,（,4,）求拟合值的指数：,h=exp(g),（,5,）以,1/h,为权数用,WLS,来估计方程。,在（,3,）中做,log(u,2,),对 的回归本质上是完全一样的,24,例,9.1,（续）：人均家庭支出（,cum),和可支配收入（,in),的关系模型,给出中国,1998,年各地区城镇居民平均每人全年家庭交通及通讯支出（,cum),和可支配收入（,in),的数据，估计两者之间的关系模型。,25,（二）模型的重新设定,在计量经济学实践中，计量经济学家偏爱使用对数变换解决问题，往往一开始就把数据化为对数形式，再用对数形式数据来构成模型，进行回归估计与分析。,这主要是因为对数形式可以减少异方差和自相关的程度。,26,案例,9.4,居民储蓄模型估计,1,、问题的提出,2,、初步模型估计,3,、异方差检验,4,、异方差模型的估计,加权,LS,法和模型变换法,27,1,、问题的提出,储蓄是居民的,金融消费,，也是满足相应收入水平的“基本生活”以后的,扩展消费,，从具体问题的经验分析，储蓄具有异方差特性。因此建立储蓄模型就不能使用最小二乘法。,28,2,、初步模型估计,首先，估计居民储蓄与可支配收入之间的回归模型,29,残差与收入,x,的散点图,30,3,、异方差检验,图示法检验：,残差平方与自变量呈比较典型的喇叭型,31,32,4,、异方差模型的估计,加权最小二乘法,在分析收入对储蓄的影响的时候，权数变量可以选取,h,i,=,inc,i,于是基本模型,sav,i,=,a,0,+,a,1,inc,i,+,e,i,变为,33,Proce=Equation=Option=,选定异方差、给出权数名,=OK,34,加权最小二乘法估计结果,35,加权最小二乘法残差与,X,的散点图,36,WLS,处理后的残差图,37,例,9.5,工资回归,收集了,523,个工人的若干变量数据，在这里只考虑工资与教育和经验的关系。假定其他变量保持不变，考虑如下模型：,Wage=B,1,+B,2,edu+B,3,exper+u,i,38,异方差检验,(1),描绘,e,i,2,与工资的关系图,39,异方差检验,（,2,）布鲁斯,-,培根检验,（,3,）戈里瑟检验,（,4,）怀特检验,40,汇报结束,谢谢大家,!,请各位批评指正,