资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,精选课件ppt,*,EViews统计分析基础教程,单击此处编辑母版标题样式,单击此处编辑母版文本样式,二级,三级,四级,五级,精选课件ppt,*,第5章 基本回归模型的OLS估计,重点内容:,普通最小二乘法,线性回归模型的估计,线性回归模型的检验,1,精选课件ppt,一、普通最小二乘法(OLS),1.最小二乘原理,设(,x,1,,,y,1,),(,x,2,,,y,2,),(,x,n,,,y,n,)是平面直角坐标系下的一组数据,且,x,1,x,2,x,n,,如果这组图像接近于一条直线,我们可以确定一条直线,y,=a+b,x,,使得这条直线能反映出该组数据的变化。,如果用不同精度多次观测一个或多个未知量,为了确定各未知量的可靠值,各观测量必须加改正数,使其各改正数的平方乘以观测值的权数的总和为最小。因而称最小二乘法。,2,精选课件ppt,一、普通最小二乘法(OLS),1.最小二乘原理,设双变量的总体回归方程为,y,t,=B,1,+B,2,x,t,+,t,样本回归函数为,y,t,=b,1,+b,2,x,t,+,e,t,其中,,e,t,为残差项,,5-3式为估计方程,b1 和b2分别为B1和B2的估计量,,因而,e=实际的y,t,估计的y,t,3,精选课件ppt,一、普通最小二乘法(OLS),1.最小二乘原理,估计总体回归函数的最优方法是选择B,1,和B,2,的估计量b,1,,b,2,,使得残差e,t,尽可能达到最小。,用公式表达即为,总之,最小二乘原理就是选择样本回归函数使得y的估计值与真实值之差的平方和最小。,4,精选课件ppt,一、普通最小二乘法(OLS),2.方程对象,选择工作文件窗口工具栏中的“Object”|“New Object,”|“Equation”,选项,在下图所示的对话框中输入方程变量。,5,精选课件ppt,一、普通最小二乘法(OLS),2.方程对象,EViews5.1提供了8种估计方法:,“,LS”,为最小二乘法;,“,TSLS”,为两阶段最小二乘法;,“,GMM”,为广义矩法;,“,ARCH”,为自回归条件异方差;,“,BINARY”,为二元选择模型,其中包括,Logit,模型、,Probit,模型和极端值模型;,“,ORDERED”,为有序选择模型;,“,CENSORED”,截取回归模型;,“,COUNT”,为计数模型。,6,精选课件ppt,二、一元线性回归模型,1.模型设定,一元线性回归模型的形式为,y,i,=,0,+,1,x,i,+,u,i,(i=1,2,,n,),其中,,y,为被解释变量,也被称为因变量;,x,为解释变量或自变量;,u,是随机误差项(random error term),也被称为误差项或扰动项,它表示除了,x,之外影响,y,的因素,即,y,的变化中未被,x,所解释的部分;,n,为样本个数。,7,精选课件ppt,二、一元线性回归模型,2.实际值、拟合值和残差,估计方程为,表示的是,y,t,的拟合值,和 分别是,0,和,1,的估计量。实际值指的是回归模型中被解释变量(因变量),y,的原始观测数据。拟合值就是通过回归模型计算出来的,y,t的预测值。,8,精选课件ppt,二、一元线性回归模型,2.实际值、拟合值和残差,三条曲线分别是实际值(Actual),拟合值(Fitted)和残差(Residual)。实际值和拟合值越接近,方程拟合效果越好。,9,精选课件ppt,三、多元线性回归模型,通常情况下,将含有多个解释变量的线性回归模型(多元线性回归模型)写成如下形式,,y,i,=,0,+,1,x,1i,+,2,x,2i,+,3,x,3i,+,k,x,ki,+u,i,(,i,=1,2,,n,),其中,,y,为被解释变量,也被称为因变量;,x,为解释变量或自变量;,u,是随机误差项(random error term),也被称为误差项或扰动项;,n,为样本个数。,10,精选课件ppt,三、多元线性回归模型,在多元线性回归模型中,要求解释变量,x,1,,,x,2,,,x,k,之间互不相关,即该模型不存在多重共线性问题。如果有两个变量完全相关,就出现了完全多重共线性,这时参数是不可识别的,模型无法估计。,11,精选课件ppt,三、多元线性回归模型,通常情况下,把多元线性回归方程中的常数项看作虚拟变量的系数,在参数估计过程中该常数项始终取值为1。因而模型的解释变量个数为k+1.多元回归模型的矩阵形式为,Y,=,X,+,u,其中,,Y,是因变量观测值的T维列向量;,X,是所有自变量(包括虚拟变量)的,T,个样本点观测值组成的,T,(,k,+1)的矩阵;,是,k,+1维系数向量;,u,是,T,维扰动项向量。,12,精选课件ppt,四、线性回归模型的基本假定,线性回归模型必须满足以下几个基本假定:,假定1:随机误差项,u,具有0均值和同方差,即,E,(,u,i,)=0,i,=1,,,2,,,,,n,Va,r,(,u,i,)=,2,i,=1,,,2,,,,,n,其中,,E,表示均值,也称为期望,在这里随机误差项,u,的均值为,0,。,Va,r,表示随机误差项,u,的方差,对于每一个样本点,i,,即在,i=1,,,2,,,,,n,的每一个数值上,解释变量,y,对被解释变量,x,的条件分布具有相同的方差。当这一假定条件不成立是,称该回归模型存在异方差问题。,13,精选课件ppt,四、线性回归模型的基本假定,假定2:,不同样本点下的随机误差项u之间是不相关的,即,Cov(u,i,,u,j,)=0,ij,i,j=1,2,n,其中,cov表示协方差。当此假定条件不成立时,则称该回归模型存在序列相关问题,也称为自相关问题。,14,精选课件ppt,四、线性回归模型的基本假定,假定3:同一个样本点下的随机误差项,u,与解释变量,x,之间不相关,即,Cov,(,x,i,,,u,i,)=0,i,=1,2,,n,15,精选课件ppt,四、线性回归模型的基本假定,假定4:随机误差项u服从均值为0、同方差的正态分布,即,u,N,(0,,2),如果回归模型中没有被列出的各因素是独立的随机变量,则随着这些随机变量个数的增加,随机误差项,u,服从正态分布。,16,精选课件ppt,四、线性回归模型的基本假定,假定5:解释变量,x,1,,,x,2,,,x,i,是非随机的确定性变量,并且解释变量间互不相关。则这说明,yi,的概率分布具有均值,即,E,(,y,i,|,x,i,)=,E,(,0,+,1,x,i,+,u,i,)=,0,+,1,x,i,该式被称为总体回归函数。,如果两个或多个解释变量间出现了相关性,则说明该模型存在多重共线性问题。,17,精选课件ppt,五、线性回归模型的检验,1.拟合优度检验,拟合优度检验用来验证回归模型对样本观测值(实际值)的拟合程度,可通过,R,2,统计量来检验。,18,精选课件ppt,五、线性回归模型的检验,1.拟合优度检验,公式,三者的关系为,TSS,=,RSS,+,ESS,TSS,为总体平方和,,RSS,为残差平方和,,ESS,为回归平方和。,19,精选课件ppt,五、线性回归模型的检验,1.拟合优度检验,总体平方和(,TSS,)反映了样本观测值总体离差的大小,也被称为离差平方和;残差平方(,RSS,)说明的是样本观测值与估计值偏离的程度,反映了因变量总的波动中未被回归模型所解释的部分;回归平方和(,ESS,)反映了拟合值总体离差大小,这个拟合值是根据模型解释变量算出来的。,20,精选课件ppt,五、线性回归模型的检验,1.拟合优度检验,拟合优度,R,2的计算公式为,R,2 =,ESS/TSS,=1,RSS/TSS,当回归平方(,ESS,)和与总体平方和(,TSS,)较为接近时,模型的拟合程度较好;反之,则模型的拟合程度较差。因此,模型的拟合程度可通过这两个指标来表示。,21,精选课件ppt,五、线性回归模型的检验,2.显著性检验,变量显著性检验(,t,检验),检验中的原假设为:,H,0,:,i,=0,,备择假设为:,H,1,:,i,0,,如果原假设成立,表明解释变量,x,对被解释变量,y,没有显著的影响;当原假设不成立时,表明解释变量,x,对被解释变量,y,有显著的影响,此时接受备择假设。,22,精选课件ppt,五、线性回归模型的检验,2.显著性检验,方程显著性检验(,F,检验),原假设为:,H,0:,1=0,,2=0,,k,=0,,备择假设为:,H,1:,i,中至少有一个不为 0,,如果原假设成立,表明解释变量,x,对被解释变量,y,没有显著的影响;当原假设不成立时,表明解释变量,x,对被解释变量,y,有显著的影响,此时接受备择假设。,23,精选课件ppt,五、线性回归模型的检验,2.显著性检验,方程显著性检验(,F,检验),F,统计量为,该统计量服从自由度为(,k,,n,k,1)的,F,分布。给定一个显著性水平,当,F,统计量的数值大于该显著性水平下的临界值F(,k,,n,k,1)时,则在(1,)的水平下拒绝原假设,H,0,即模型通过了方程的显著性检验,模型的线性关系显著成立。,24,精选课件ppt,五、线性回归模型的检验,3.异方差性检验,(1)图示检验法,图示检验法通过散点图来判断用OLS方法估计的模型异方差性,这种方法较为直观。通常是先将回归模型的残差序列和因变量一起绘制一个散点图,进而判断是否存在相关性,如果两个序列的相关性存在,则该模型存在异方差性。,25,精选课件ppt,五、线性回归模型的检验,3.异方差性检验,(1)图示检验法,检验步骤:,建立方程对象进行模型的,OLS,(最小二乘)估计,此时产生的残差保存在主窗口界面的序列对象,resid,中。,建立一个新的序列对象,并将残差序列中的数据复制到新建立的对象中。,然后选择主窗口中的“,Quick”|“Graph”|“Scatter”,选项,生成散点图,进而可判断随机项是否存在异方差性。,26,精选课件ppt,五、线性回归模型的检验,3.异方差性检验,(2)怀特(White)检验法,检验步骤:,用,OLS,(最小二乘法)估计回归方程,得到残差,e,。,作辅助回归模型:,求辅助回归模型的拟合优度,R,2,的值。,White,检验的统计量服从,2,分布,即,N R,2,2(,k,),其中,,N,为样本容量,,k,为自由度,,k,等于辅助回归模型()中解释变量的个数。如果,2,值大于给点显著性水平下对应的临界值,则可以拒绝原假设,即存在异方差;反之,接受原假设,即不存在异方差。,27,精选课件ppt,五、线性回归模型的检验,3.异方差性检验,(2)怀特(White)检验法,White检验的统计量服从2分布,即,N R,2 2(,k,),其中,,N,为样本容量,k为自由度,k等于辅助回归模型()中解释变量的个数。如果2值大于给点显著性水平下对应的临界值,则可以拒绝原假设,即存在异方差;反之,接受原假设,即不存在异方差。,28,精选课件ppt,五、线性回归模型的检验,3.异方差性检验,(2)怀特(White)检验法,在EViews5.1软件中选择方程对象工具栏中的“View”|“Residual Tests”|“White Heteroskedasticity”选项即可完成操作。,29,精选课件ppt,五、线性回归模型的检验,3.异方差性检验,异方差性的后果:,当模型出现异方差性时,用OLS(最小二乘估计法)得到的估计参数将不再有效;变量的显著性检验(,t,检验)失去意义;模型不再具有良好的统计性质,并且模型失去了预测功能。,30,精选课件ppt,五、线性回归模型的检验,4.序列相关检验,方法:,(1)杜宾(,D.W.,Durbin-Watson)检验法,(2),LM,(拉格朗日乘数Lagrange Multiplier)检验法,31,精选课件ppt,五、线性回归模型的检验,4.序列相关检验,(1)杜宾(,D.W.,Durbin-Watson)检验法,J.Durbin,G.S.Watson于1950年提出了,D.W.,检验法。它是通过对残差构成的统计量来判断误差项,ut,是否存在自相关。,D.W.,检验法用来判定一阶序列相关性的存在。,D.W.,的统计量为,32,精选课件ppt,五、线性回归模型的检验,4.序列相关检验,(1)杜宾(,D.W.,Durbin-Watson)检验法,如果,,0 ,D.W.,dt,,存在一阶正自相关,dt,D.W.,du,,不能确定是否存在自相关,du,D.W.,4,du,,不存在自相关,4,du,D.W.,4,dt,不能确定是否存在自相关,4,dt,D.W.,4,,存在一阶负自相关,33,精选课件ppt,五、线性回归模型的检验,4.序列相关检验,(1)杜宾(,D.W.,Durbin-Watson)检验法,使用,D.W.,检验时应注意,因变量的滞后项,yt,-1不能作为回归模型的解释变量,否则,D.W.,检验失效。另外,样本容量应足够大,一般情况下,样本数量应在15个以上。,34,精选课件ppt,五、线性回归模型的检验,4.序列相关检验,(2),LM,(拉格朗日乘数Lagrange Multiplier)检验法,LM,检验原假设和备择假设分别为:,H,0:直到,p,阶滞后不存在序列相关,H,1:存在,p,阶序列相关,LM,的统计量为,LM,=n,R,2,2,(,p,),其中,n为样本容量,,R,2为辅助回归模型的拟合优度。LM统计量服从渐进的,2,(,p,)。在给定显著性水平的情况下,如果,LM,统计量小于设定在该显著性水平下的临近值,则接受原假设,即直到,p,阶滞后不存在序列相关。,35,精选课件ppt,五、线性回归模型的检验,4.序列相关检验,序列相关性的后果:,用,OLS,(最小二乘估计法)得到的估计参数将不再有效;,变量的显著性检验(,t,检验)失去意义;,模型不再具有良好的统计性质,并且模型失去了预测功能。,36,精选课件ppt,五、线性回归模型的检验,5.多重共线性,方法:,(1)相关系数检验法,(2)逐步回归法,37,精选课件ppt,五、线性回归模型的检验,5.多重共线性,(1)相关系数检验法,在群对象窗口的工具栏中选择“View”|“Correlations”|“Common Sample”选项,即可得到变量间的相关系数。,如果相关系数较高,则变量间可能存在线性关系,即模型有多重共线性的可能。,38,精选课件ppt,五、线性回归模型的检验,5.多重共线性,(2)逐步回归法,当在回归模型中增加或减少解释变量个数时,如果拟合优度变化很大,说明新引进的变量是一个独立的解释变量,即它与其他变量间是相互独立的,模型不存在多重共线性;如果拟合优度变化不大,说明新引进的变量不是一个独立的解释变量,它可由原有的解释变量的线性组合构成,即它与其他变量间非相互独立,模型可能存在多重共线性。,39,精选课件ppt,五、线性回归模型的检验,4.序列相关检验,消除多重共线性方法:,剔除法,差分法,40,精选课件ppt,本章小结:,掌握线性回归模型的基本原理,掌握回归模型的检验方法,熟练各检验的,EViews,相关操作,41,精选课件ppt,此课件下载可自行编辑修改,供参考!,感谢您的支持,我们努力做得更好!,42,精选课件ppt,
展开阅读全文