计量经济学课件全套教学教程整套课件全书电子教案教学课件电子教案.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,计量经济学,（精编本）,第一篇 导 论,第一章 计量经济学概述,【,本章要点,】,本章主要介绍计量经济学的产生,和发展，了解计量经济学的学科性质、基本概,念与内容，掌握建立计量经济模型的主要步骤。,1.1,什么是计量经济学,一、计量经济学的含义,“,计量经济学是一门由经济学、统计学和数学结,合而成的交叉学科，它以经济学提供理论基础，,统计学提供资料依据，数学提供研究方法的一,门经济学是经济的计量学或计量的经济学。”,二、计量经济学在经济学中的地位,著名经济学家诺贝尔经济学奖获得者萨缪尔森,曾经说：“第二次世界大战后的经济是经济计量,的时代。”诺贝尔经济学奖获得者克莱茵教授在,其,计量经济学教科书,中阐述“经过,20,世纪,50,年代扎实的发展和,60,年代的扩张，计量经济学,已经在经济学中居于重要地位，在大多数大学,和学院中，计量经济学的讲授已经成为经济学课,程中最具权威的一部分。,”,我们不妨看看从,1969,年设立诺贝尔经济学奖开始,至,2005,年,36,年中共有,57,位获奖者，其中四分之三,都是与计量经济学密切相关。直接因为对计量经济,学的创立和发展做出贡献而获奖者达,15,位。他们或,者是计量经济学理论方面做出重大贡献，或者是利,用计量经济学理论和方法解决经济问题取得了杰出,成就。这些诺贝尔经济学奖的获得，从一个侧面反,映了计量经济学在经济科学中的地位。,2003,年诺贝尔经济学奖再次垂青计量经济学家美,国的罗伯特,F.,恩格尔,(Robert F.Engle),和英国的克,莱夫,W.J.,格兰杰,(Clive W.J.Granger),是因为他们,在时间序列数据研究方法方面的重要贡献，这再,一次向世人证明计量经济学是经济学中最重要的,学科之一。,另一方面，绝大多数诺贝尔经济学奖获得者即使,其主要贡献不在计量经济学领域，也都普遍应用,了计量经济学方法。,三、,计量经济学的发展概况,计量经济学从,20,世纪,30,年代诞生之日起，就显示出,其强大的生命力，经过,20,世纪,40,年代至,50,年代的大,发展及,60,年代的大扩张，使计量经济学在经济学中,占据重要地位。,20,世纪,60,年代佛兰克莫迪里亚尼,(Franco Modigliani),、,默顿,H.,米勒,(Morton H.Miller),、哈里,M.,马科维茨,(Harry,M.Markowitz),、威廉,F.,夏普,(William F.Sharpe),，将计,量经济学方法应用于证券与投资研究，开创了金融计,量经济学应用的新领域。,20,世纪,70,年代以来，计量经济学的理论和应用又进,入一个新阶段。一方面由于计算机的广泛应用和新,的计算方法大量出现，使所用的计量经济模型和变,量的数目越来越多。另一方面表现为宏观计量经济,模型的研制和应用方面。目前已有一百多个国家编,制了不同的宏观计量经济模型，模型也由地区模型,逐步发展到国家模型乃至世界模型。宏观计量经济,模型的发展趋势，一是模型的规模越来越大（例如,克莱因发起的世界连接模型，包括,7000,多个方程、,3000,多个外生变量），二是模型体系日趋完善，涉,及生产、需求、价格及收入等经济生活的各个领域。,1998,年,7,月教育部高等学校经济学学科教学指导委,员会决定将“计量经济学”列为高等学校经济学门类,各专业的八门核心课程之一（八门核心课包括政治,经济学、西方经济学、计量经济学、货币银行学、,财政学、统计学、会计学、国际经济学将计量,经济学列入经济学各专业核心课，是我国经济学学,科教学走向现代化和科学化的重要标志，对提高我,国经济学人才培养质量和研究水平具有重要意义。,1.2,计量经济学的研究对象、内容与步骤,一、计量经济学的研究对象,我们知道计量经济学是以经济理论为基础，利用,数学方法，根据实际观测的统计数据，,分析研究经济过程，探讨经济规律的学科。因此，,可以说计量经济学研究的对象是经济现象，是研,究经济现象中的具体数量规律。或者说，计量经,济学是利用数学方法，根据统计测定的经济数据，,对反映经济现象本质的经济数量关系进行研究。,二、,计量经济学的研究内容,计量经济学的内容可概括为两个方面，一方面是它,的方法论，即计量经济学方法或理论计量经济学，,另一方面是它的实际应用，即应用计量经济学。,但是，无论理论计量经济学还是应用计量经济学它,们都应包括：理论、方法和数据三要素，缺一不可。,理论即经济理论，也就是研究对象的行为理论，它,是计量经济学的基础；方法即模型的建立和计算方,法，它是计量经济研究的工具和手段；数据即反映,研究对象活动的信息，它是计量经济研究的原料。,三、计量经济模型的研究步骤,应用计量经济学方法，建立计量经济模型并用于,研究客观经济现象，一般可分为五个步骤：,（一）理论计量经济模型的建立,（二）样本数据的收集,（三）模型参数的估计,（四）模型的检验,（五）计量经济模型的应用,根据经济理论的分析建立计量经济模型,收集并整理数据资料,参数估计,模型检验,未通过,模型应用,通过,经济预测,政策评价,结构分析,图,1.2.1,建立与应用计量经济模型的主要步骤,第二篇 单方程线性回归模型,第二章 一元线性回归分析,【,本章要点,】,（,1,）最小二乘法的基本思想；,（,2,）能应用最小二乘法估计一元线性回归模,型的参数；（,3,）能够对参数的性质进行讨论；,（,4,）能应用一元线性回归模型进行预测；,（,5,）掌握,EViews,的使用方法，能应用,EViews,软件计算和分析一元线性,回归模型的实际经济问,2.1,一元线性回归模型及基本假定,设有如下关系,y,i,=+x,i,+u,i,（,i,=1,2,n,）,(2.1.1),其中,x,i,和,y,i,分别代表两个经济变量，,y,i,称为因变量,或被解释变量，,x,i,称为自变量或解释变量；,u,i,是,一个随机变量，称为随机项；,和,是两个常数，,称为回归参数；角码,i,表示变量的第,i,个观察值或与,之对应的随机项。,关系,(2.1.1),称为一元线性回归模型。模型,(2.1.1),是,对总体而言的，因此也叫做总体回归模型。,要求随机项,u,和自变量,x,满足的统计假定有五个，,这些假定称为经典回归模型的基本假定或称经典,（古典）假定。,假定,1,每个,u,i,（,i,=1,2,3,n,）,均为服从正态分,布的实随机变量。,假定,2,每个,u,i,（,i,=1,2,3,n,）,的期望值均为,0,，即,E,(,u,i,)=0,（,i,=1,2,3,n,）,假定,3,每个,u,i,（,i,=1,2,3,n,）,的方差均为同一个,常数，即,V,(,u,i,)=,E,()=,常数,称之同方差假定或等方差性。,假定,4,与自变量不同观察值,x,i,相对应的随机项,u,i,彼,此独立，即,COV,(,u,i,，,u,j,)=0,（,ij,）,这个假定称为非自相关假定。,假定,5,随机项,u,i,与自变量的任一观察值,x,j,不相关，即,COV,(,u,i,，,x,j,)=0 (,i,，,j,=1,2,3,n,),显然，如果,x,是非随机变量，则假定,5,将自动满足。,以上假定通常也叫高斯,马尔可夫,(Gauss Markov),假定，也称古典假定。满足以上古典假定的线性回,归模型，也称为古典线性模型或经典线性模型。,根据,假定,2,，对,(2.1.1),式两边同时取期望值，则有,E,(,y,i,)=,+x,i,(2.1.2),表明点,（,x,i,，,E,(,y,i,),）,在直线,(2.1.2),上，这条直线叫,做总体回归直线（或理论回归直线或总体方程）。,上述五个基本假定中,1-4,是针对随机项,u,i,的假定，,最后一个是针对,u,i,和,x,i,两者的假定。,基本假定,1-3,决定了,ui,的分布：,u,i,N,（,0,）,(2.1.3),同时也决定了模型,(2.1.1),中,y,i,的分布。,事实上，由于,y,i,是,u,i,的线性函数，而,u,i,服从正态,分布，所以,y,i,也服从正态分布。,根据假定,3,，由,(2.1.1),和,(2.1.2),式可得,V,(,y,i,)=,E,()=,常数,(2.1.4),因此，,y,i,服从期望值为,+,x,i,，方差为的正,态分布：,y,i,N,（,+,x,i,）,(2.1.5),2.2,回归参数的最小二乘估计,对模型,y,i,=+x,i,+u,i,(2.2.1),两边取期望值得总体方程：,E,(,y,i,),=,+x,i,(2.2.2),这里参数,和,是未知的，实际上总体回归直,线是无法求得的，它只是理论上的存在。,如何作一条直线使它成为总体回归直线,(2.2.2),的最好估计,?,假设样本回归直线已做出，设它为,(2.2.3),其中 是,的估计量，是,的估计量，这样,就可以用样本回归直线,(2.2.3),估计总体回归直线,(2.2.2),。,设给定的样本观测值（,x,i,y,i,），,i,=1,2,，,，,n,，,在直角坐标系里，做出它们的对应点,（,x,i,y,i,），,i,=1,2,，,，,n,，,构成散点图，如图,2.2.1,所示。,.,x,i,x,.,.,.,.,.,图,2.2.1,散点与回归直线,y,观察值,yi,与它的拟合值,（回归值）之差，记作,(2.2.4),i,称为回归残差。于是,有,(2.2.5),最小二乘准则认为，和 应这样选择：使得,i,对所,有,i,的平方和最小，即使,(2.2.6),达到最小，这就是最小二乘准则（原理）。这种估,计回归参数的方法称为普通最小二乘法（,Ordinary,Least Squares,简记,OLS,），称为普通最小二,乘估计量（,Ordinary Least Squares Estimator,简记,OLSE,）。,由于,(2.2.6),是 和 的二次函数并且是非负的，,由二次函数的性质知，,(2.2.6),式的最小值总是存在,的，为此，须使,(2.2.6),式对 和 的一阶偏导数,为零，即,(2.2.7),(2.2.8),(2.2.7),(2.2.8),(2.2.7),、,(2.2.8),（或,(2.2.7),(2.2.8),）是,以,，为未知数的方程组，叫做正规方,程组，或简称为正规方程。,解正规方程,(2.2.7),、,(2.2.8),，得,的表达式：,(2.2.9),(2.2.10),其中 ，,显然，当常数项,=0,时，线性模型,(2.2.1),变为,y,i,=x,i,+u,i,(2.2.11),此时参数,估计量的计算公式为,比较,(2.2.10),与,(2.2.12),就会发现，只要将,(2.2.10),中,的圆点去掉即得到（,2.212,），这个规律具有普遍性，,即不论对一元线性回归模型或多元线性回归模型，常,数项不等于,0,和常数项等于,0,这,两种情形下参数估计量,的公式具有相似结构，差别仅在于：前者公式中所有,的变量都带圆点，而后者公式中所有变量都不带圆点。,到目前为止，我们得到了四个关系式如下：,总体回归模型,：,y,i,=,+,x,i,+,u,i,它表,示总体变量之间的真实关系。,总体回归直线（或称总体回归方程）：,E,(,y,i,),=+x,i,它表示总体变量之,间的依存关系。,样本回归模型,:,它表示样本,显示出的变量之间的关系。,样本回归直线：它表示样本显,示出的变量之间的依存关系。,2.3,参数最小二乘估计量的统计性质,一、线性,所谓线性是指和是,y,i,或,u,i,的线性函数。,(,一,),的线性表达式,由,(2.2.10),有,(2.3.1),其中,(2.3.2),(2.3.1),表明是,y,i,的线性函数,由于,y,i,=+x,i,+u,i,，,所以,(2.3.3),其中 ,k,i,=0,(2.3.4),k,i,x,i,=1,(2.3.5),(2.3.3),表明是,u,i,的线性函数,(,二,),的线性表达式,由,(2.2.9),有,（,2.3.6,）,（,2.3.6,）表明 是,y,i,的线性函数。,(2.3.7),(2.3.7),表明 是,u,i,的线性函数。,二、无偏性,由,(2.3.3),知 ，取期望值便有,(2.3.8),其中,E,(,u,i,)=0,，,(2.3.8),表明 是,的无偏估计量。,由,(2.3.7),上式两边取期望值便有,(2.3.9),(2.3.9),表明 是,的无偏估计量。,三、最小方差性,所谓最小方差性是指在所有线性无偏估计量中，最,小二乘估计量的方差最小。方差最小这一性质又称,为最佳性。为了证明这一性质，我们先导出最小二,乘估量 和 的方差。,由,(2.3.3)(2.3.10),由,(2.3.7),(2.3.11),或者把,(2.3.11),写成形式：,(2.3.11),下面证明 的最小方差性。,假设我们用其它方法求得参数,的估计量为 ，并且满足线性和无偏性。因而应有关系：,(2.3.12),由于,y,i,=+x,i,+u,i,所以,由此可知，欲使 估计量具有无偏性，,c,i,应满,足条件,(2.3.13),下面我们将在满足（,2.3.13,）的前提下，寻求,的最小方差：,(2.3.14),(2.3.14),式当且仅当,c,i,=k,i,时，达到最小，,此时 与最小二乘估计量 相等：,(2.3.15),将此结果代入,(2.3.14),便有,(2.3.16),此结果与,(2.3.10),式相同。,对于 的最小方差性的证明与 的证明完全类,似，请读者自己完成。,这样我们证明了，只要经典回归模型的假定,25,满足，回归参数的最小二乘估计量就是线性、无,偏、最佳估计量，简称为最佳线性无偏估计量,(BLUE:best linear unbiased estimators),。这一,结论就是著名的高斯,-,马尔可夫,(Gauss Markov),定理。,无偏性与最佳性结合起来构成了估计量好坏的重要,标志。由于最小二乘估计量的最佳线性无偏估计量,的特性，才使得最小二乘法得到了广泛的应用。,2.4,参数估计量的抽样分布及 的估计量,一、参数估计量的抽样分布,和 所服从的分布称为参数估计量的抽样分布。,(2.4.1),(2.4.1),就是 和 的抽样分布。,二、我们的任务是利用自变量,x,i,和因变量,y,i,的,观察值来计算 的估计量,我们可以用,i,的方差 来估计,u,i,的方差 。将,i,的方差取成如下形式：,(2.4.2),其中,f,e,是回归残差平方和的自由度，其大小应由,的无偏性要求决定。现在我们的任务是设法,找到,f,e,的取值。由于,所以,(2.4.2),式可简化为,(2.4.3),为此我们先计算,i,：,(2.4.4),将,(2.4.4),平方求和，再取期望值便有,(2.4.5),(2.4.5),式中,(2.4.7),(2.4.6),(2.4.8),把,(2.4.6),、,(2.4.7),和,(2.4.8),代入,(2.4.5),便有,或,即,取,f,e,=,n,-2,，便有的无偏估计量,(2.4.9),为了计算方便，也可以采用如下计算形式：,(2.4.10),2.5,回归参数的,t,检验和区间估计,一、回归参数的,t,检验,在,2.4,节中，我们已经知道 都服从正态,分布，即,(2.5.1),(2.5.2),(2.5.3),(2.5.4),其中,显然，统计量,N,(0,1),(2.5.5),N,(0,1),(2.5.6),式中的 可用无偏估计量 代替，由此得出,和 的无偏估计量：,(2.5.7),(2.5.8),在小样本情况下（一般,n,30,）可以证明，用,无偏估计量 代替,(2.5.5),和,(2.5.6),中的 便得,T,统计量（证明略）,t,(,n-,2),(2.5.9),t,(n,-2),(2.5.10),通常我们关心的是回归模型中的因变量与自变,量之间是否存在线性关系或者说是否,=0,。,为此我们对,进行,t,检验。,提出假设,H,0,:,=0,备择假设,H,1,:,0,，在,H,0,成立时，有统计量,t,(,n,-2),(2.5.11),对给定的显著水平,查自由度为,n,-2,的,t,分布表，得临,界值 ，如果,T,，则拒绝,H,0,:,=0,接受备择假设,H,1,:,0,，表明回归模型中因,变量与自变量之间确实存在线性关系。,对于,的,t,检验可以用类似的方法进行。,图,2.5.1,阴影部分为,t,检验的否定域,二、回归参数的区间估计,由于,T,统计量服从,t,分布：,T,=,t,(,n,-2),(2.5.10),对给定的显著水平,，便有,即我们有,1-,的把握说，,(2.5.12),(2.5.11),成立。换句话说，我们有,1-,的把握说，,在,(2.5.13),区间内，或者写成：,(2.5.14),此范围称之为置信区间，,-,称为置信度。,对参数,的区间估计有类似的结果：,(2.5.15),2.6,回归方程的显著性检验和拟合优度,一、总离差平方和的分解,设由样本观察值,(,x,i,，,y,i,),，,i,=1,2,，,n,，得出的,回归直线为 如图,2.6.1,所示。,图,2.6.1,因变量偏差的分解,由（,2.2.4,）知，因变,量的观察值y,i,可分解为,与,i,之和：,（,2.6.1,）,此式又可写成：,（,2.6.2,）,反映全部总离差变化的最好的变量是总离差平,方和，记作,TSS,：,TSS,=,（,2.6.3,）,将（,2.6.3,）展开：,TSS,=,其中第二项,便有,TSS,称为总离差平方和,记,RSS,称为回归平方和,ESS,称为剩余平方和或残差平方和,于是便有,TSS,=,RSS,+,ESS,（,2.6.4,）,由平方和分解定理知，三个平方和的自由度之间,具有如下关系：,（,2.6.5,）,二、拟合优度（样本决定系数）,用,RSS,与,TSS,之比来反映样本回归直线与全部,观察值之间的拟合程度：,（,2.6.6,）,称为拟合优度或样本决定系数。越大，表,明回归直线与样本观察值拟合得越好，反之，拟,合得就越差。,由于 所以,RSS,=,（,2.6.7,）,便有,（,2.6.8,）,进一步可以写成形式：,（,2.6.9,）,取 的平方根，便有,（,2.6.10,）,这就是我们熟悉的相关系数公式。,（,2.6.12,）,R,2,越接近,1,，回归直线与样本观察值拟合得越好。,三、回归方程显著性的,F,检验,回归方程显著性检验是回归模型总体的显著性,检验，也就是判定回归方程的所有解释变量,x,对,被解释变量,y,的影响的显著性，即方程的总体的,显著性。这实际上就是对回归方程拟合优度的检,验，能满足这一要求的检验便是,F,检验。,对一元线性回归模型而言，具体步骤如下：,(1),假设,H,0,:,=0,备择假设,H,1,：,0,。,(2),构造统计量,（,2.6.13,）,(3),当,H,0,成立时，,F,F,（,，,n-,2,）,(4),对给定的显著水平,，确定临界值,F,如图,2.6.3,所示。,(5),判定方程显著性，若,F,F,，拒绝假设,H,0,，即,不为,零，解释变量总体对,y,的影响是显著的，方程估计可靠。,若,F,F,，则接受假设,H,0,，说明所有解释变量对,y,的影,响不显著，方程估计不可靠。,图,2.6.3,阴影部分为,F,检验的否定域,将上面分析的结果可用一张表格来表示，见表,2.6.1,，,这张表叫做回归问题的方差分析表。,离差名称,平方和,自由度,均方（方差）,F,值,回归,（因素,x,）,1,剩余,（随机因素）,n,-,2,总 计,n,-,1,表,2.6.,一元回归方差分析表,由（,2.6.4,）知，,ESS,=,TSS,-,RSS,即,（,2.6.15,）,把（,2.6.15,）代入（,2.6.14,）便有,由,2.,节的（,2.4.9,）知,（,2.6.14,）,这便是公式（,2.4.10,）。,四、,F,与,R,2,的关系,由（,2.6.11,）知，拟合优度可表为,（,2.6.16,）,又统计量,（,2.6.17,）,把,(2.6.6),和（,2.616,）代入（,2.6.17,）便有,（,2.6.18,）,可以看出，,F,与,R,2,成正比，,R,2,越大，,F,值也越大。,2.7,预测,一、点预测,设有模型,y,t,=+x,t,+u,t,t,=1,2,n,（,2.7.1,）,t,表示第,t,个抽样时期，现在假设属于抽样时期,以外的某个时期,f,（预测期）的自变量值,x,f,已知，,并且（,2.7.1,）式同样适用于第,f,个时期，这时因,变量有,y,f,=+x,f,+u,f,（,2.7.2,）,且,u,f,满足基本假定。,由于每一个,x,f,值都对应着,y,f,的一个分布，所以，,讨论,y,f,的预测值有两个含义：,预测与,x,f,值相对应的,y,f,的期望值；,预测与,x,f,值相对应的,y,f,的单个（当期）值。,具体预测办法是：我们可以利用模型（,2.7.1,）,和样本观察值,（,x,t,y,t,）,得出回归方程,将,t,外推到抽样期之外的某个预测期,f,，就有,（,2.7.3,）,其中,x,f,已知。此时既可作为 的估计量也可以,作为,y,f,的估计量。事实上,表明：是 的无偏估计量。,又有,表明：二者之差在多次观察中平均来说等于零。,综上所述，用来估计 和 是合理的。,二、区间预测,(,一,),的区间预测,为了求出 的置信区间，我们先求出估计量,的方差：,其中,于是有,（,2.7.4,）,用估计量 代替 ，便得 的估计量：,（,2.7.5,）,利用（,2.7.5,）构造,T,统计量，显然有,t,(,n,-2),（,2.7.6,）,则置信度为,1-,的置信区间为：,（,2.7.7,）,(,二,),的区间预测,为了求出 的预测区间，须先计算,-,的方差。,由于,所以,（,2.7.8,）,用估计量 代替 ，得,（,2.7.9,）,利用（,2.7.9,）构造统计量，显然有,t,(,n,-2),则置信度为,1-,的置信区间为,图,2.7.1,E,(,yf,),和,yf,的置信带,由（,2.7.7,）和（,2.7.10,）结合图,2.7.1,可以看出：,样本容量,n,越大，预测越准确，预测精度越高。,x,f,距 越近，预测精度越高。,越大，即抽样范围越宽，预测精度越高。,第三章 多元线性回归分析,【,本章要点,】1.,掌握多元线性回归模型的概念和,模型经典假定；,2.,掌握多元线性回归模型参数的,最小二乘估计和检验；,3.,模型的检验和预测；,4.,能应用,EViews,软件计算和解决线性回归模型的实,际经济问题。,3.1,多元线性回归模型及其基本假定,假定因变量,y,与解释变量,x,1,x,2,，,x,k,具有线性关系，,它们之间的线性关系，可用线性回归模型表示为,y,i,=,0,+,1,x,1,i,+,2,x,2,i,+,k,x,ki,+,u,i,（,3.1.1,）,称为总体线性回归模型。,下标i,表示第,i,期观察值,（,y,i,，,x,1,i,，,x,2,i,，,x,ki,），,u,i,为对应的随机项，,i,=1,，,2,，,n,。,由于有,n,期样本观察值，这一模型实际上是包含,n,个方程的模型：,y,1,=,0,+,1,x,11,+,2,x,21,+,k,x,k,1,+,u,1,y,2,=,0,+,1,x,12,+,2,x,22,+,k,x,k,2,+,u,2,(3.1.2),y,n,=,0,+,1,x,1,n,+,2,x,2,n,+,k,x,kn,+,u,n,把（,3.1.2,）改写成矩阵形式：,（,3.1.3,）,（,3.1.3,）简化为,Y,=,X,+,U,（,3.14,）,其中,对多元线性回归模型基本假定如下：,假定,1,随机项,U,的每一个元素,u,i,均为实随机变量，,且服从正态分布。,假定,2,随机项,U,的每一个元素的期望值均为零，即,假定,3,所有随机项的,u,i,的方差均相同，即有,i,=1,2,n,（,3.1.5,）,假定,4,不同期的两个随机项,u,i,和,u,j,彼此不相关，即有,（,i,j,）（,3.1.6,）,i,j,=1,2,，,n,假定,3,和,假定,4,称作高斯,马尔可夫（,Gauss-Ma,rkov,）假定。它可以统一表示为,（,3.1.7,）,假定,5,（,3.1.8,）,j,=1,2,，,k,，,i,=1,2,，,n,即说明解释变量,x,1,，,x,2,，,，,x,k,与随机项,u,i,不相关。,与一元线性回归分析相同，为了数学处理方便，,一般情况下我们都假定所有自变量均为非随机变量。,假定,6,所有自变量彼此线性无关，即,r,k,（,X,）,=,k,+1,且,k,+1,n,（,3.1.9,）,也就是说矩阵,X,的秩等于参数的个数，或者说，,解释变量,x,1,x,2,，,x,k,彼此不相关。,3.2,多元线性回归模型参数的最小二乘估计,一、一般模型的参数最小二乘估计,设与总体线性回归模型（,3.1.1,）对应的样本线,性回归模型为,（,3.2.1,）,i,=1,2,，,n,或表示为矩阵形式为,其中,相应的样本线性回归方程为,（,3.2.2,）,i,=1,2,，,n,利用最小二乘法求参数估计量 ：,设残差平方和为,Q,，则,Q,=,我们的任务是寻求适当的 使,Q,达到,最小。根据多元函数的极值原理，,应是下列方程组的解：,整理可得正规方程组：,由（,3.2.3,）第一个方程，可以得到：,(3.2.3),（,3.2.4,）,将正规方程组写成矩阵形式：,（,3.2.3,）,其中,于是正规方程组的矩阵形式为,（,3.2.5,）,（,3.2.6,）,于是有,二、中心化模型的参数最小二乘估计,我们已经知道，总体线性回归模型可以表示为,（,3.2.7,）,相应的样本线性回归模型可以表示为,（,3.2.8,）,对于样本容量为,n,的,y,的,均值可分别表示为,（,3.2.9,）,其中心化模型,（,3.2.11,）,（,3.2.12,）,（,i,=1,2,，,n,）,和,（,3.2.10,）,这里,=0,，可以看作是对参数施加一个限制条件。,将它们写成矩阵形式：,（,3.2.13,）,（,3.2.14,）,（,3.2.13,）为总体回归模型的中心化形式（或离差,形式），（,3.2.14,）为样本回归模型的中心化形式,（或离差形式）。其中,残差平方和,（,3.2.15,）,其中用到 是标量的性质。,将残差平方和（,3.2.15,）对 求导，并令其为零：,整理得正规方程组,（,3.2.16,）,解方程组（3.2.16,）得,（,3.2.17,）,由（,3.2.17,）式可以看出，参数,估计量的表达,式与（,3.2.6,）式相比形式基本相同，但应注意,（,3.2.17,）中的 不包含 ，比 少一列常,数,1,。对于（,3.2.17,）的计算可采用以下形式：,（,3.2.18,）,（,3.2.19,）,对于,k,=2,的情形，（,3.2.17,）式可以表示为,（,3.2.20,）,解之可得,（,3.2.21,）,（,3.2.22,）,记,D(2),=,（,3.2.23,）,D,1,(2),=,（,3.2.24,）,D,2,(2),=,（,3.2.25,）,从而参数估计量的表达式可以简记为,（,32.26,）,（,3.2.27,）,推广至,k,元线性回归，其参数的表达式便有：,j,=1,2,，,k,（,3.2.28,）,（,3.2.29,）,3.3,回归参数估计量的统计性质,总体模型,（,3.3.1,）,的参数,是通过样本模型,（,3.3.2,）,来计算出其估计值 。那么用 来估计,效果,怎样，因此，我们需要讨论 的统计性质。,一、线性,（,3.3.3,）,可见，既是,Y,的线性函数也是,U,的线性函数。,二、无偏性,（,3.3.4,）,可见，是,的无偏估计量。,三、方差,协方差和最小方差,我们先导出 的方差，然后证明在,的一切线,性无偏估计量中，以 的方差最小。,由方差,协方差矩阵的定义,（,3.3.5,）,（,3.3.5,）是一个对称矩阵，其主对角线上的元素是参,数估计量的方差，非主对角线元素是不同参数估计量,之间的协方差，所以称为 的方差,协方差矩阵。,另一方面，由（,3.3.3,）有,即,（,3.3.6,）,与（,3.3.5,）比较知,（,3.3.7,）,（,ij,，,i,j,=0,1,k,）（,3.3.8,）,由（,3.3.7,）和（,3.3.8,）式知，只要算出逆矩阵,，所有参数的方差，协方差都可算出。,（,3.3.9,）,（,3.3.10,）,（,3.3.11,）,（,ij,i,j,=1,2,k,）,对于中心化变量的方差,协方差，有类似的结果：,再证明由（,3.3.7,）给出的方差具有最小方差,性（最佳性）。为此，设另外有一个,的线,性无偏估计量：,（,3.3.12,）,其中,P,为,(,k,+1),n,阶非随机矩阵，代表对最小,二乘估计量 的一个干扰。,（,3.3.13,）,要使 满足无偏性要求，矩阵,P,必须满足条件：,PX,=0,（,3.3.14,）,此时,（,3.3.15,）,（,3.3.16,）,由于,P,为,(,k,+,),n,阶矩阵且,k,+,0,时，随后的若干个随机项,u,t,+1,u,t,+2,都有大于,0,的倾向，当,u,t,0,时，随后若干个,随机项都有小于,0,的倾向，我们说,u,具有正相关性；而,负自相关则意味着两个相继的随机项,u,t,和,u,t,+1,具有正负,号相反的倾向。在经济数据,中，常见的是正自相关现象。,二、产生自相关的原因,1.,经济变量的惯性作用,2.,模型中略去了具有自相关的解释变量,3.,经济冲击的延续,4.,模型设定的不正确,三、自相关强度的量度,自相关系数,假定,u,存在自相关，若,u,t,的取值仅与前一期,u,t-,1,有关，,即,u,t,=,f,(,u,t-,1,),，则称这种相关为一阶自相关。若,u,t,不,仅与,u,t-,1,相关，而且还同,u,t-,2,相关，即,u,t,=,f,(,u,t-,1,u,t-,2,),，,则称这种相关为二阶自相关。,两个随机项在时间上相隔越远，前者对后者的影响,就越小。如果存在自相关的话，最强的自相关应表,现在相邻两个随机项之间，即一阶自相关是主要的。,因此，我们只讨论一阶自相关，而且假定这是一,种线性自相关，即具有一阶线性自回归形式：,若,u,t,的取值与它的前,s,期取值有关，即,u,t,=,f,(,u,t-,1,u,t-,2,u,t-,s,),，则称这种相关为,s,阶自相关。二阶以上的自相关,统称为高阶自相关。,(6.1.1),(6.1.1),式中,是一个常数，称为自相关系数，,v,t,是,一个新的随机项，它满足经典回归的全部假定：,(6.1.2),(6.1.1),式可以看成是一个一元线性回归模型，,u,t,是,因变量，,u,t,-1,是自变量，,是回归系数。由于,v,t,满足,经典回归的全部基本假定，可用,OLS,法估计,：,(6.1.3),当样本容量很大时，有 ，于是,(6.1.3),式,可以改写为,(6.1.4),(6.1.4),式右端的表达式完全符合样本相关系数的定,义，所以把,称为,自相关系数是合理的。,四、,u,t,的方差和协方差,由,(6.1.1),式知,即,(6.1.5),当,0,时，为正自相关，当,0,时，为负自相关。,当,=0,时，由式,(6.1.1),知,u,t,=,v,t,，此时,u,t,变为一个没有,自相关的随机变量。当,=1,时，则,u,t,与,u,t,-1,之间的,相关最强。,可见，自相关系数,是一阶线性自相关强,度的一个度量，,的绝对值的大小决定自相关的强弱。,(6.1.5),可以改写成：,(6.1.6),再计算协方差,(6.1.7),(6.1.8),类推下去，便有,(6.1.9),令 将上面的结论,(,6.1.6),、,(6.1.7),、,(6.1.8),、,(6.1.9),式合并在一起可用矩阵表示：,(6.1.10),其中 代入,(6.1.10),便有,(6.1.11),记,(6.1.12),(6.1.11),可写成,是一个,(,n,n,),维正定对称矩阵，其逆矩阵为,(6.1.14),6.2,自相关对参数估计量的影响,一、自相关不影响,OLS,估计量的线性和无偏性,不失一般性，我们这里只讨论一元线性回归模型。,设,(,t,=1,，,2,，,，,n,),(6.2.1),而且随机项存在一阶线性自相关：,(6.2.2),其中,v,t,满足经典回归基本假定。,模型,(6.2.1),的,OLS,估计量具有如下形式：,(6.2.3),故无论,u,是否存在自相关，,(,i,=0,，,1),仍然是随,机项,u,t,的线性函数。,对,(6.2.3),取期望值：,(6.2.4),故无论,u,是否存在自相关，,(,i,=0,，,1),均是 的无,偏估计。即自相关不影响参数,OLS,估计量的线性和,无偏性。,二、,自相关使参数,OLS,估计量失去最佳性,1.,所谓失去最佳性，就是直接应用普通最小二乘法,求得参数估计量的方差可能偏小，因而低估了真实,方差。,由,(6.2.3),式知,(6.2.5),当,u,无自相关时，便有,(6.2.6),当,u,存在自相关时参看,(6.1.9),(6.2.7),于是,(6.2.8),(6.2.8),式,中 是,自变量,x,的各阶样本自相关,系数。若,u,和,x,都是正自相关,(,在经济现象中，这种情,况是最常见的,),，便有,0,和 ，因此，,方括号内的数值必然大于,1,。便有,(6.2.9),(6.2.9),式表明,OLS,估计量,低估了 的真实方差。,2.,普通最小二乘法还低估了随机项,u,的方差，在无自,相关情况下，的无偏估计量为,(6.2.10),其中 为回归残差。,在有自相关的情况下，,(6.2.10),便失去无偏性，,成为 的下偏估计量。这是因为,(6.2.11),其中,所以,(6.2.12),(6.2.12),式,两边取期望值：,把,(6.1.9),和,(6.2.8),代入,(6.2.13),，,便有,(6.2.14),基于前面相同的理由,(,u,和,x,均系正自相关,),，,(6.2.14),方括号内的数值肯定是正值。于是,(6.2.15),即,OLS,估计量 不再是 的无偏估计量，,而是下偏估计量，也就是说，它低估了随机项,u,的方差。,三、自相关对参数显著性检验的影响,在随机项,u,存在自相关的情况下对模型,(6.2.1),应,用,OLS,法，由,(6.2.9),知，在不考虑自相关时，,估计,量 的方差 的数值偏小，使得,t,检验中,值偏大，在给定显著水平下,，,T,值增加了大于,t,分,布临界值 的机会，使得本来不该否定的,原假设,(),给否定了，从而导致模型变量选,择的错误，失去了检验的意义,。,6.3,检验自相关的方法,一、图解法,(,一,),按时间顺序绘制残差图,(,二,),绘制 的散点图,二、杜宾,沃森,(Durbin-Watson),检验,法,在解析法检验中，用的最多的是杜宾,沃森检验法，,简称,D-W,检验。目前检验自相关性最常用的方法就,是,D-W,检验。,(,一,)D-W,检验的基本思想,对一阶线性自相关 ，显然，当,=0,时，,u,不具有一阶线性自相关，当,0,时，,u,具有一阶线性自相关。,D-W,检验是通过构,造统计量,(6.3.1),(,其中,),来建立,d,与,的近似关系，从而判,断随机项,u,的自相关性。,事实上,(6.3.2),对于大样本,(,即,n,很大,),来说，可以认为,于是,(6.3.2),式,可以改写成,(6.3.3),注意,t,是随机项,u,t,的估计量，根据,(6.1.3),便有,(6.3.4),把,(6.3.4),代入,(6.3.3),便,有,(6.3.5),由表达式,(6.3.5),可以看出：,如果,=0,则,d,2,；,如果