计量经济学23一元线性回归模型的统计性质与检验知识分享.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,2.3,一元线性回归模型的统计性质与检验,一、最小二乘估计量的统计性质,二、拟合优度检验,三、变量的显著性检验,四、参数的置信区间,最小二乘估计量的统计性质,1、线性性,2、无偏性,3、最小方差性,线性特性是指：均是 的线性函数。,也就是存在不全为零的 使下试成立：,无偏性,最小方差,在参数估计量的方差中含有总体的方差，然而,总体的方差往往是不知道，因此如何估计总体的方差，我们很容易想到用样本的方差来代替总体的方差。能行吗？,对于一元回归中的,回归分析,是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。,尽管从,统计性质,上已知，如果有足够多的重复 抽样，参数的估计值的期望（均值）就等于其总体的参数真值，但在一次抽样中，估计值不一定就等于该真值。,那么，在一次抽样中，参数的估计值与真值的差异有多大，是否显著，这就需要进一步进行,统计检验,。,主要包括,拟合优度检验,、变量的,显著性检验,及参数的,区间估计,。,二,、拟合优度检验,拟合优度检验,：,对样本回归直线与样本观测值之间拟合程度的检验。,度量拟合优度的指标,：,判定系数,（,可决系数,）,R,2,问题：,采用普通最小二乘估计方法，已经保证了模型最好地拟合了样本观测值，为什么还要检验拟合程度？,1、总离差平方和的分解,已知由一组样本观测值（,X,i,Y,i,），i,=1,2,n,得到如下样本回归直线,如果Y,i,=,i,即实际观测值落在样本回归“线”上，则,拟合最好,。,可认为，,“离差”,全部来自回归线，而与“残差”无关。,对于所有样本点，则需考虑这些点与样本均值离差的平方和,可以证明,：,记,总体平方和,（,Total Sum of Squares,）,回归平方和,（,Explained Sum of Squares,）,残差平方和,（,Residual Sum of Squares,）,TSS=ESS+RSS,Y的观测值围绕其均值的,总离差(total variation),可分解为两部分：,一部分来自回归线(ESS)，另一部分则来自随机势力(RSS),。,在给定样本中，,TSS,不变，,如果实际观测点离样本回归线越近，则,ESS,在,TSS,中占的比重越大，因此,拟合优度,：回归平方和ESS/Y的总离差TSS,关于总体方差无偏估计量证明,2,、可决系数,R,2,统计量,称,R,2,为,（样本）,可决系数,/,判定系数,（coefficient of determination)。,可决系数,的,取值范围,：0，1,R,2,越接近1，说明实际观测点离样本线越近，拟合优度越高,。,在例,2.1.1,的,收入-消费支出,例中，,注：可决系数,是一个非负的统计量。它也是随着抽样的不同而不同。为此，对可决系数的统计可靠性也应进行检验，这将在第,3,章中进行。,二、变量的显著性检验,回归分析,是要判断,解释变量,X,是否是,被解释变量,Y,的一个显著性的影响因素。,在,一元线性模型,中，就是要判断,X,是否对,Y,具有显著的线性性影响。这就需要进行,变量的显著性检验。,变量的显著性检验所应用的方法是数理统计学中的,假设检验,。,计量经计学中,，主要是针对变量的参数真值是否为零来进行显著性检验的。,1、假设检验,所谓,假设检验,，,就是事先对总体参数或总体分布形式作出一个假设，然后利用样本信息来判断原假设是否合理，即判断样本信息与原假设是否有显著差异，从而决定是否接受或否定原假设,。,假设检验采用的逻辑推理方法是反证法。,先假定原假设正确，然后根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否接受原假设。,判断结果合理与否，是基于“小概率事件不易发生”这一原理的,t检验,t检验常被计量经济学家用来检验单个回归系数的假设。(对于多个系数的同时检验,联合假设检验则为F检验)。,一般来说，当样本小于30我们就用t检验。因为这时的样本分布近似为t分布，而不是正态分布。大于或等于30就用Z检验。,当总体的方差已知，就用标准正态分布Z检验。当总体的方差未知，就用样本方差代替总体的方差，即t检验。,事实上，总体的方差大都是未知的，所以我们常用t检验。,关于t统计量的构造:对于任一检验问题，其关键是构造出一个合适的统计量。如何构造出一个合适的统计量？,首先它必须与统计假设有关。在H,0,成立的情况下，统计量的分布或渐近分布是知道的。,2、变量的显著性检验,关于自由度,根据数理统计学知道：在计算平方和时，可自由取值的变量个数就是自由度。如 则上试的自由度就是1。,在 中,总离差的平方是有N个样本点的值计算出来的，因此它受到 的约束，所以它的自由度是n-1。,TSS的自由度n-1,ESS是受回归直线约束,在一元回归模型中只有一个解释变量,自由度1,TSS=RSS+ESS 所以RSS的自由度n-2,检验步骤：,（1）对总体参数提出假设,H,0,：,1,=0，H,1,：,1,0,（2）以原假设H,0,构造t统计量，并由样本计算其值,（3）给定显著性水平,，查t分布表，得临界值t,/2,(n-2),(4)比较，判断,若|t|,t,/2,(n-2)，则拒绝,H,0,，接受,H,1,；,若|t|,t,/2,(n-2)，则拒绝,H,1,，接受,H,0,；,年 份,Y,X,1988,14.4,847.26,1989,14.4,820.99,1990,14.4,884.21,1991,14.7,903.66,1992,17.0,984.09,1993,16.3,1035.26,1994,18.0,1200.90,1995,18.5,1289.77,1996,18.2,1432.93,1997,19.3,1538.97,1998,17.1,1663.63,Dependent Variable:Y,Method:Least Squares,Date:03/10/09 Time:14:35,Sample:1988 1998,Included observations:11,VariableCoefficientStd.Errort-StatisticProb.,C 10.76616 1.396736 7.708087 0.0000,X 0.0050690.001183 4.28332 0.0020,R-squared0.670895 Mean dependent var16.57273,Adjusted R-squared 0.634328 S.D.dependent var1.845042,S.E.of regression 1.115713 Akaike info criterion3.219829,Sum squared resid11.20333 Schwarz criterion3.292174,Log likelihood -15.70906 F-statistic 18.34690,Durbin-Watson stat 1.320391 Prob(F-statistic)0.002040,对,进行显著性检验,对于一元线性回归方程中的,0,，可构造如下,t,统计量进行显著性检验：,在上述,收入-消费支出,例中，首先计算,2,的估计值,t统计量的计算结果分别为：,给定显著性水平,=0.05，查t分布表得临界值,t,0.05/2,(8)=2.306,|t,1,|2.306，说明,家庭可支配收入在95%的置信度下显著，即是消费支出的主要解释变量；,|t,0,|,2.306,表明在95%的置信度下，无法拒绝截距项为零的假设。,假设检验,可以通过一次抽样的结果检验总体参数可能的假设值的范围（如是否为零），但它并没有指出在一次抽样中样本参数值到底离总体参数的真值有多“近”。,要判断样本参数的估计值在多大程度上可以“近似”地替代总体参数的真值，往往需要通过构造一个以样本参数的估计值为中心的“区间”，来考察它以多大的可能性（概率）包含着真实的参数值。这种方法就是参数检验的,置信区间估计,。,三、参数的置信区间,如果存在这样一个区间，,称之为,置信区间,（,confidence interval,）；,1-,称为,置信系数,（,置信度,）,（,confidence coefficient,），,称为,显著性水平,（,level of significance,）；,置信区间的端点称为,置信限,（,confidence limit,）或,临界值,（,critical values,）。,一元线性模型中,，,i,(,i,=1，2）,的置信区间:,在变量的显著性检验中已经知道：,意味着，如果给定置信度（1-,）,，从分布表中查得自由度为(n-2)的临界值，那么t值处在(-t,/2,t,/2,)的概率是(1-,)。表示为：,即,于是得到:(1-,),的置信度下,i,的置信区间是,在上述,收入-消费支出,例中，如果给定,=0.01，查表得：,由于,于是，,1,、,0,的置信区间分别为：,（0.6345,0.9195),（-433.32,226.98）,由于置信区间一定程度地给出了样本参数估计值与总体参数真值的“接近”程度，因此置信区间越小越好。,要缩小置信区间，需,（1）增大样本容量n,，因为在同样的置信水平下，n越大，t分布表中的临界值越小；同时，增大样本容量，还可使样本参数估计量的标准差减小；,（2）提高模型的拟合优度,，因为样本参数估计量的标准差与残差平方和呈正比，模型拟合优度越高，残差平方和应越小。,案例,某市1980-1998年城镇居民人均可支配收入（X）与消费性支出（Y）的观察值如下,(1),求二者之间的回归模型,(2)求参数的置信区间,年 份 Y X,1980 474.72526.92,1981 479.94532.72,1982 488.10566.81,1983 509.58591.18,1984 576.35699.96,1985 654.73744.06,1986 755.56851.20,1987 798.63884.40,1988 815.40847.26,1989 718.37820.99,1990 767.16884.21,1991 759.49903.66,1992 820.25984.09,1993 849.781035.26,1994 974.701200.90,1995 1040.981289.77,1996 1099.271432.93,1997 1186.111538.97,1998 1252.531663.63,Method:Least Squares,Date:03/10/08 Time:20:48,Sample:1980 1998,Included observations:19,Y=C(1)+C(2)*X,Coefficient Std.Error t-Statistic Prob.,C(1)135.306 3 24.7408 5.468940 0.0000,C(2)0.6917 54 0.024671 28.03936 0.0000,R-squared0.978835 Mean dependent var790.6132,Adjusted R-squared 0.977590 S.D.dependent var236.3875,S.E.of regression 35.38729 Akaike info criterion10.06988,Sum squared resid 21288.43 Schwarz criterion 10.16930,Log likelihood-93.66389 F-statistic786.2057,Durbin-Watson stat0.688666 Prob(F-statistic)0.000000,