计量经济学第二章简单线性回归.ppt

计量经济学ECONOMETRICS第二章简单线性回归模型的建立及其假定条件普通最小二乘估计(OLS)参数估计的显著性检验回归方程检验普通最小二乘估计的特性预测模型应用及有关软件操作MonteCarlo模拟1 1计量经济学ECONOMETRICS模型的建立及其假定条件2 2计量经济学ECONOMETRICS回归的由来回归(Regression)一词来源于19世纪英国生物学家葛尔登(FrancisGalton,1822-1911)对人体遗传特征的实验研究。他根据实验数据发现，双亲高的孩子个子高，双亲矮的孩子个子矮，然而高和矮却不是无限制的，总是越来越趋向于人的平均身高，他称这种现象为“回归”。现在统计学上回归指的是变量之间的依存关系。3 3计量经济学ECONOMETRICS两变量线性模型由于所有点不可能恰在直线上，因此上式需添加一随机扰动，误差或随机项，这样上式成为：反映因变量和自变量之间的近似线性关系因变量或被解释变量参数自变量或解释变量4 4计量经济学ECONOMETRICS简单线性回归模型的重要假设1)X与Y之间的关系是线性的；2)X是非随机的变量，它的值是确定的；3)误差项的期望为0；4)对于所有观测值，误差项具有相同的方差；5)随机误差之间相互独立；6)误差项服从正态分布。5 5计量经济学ECONOMETRICS例：例：某农场某农场19711971年至年至19801980年每英亩的谷物年每英亩的谷物产量产量(bushel)(bushel)和化肥和化肥施用量施用量(pound)(pound)之间之间的数据见表，求出产的数据见表，求出产量与化肥施用量之间量与化肥施用量之间的关系。的关系。data21.xlsdata21.xlsYearYear1971197119721972197319731974197419751975197619761977197719781978197919791980198040404444464648485252585860606868747480806 6101012121414161618182222242426263232注：蒲式耳(谷物,水果等容量单位,美=35.238升,英=36.368升)1pound(磅)=0.4536kilogram(千克)1acre(英亩)=0.405hectare(公顷)6 6计量经济学ECONOMETRICS谷物产量和化肥施用量之间散点图利用Eviews所作7 7计量经济学ECONOMETRICS普通最小二乘估计(OLS)8 8计量经济学ECONOMETRICS普通最小二乘法(ordinaryleast-squaresmethod)OLSOLS用来拟合用来拟合XYXY观测值样本的一条最好的直观测值样本的一条最好的直线，涉及到求如下的最小值：线，涉及到求如下的最小值：其中表示实际观测值，表示相应的拟合值，称为残差。9 9计量经济学ECONOMETRICS参数估计令得从而正规方程1010计量经济学ECONOMETRICS参数估计的另一种表达式令则1111计量经济学ECONOMETRICS误差和残差的区别误差残差1212计量经济学ECONOMETRICS谷物产量和所用化肥量的计算1313计量经济学ECONOMETRICS谷物产量和所用化肥量的计算(续)当说明？1414计量经济学ECONOMETRICS参数的显著性检验1515计量经济学ECONOMETRICS参数的显著性检验参数估计的方差由于未知，因此常用的无偏估计残差方差来替代2表示估计参数的个数其算术根称回归标准误1616计量经济学ECONOMETRICS参数估计的标准误1717计量经济学ECONOMETRICS谷物-化肥一例的参数显著性检验1818计量经济学ECONOMETRICS谷物-化肥一例的参数显著性检验(续)因此由于自由度为8显著性水平为0.05的t分布的临界值为2.306，因此我们得到估计的参数在5%的显著性上是统计显著的。1919计量经济学ECONOMETRICSP值单侧：单侧：P P值值=双侧：双侧：P P值值=若P值小于给定的显著性水平，则拒绝原假设。2020计量经济学ECONOMETRICS回归方程检验2121计量经济学ECONOMETRICS平方和分解SST总平方和(TotalSumofSquares)SSE解释平方和(ExplainedSumofSquares)SSR残差平方和(ResidualSumofSquares)2222计量经济学ECONOMETRICS2323计量经济学ECONOMETRICS两种不同的解释JeffreyM.Wooldridge等的解释。SST表示Y的总体变异。它分为两部分，一部分SSE，这部分可以由模型解释，另一部分SSR，这是模型解释不了的部分。另一种解释。WilliamH.Greene和RobertS.Pindyck等SSE(ErrorSumofSquares)残差平方和SSR(RegressionSumofSquares)回归平方和注意千万不要混淆。一般软件都采用前一种说法，有的称解释平方和为模型平方和，如STATA等。2424计量经济学ECONOMETRICS决定系数取值范围01前例中决定系数计算2525计量经济学ECONOMETRICS回归方程检验检验统计量原假设成立时服从自由度为1，n-2的F分布给定显著性水平，查表得临界值若，则拒绝原假设2626计量经济学ECONOMETRICS相关系数范围：-11前例中相关系数计算2727计量经济学ECONOMETRICS样本相关系数的检验提出假设提出假设构造统计量构造统计量给定显著性水平，得出相应的临界值给定显著性水平，得出相应的临界值决策决策若，则拒绝原假设2828计量经济学ECONOMETRICS正态性检验JBJB统计量统计量偏度峰度n是样本容量，S为样本标准差正态性假定下，有：2929计量经济学ECONOMETRICS残差的正态性检验若模型正确，则残差应服从正态分布通过JB统计量或QQ图(qqnorm)进行验证如果真是正态分布的一个样本，那么其分位数应该与正态分布的分位数接近。3030计量经济学ECONOMETRICSOLS估计的特性3131计量经济学ECONOMETRICSOLS估计的特性OLS估计量是最优线性无偏估计量(BLUE)该特性也称为高斯-马尔科夫定理Best,Linear,Unbiased,Estimator一致性是指随着样本容量趋于无穷，估计量值接近真实值。OLS估计量具有无偏性、有效性和一致性3232计量经济学ECONOMETRICS线性都是关于Y的线性函数3333计量经济学ECONOMETRICS无偏性注：因此3434计量经济学ECONOMETRICS2024/5/7 2024/5/7 周二周二3535计量经济学ECONOMETRICS有效性估计量估计量的方差的方差协方差协方差3636计量经济学ECONOMETRICS有效性满足高斯马尔柯夫条件时，OLS估计是最优线性无偏的(BestLinearUnbiasedEstimator,BLUE)高斯高斯-马尔柯夫条件马尔柯夫条件3737计量经济学ECONOMETRICS有效性3838计量经济学ECONOMETRICS预测3939计量经济学ECONOMETRICS预测建立模型的主要目的之一是为了预测。1)、点预测平均值平均值个别值个别值为个别值预测误差4040计量经济学ECONOMETRICS预测(续)2)、预测的置信区间均值预测的置信区间个别值预测的置信区间注：离开越远的估计(或预测)，其结果也就越不可靠。4141计量经济学ECONOMETRICS置信区间、预测区间、回归方程YX预测上限置信上限预测下限置信下限4242计量经济学ECONOMETRICS预测评价均方误的平方根均方误的平方根(RMSE(RMSE，rootmeanrootmeansquarederror)squarederror)平均绝对值误差平均绝对值误差(MAE,meanabsolute(MAE,meanabsoluteerror)error)西尔不相等系数西尔不相等系数(Theil(Theilsinequalitysinequalitycoefficient)coefficient)是预测期数值在0，1之间，等于1则说明模型预测能力最差4343计量经济学ECONOMETRICS模型应用及相关软件操作4444计量经济学ECONOMETRICS案例分析估计保健支出和收入之间的关系。数据data22.xls4545计量经济学ECONOMETRICSEviews操作简介界面4646计量经济学ECONOMETRICS数据输入(键盘输入)File New WorkfileObject New object4747计量经济学ECONOMETRICSFileOpenForeignDataasWorkfile.出现下面的界面，找到相应数据文件后点击打开。数据输入(外部文件)4848计量经济学ECONOMETRICS数据输入(结果)4949计量经济学ECONOMETRICS作散点图QuickGraphScatter出现下图界面，中间填入变量incomeexphlth即可，注意顺序！5050计量经济学ECONOMETRICS作散点图(续)显示两者有很强的线性关系5151计量经济学ECONOMETRICS回归分析QuickEstimateEquation.再分别如图填入因变量、常数项和自变量，点确定。exphlth=c(1)+c(2)*income5252计量经济学ECONOMETRICS回归分析(续)系数标准误t统计量P值F统计量5353计量经济学ECONOMETRICS结果解释 DependentVariable:DependentVariable:因变量因变量 MethodMethod：估计方法：估计方法 Date:09/22/06Time:10:29Date:09/22/06Time:10:29结果输出的日期和时间结果输出的日期和时间 SampleSample：样本区间：样本区间 IncludedobservationsIncludedobservations：观测值个数：观测值个数 VariableVariable：自变量，：自变量，C C是常数项是常数项 CoefficientCoefficient：系数：系数 Std.ErrorStd.Error：系数估计的标准误：系数估计的标准误 t-Statistict-Statistic：t t统计量值统计量值ProbProb：P P值值 R-squared:R-squared:判定系数判定系数 AdjustedR-squared:AdjustedR-squared:调整后的判定系数调整后的判定系数5454计量经济学ECONOMETRICS解释(续)MeandependentvarMeandependentvar：因变量均值：因变量均值 S.D.dependentvarS.D.dependentvar：因变量标准差：因变量标准差 S.E.ofregressionS.E.ofregression：回归标准误：回归标准误 SumsquaredresidSumsquaredresid：残差平方和：残差平方和 LoglikelihoodLoglikelihood：对数似然：对数似然 AkaikeinfocriterionAkaikeinfocriterion：赤池信息准则：赤池信息准则 SchwarzcriterionSchwarzcriterion：施瓦池信息准则：施瓦池信息准则 Durbin-WatsonstatDurbin-Watsonstat：杜宾统计量：杜宾统计量 F-statisticF-statistic：F F统计量统计量 Prob(F-statistic)Prob(F-statistic)：F F统计量的统计量的P P值值n是调整后的样本容量，k是参数个数，简单回归时为25555计量经济学ECONOMETRICS残差正态性检验View Descriptive Statistics Histogram and StatsView Descriptive Statistics Histogram and Stats打开残差序列对象窗口5656计量经济学ECONOMETRICSEViews命令操作 createu51createu51 readreadF:Econometrics13datadata22.xlF:Econometrics13datadata22.xlsexphlthincomesexphlthincome scatincomeexphlthscatincomeexphlth equationeq1.lsexphlthcincomeequationeq1.lsexphlthcincome eq1.resultseq1.results histresidhistresid更为简洁、便利！创建一空工作表创建一空工作表 读数据读数据 观察散点图观察散点图 使用使用olsols方法估计模型方法估计模型 查看估计结果查看估计结果 残差的正态性检验残差的正态性检验或这样查看有关结果eq1.R2eq1.coefs(i)eq1.RBAR2eq1.stderrs(i)eq1.dweq1.tstats(i)eq1.aiceq1.cov(i,j)eq1.F注：Office07以后的后缀为xlsx5757计量经济学ECONOMETRICSgretl*打开命令输入窗口打开命令输入窗口File-Scriptfiles-Newscript-gretlscriptFile-Scriptfiles-Newscriptgretlscript openF:Econometrics13datadata22.xlsopenF:Econometrics13datadata22.xls model1-olsexphlthconstincomemodel1-olsexphlthconstincome model1.showmodel1.show点击点击RunRunOLSestimatesusingthe51observations1-51Dependentvariable:exphlthVARIABLECOEFFICIENTSTDERRORTSTATP-VALUEconst0.1764960.4675090.378070741income0.1416520.0028749149.2720.00001*Meanofdependentvariable=15.0689Standarddeviationofdep.var.=17.9266Sumofsquaredresiduals=317.899Standarderrorofresiduals=2.5471UnadjustedR-squared=0.980216AdjustedR-squared=0.979812Degreesoffreedom=49Log-likelihood=-119.028Akaikeinformationcriterion(AIC)=242.057SchwarzBayesiancriterion(BIC)=245.921Hannan-Quinncriterion(HQC)=243.533结果5858计量经济学ECONOMETRICS附：Anscombesquartet数据：数据：data23.txtdata23.txt(1)(2)(3)(4)(1)(2)(3)(4)X1Y1X2Y2X3Y3X4Y4X1Y1X2Y2X3Y3X4Y410.08.0410.09.1410.07.468.06.5810.08.0410.09.1410.07.468.06.588.06.958.08.148.06.778.05.768.06.958.08148.06.778.05.7613.07.5813.08.7413.012.748.07.7113.07.5813.08.7413.012.748.07.719.08.819.08.779.07.118.08.849.08.819.08.779.07.118.08.8411.08.3311.09.2611.07.818.08.4711.08.3311.09.2611.07.818.08.4714.09.9614.08.1014.08.848.07.0414.09.9614.08.1014.08.848.07.046.07.246.06.136.06.088.05.256.07.246.06136.06.088.05.254.04.264.03.104.05.3919.012.504.04.264.03.104.05.3919.012.5012.010.8412.09.1312.08.158.05.5612.010.8412.09.1312.08.158.05.567.04.827.07.267.06.428.07.917.04.827.07.267.06.428.07.915.05.685.04.745.05.738.06.895.05.685.04.745.05.738.06.895959计量经济学ECONOMETRICS回归结果四组变量回归结果都是：四组变量回归结果都是：2.67)(4.24)回归标准误1.24createu11readF:Econometrics13datadata23.txtX1Y1X2Y2X3Y3X4Y4equationeq1.lsy1cx1equationeq2.lsy2cx2equationeq3.lsy3cx3equationeq4.lsy4cx4eq1.resultseq2.resultseq3.resultseq4.results6060计量经济学ECONOMETRICSAnscombesquartet散点图6161计量经济学ECONOMETRICSMonteCarlo模拟6262计量经济学ECONOMETRICS回归系数的MonteCarlo模拟(EViews)createmcu10matrix(2000,2)mvector(10)vv.fill9.7,10.1,10.0,10.4,10.1,10.2,9.7,10.4,9.6,9.8mtos(v,x)rndseed 12345for!k=1to2000seriesy=2+5*x+5*nrndequationeq1.lsycxm(!k,1)=eq1.coefs(1)m(!k,2)=eq1.coefs(2)nextshowmexpand12000smpl12000mtos(m,gr)freezeser02.qqplotfreezeser02.histgenrmb1=mean(ser02)genrsdb1=sqrt(var(ser02)genrsigb1=sqrt(25/sum(x-mean(x)2)showmb1showsdb1showsigb16363计量经济学ECONOMETRICS回归系数的MonteCarlo模拟(R)x-c(9.7,10.1,10.0,10.4,10.1,10.2,9.7,10.4,9.6,9.8)b1-numeric(2000)set.seed(20)for(iin1:2000)y-2+5*x+rnorm(10,0,5)b1i-coef(lm(yx)2hist(b1)mean(b1);sd(b1)sqrt(25/sum(x-mean(x)2)#require(tseries)jarque.bera.test(b1)#正态性检验6464计量经济学ECONOMETRICS回归系数的MonteCarlo模拟(Gretl)nulldata10nulldata10 setseed2012setseed2012 loop2000-progressive-quietloop2000-progressive-quiet seriesx=9.7,10.1,10.0,10.4,10.1,10.2,9.7,10.4,9.6,9.8seriesx=9.7,10.1,10.0,10.4,10.1,10.2,9.7,10.4,9.6,9.8 genry1=2+5*x+5*normal()genry1=2+5*x+5*normal()olsy1constxolsy1constx genrb2=$coeff(x)genrb2=$coeff(x)printb2printb2 stored:coeff.gdtb2stored:coeff.gdtb2 endloopendloop opend:coeff.gdtopend:coeff.gdt normtestb2-jberanormtestb2-jbera6565计量经济学ECONOMETRICS教材案例分析程序createa19912003createa19912003readF:Econometrics13zdataP25.xlsreadF:Econometrics13zdataP25.xlsxyxygroupgr1xygroupgr1xyfreezegr1.scatfreezegr1.scatscalarr=cor(x,y)scalarr=cor(x,y)equationeq1.lsycxequationeq1.lsycxscalarn=eq1.regobsscalarn=eq1.regobsscalark=eq1.ncoefscalark=eq1.ncoefscalartstat=r*sqrt(n-2)/sqrt(1-r2)scalartstat=r*sqrt(n-2)/sqrt(1-r2)genrgenr P=1-ctdist(tstat,(n-2)P=1-ctdist(tstat,(n-2)showPshowPshoweq1showeq1pagestruct(end=last+1)*pagestruct(end=last+1)*expandexpand1991199120042004x(n+1)=2300 x(n+1)=2300eq1.forecastyfy_seeq1.forecastyfy_segroupgr2yyfgroupgr2yyffreezegr2.plotfreezegr2.plotgenrypl=yf(n)-qtdist(0.975,n-k)*y_se(n)genrypl=yf(n)-qtdist(0.975,n-k)*y_se(n)genrypu=yf(n)+qtdist(0.975,n-k)*y_se(n)genrypu=yf(n)+qtdist(0.975,n-k)*y_se(n)genrycu=yf(n)+qtdist(0.975,n-k)*sqrt(y_se(n)2-se2)genrycu=yf(n)+qtdist(0.975,n-k)*sqrt(y_se(n)2-se2)genrycl=yf(n)-qtdist(0.975,n-k)*sqrt(y_se(n)2-se2)genrycl=yf(n)-qtdist(0.975,n-k)*sqrt(y_se(n)2-se2)假设2004年收入2300showcoefs(2)showstderr(2)genrbeta1l=coefs(2)-qtdist(0.975,n-k)*stderr(2)genrbeta1u=coefs(2)+qtdist(0.975,n-k)*stderr(2)genryf1=yf(n)groupP25yf1yplypuyclycushowP256666计量经济学ECONOMETRICS作业P.2956767计量经济学ECONOMETRICS2024/5/7 2024/5/7 周二周二6868