计量经济学第七章.ppt

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,计量经济学 夏凡,1,第七章,ARMA,模型应用,第一节,ARMA,模型概述,第二节 随机时序的特性分析,第三节 模型的识别与建立,第四节 模型的预测,第五节 序列相关与,ARMA,模型,引言,对时间序列,Y,t,的变动进行解释或预测,单一方程回归模型,联立方程回归模型,上面两类模型均称为结构式模型,以因果关系为基础,具有一定的模型结构,2,引言（续,1,）,若,Y,t,波动的原因是无法解释的因素,如气候、消费者偏好的变化等,则用结构式模型解释,Y,t,变动就较为困难或不可能,要取得相应的量化数据，并建立令人满意的回归模型是很困难的,即使估计出一个较为满意的因果关系回归方程，但对某些解释变量未来值的预测本身就非常困难，甚至比预测被解释变量的未来值更困难,因此，因果关系模型及其预测技术就不适用了,3,引言（续,2,）,采用另一条预测途径,通过时间序列的历史数据，得出关于其过去行为的有关结论,进而对时序未来行为进行推断,4,5,引言（续,3,）,ARMA,模型的提出,由,Box,、,Jenkins,创立，亦称,B-J,方法,是一种精度较高的时序预测方法,ARMA,模型基本思想,某些时序是依赖于时间,t,的一簇随机变量，构成该时序的单个序列值虽然不具有确定性，但整个序列的变化却有一定的规律性，可以用相应的数学模型近似描述,通过对该数学模型的分析研究，能够更本质的认识时序的结构与特征，达到最小方差意义下的最优预测,6,第一节,ARMA,模型概述,自回归模型,移动平均模型,自回归移动平均模型,7,ARMA,模型,自回归,(AR:Auto-regressive),模型,移动平均,(MA:Moving Average),模型,自回归移动平均,(ARMA:Auto-regressive Moving Average),模型,8,自回归模型,自回归模型,若时序,y,t,是它的前期值和随机项的线性函数,则称该时序,y,t,是自回归序列，,(1),式为,p,阶自回归模型，记为,AR(p),实参数 称为自回归系数，是待估参数,随机项,u,t,是相互独立的白噪声序列，且服从均值为,0,、方差为 的正态分布,随机项与滞后变量,y,t-1,y,t-2,y,t-p,不相关,不失一般性，在,(1),式中假定序列,y,t,均值为,0,若 ，则令,可将 写成,(1),式的形式,9,自回归模型（续）,AR(p),模型,记,B,k,为,k,步滞后算子，即,则,(1),式可表示为,令,则模型可简写为,AR(p),过程平稳的条件,滞后多项式 的根均在单位圆外，即,的根大于,1,10,移动平均模型,移动平均模型,若时序,y,t,是它的当期和前期的随机误差项的线性函数,则称该时序,y,t,为移动平均序列，,(3),式为,q,阶移动平均模型，记为,MA(q),实参数 为移动平均系数，是待估参数,MA(q),模型,引入滞后算子，并令,则模型,(3),可简写为,11,移动平均模型（续,1,）,MA,AR,MA,过程无条件平稳,但通常希望,AR,过程与,MA,过程能相互表出，即过程可逆,则要求滞后算子 的根都在单位圆外,MA(q),模型的逆转形式,其中，其他权重 可递推得到,其等价于无穷阶的,AR,过程,12,移动平均模型（续,2,）,AR,MA,AR(p),模型的逆转形式,(2),式满足平稳条件时，可改写为,其中，,其等价于无穷阶的,MA,过程,13,自回归移动平均模型,自回归移动平均模型,若时序式它的当期和前期的随机误差项以及前期值的线性函数,则称该序列是自回归移动平均序列，,(4),式为,(p,q),阶的自回归移动平均模型，记为,ARMA(p,q),为自回归系数，为移动平均系数，都是模型的待估参数,14,自回归移动平均模型（续）,ARMA(p,q),模型,AR(p),和,MA(q),都是,ARMA(p,q),的特例,若,q=0,，则,ARMA(p,q),AR(p),若,p=0,，则,ARMA(p,q),MA(q),引入滞后算子,B,，模型,(4),可简写为,ARMA,过程平稳的条件,滞后多项式 的根均在单位圆外,ARMA,过程可逆的条件,滞后多项式 的根都在单位圆外,15,第二节 随机时序的特性分析,时序特性的研究工具,时序特性分析,16,时序特性的研究工具,自相关,构成时序的每个序列值,y,t,y,t-1,y,t-k,之间的简单相关关系称为自相关,自相关程度由自相关系数,r,k,度量,表示时序中相隔,k,期的观测值之间的相关程度,其中，,n,是样本量；,k,为滞后期；代表样本数据的算术平均值,，且,|,r,k,|,越接近,1,，自相关程度越高,17,时序特性的研究工具（续,1,）,偏自相关,指对于时序,y,t,，在给定,y,t-1,y,t-k+1,的条件下，,y,t,与,y,t-k,之间的条件相关关系,相关程度用偏自相关系数度量,其中，,r,k,是滞后,k,期的自相关系数,18,时序特性的研究工具（续,2,）,自,(,偏自,),相关分析图,实际应用中，应综合考察序列的自相关与偏自相关,将时序的自,(,偏自,),相关系数绘制成图，并标出一定的随机区间，称为自,(,偏自,),相关分析图,是对时序进行自,(,偏自,),相关分析的主要工具,19,时序特性的研究工具（续,3,）,操作,最大滞后阶数,k,的选择,一般，,k,取,n,/10,或,n,/4,考察季节数据时，取季节周期长度的整数倍,输出结果,左半部分是序列的自相关和偏自相关分析图,右半部分包括五列数据,第一列的自然数表示滞后期,k,AC,是自相关系数，,PAC,是偏自相关系数,最后两列是对序列进行独立性检验的,Q,统计量和相伴概率,20,时序特性分析,随机性,概念,若时序是纯随机的，意味着序列没有任何规律性，序列诸项之间不存在相关，即序列为白噪声序列,其自相关系数应该与,0,没有显著差异,判断方法,利用自相关分析图，其中给出了显著性水平,=0.05,时的置信带,自相关系数落入置信区间内表示与,0,无显著差异,若几乎所有自相关系数都落入随机区间，可认为序列是纯随机的,21,时序特性分析（续,1,）,平稳性,概念,若时序,y,t,满足,对任意时间,t,，其均值恒为常数,对任意时间,t,和,s,，其自相关系数只与时间间隔,t-s,有关，而与,t,和,s,的起始点无关,则该时序称为平稳时序,直观的讲,平稳时序的各观测值围绕其均值上下波动,且该均值与时间,t,无关，振幅变化不剧烈,判断方法,若序列的自相关系数很快的,(,滞后阶数,k,大于,2,或,3,时,),趋于,0,，即落入随机区间，则时序是平稳的,22,时序特性分析（续,2,）,季节性,概念,指在某一固定的时间间隔上，序列重复出现某种特性,一般的，月度资料的时序，其季节周期为,12,个月；季度资料的时序，其季节周期为,4,个季度,判断标准,月度数据，考察,k=12,24,36,时的自相关系数是否与,0,有显著差异,季度数据，考察,k=4,8,12,时的自相关系数是否与,0,有显著差异,23,时序特性分析（续,3,）,注意,只有平稳时序才能建立,ARMA,模型,否则必须经过适当处理使序列满足平稳性要求,若原序列,y,t,非平稳，经过,d,阶逐期差分后平稳，则新序列,z,t,称为齐次,(homogeneous),序列，记为,平稳序列,z,t,可建立,ARMA,模型，原序列,y,t,可表示为,ARIMA(p,d,q),模型,24,时序特性分析（续,4,）,注意（续）,差分法并非万能的，且存在明显的缺点,存在很多时序不能通过差分而平稳,差分虽能消除某些序列的趋势而易于建模，但同时也消除了原序列的长期特征，会丢失某些信息,实际的经济时序差分阶数,d,一般不超过,2,季节性和趋势同时存在时,必须事先剔除序列趋势性再识别序列的季节性,否则季节性会被强趋势性所掩盖，以至判断错误,25,时序特性分析（续,5,）,例,7-1,下表中，序列,z,t,表示,1994,年,1,月至,1998,年,12,月经居民消费价格指数调整的中国城镇居民可支配收入时间序列。用自相关分析图识别序列的季节性,为减小序列波动，对序列,z,t,作自然对数变换，记新序列为,lz,t,26,时序特性分析（续,6,）,作序列,lz,t,的折线图,由图可知，,1994-1998,年我国城镇居民人均可支配收入水平总体呈上升趋势，且每年二月的观测值都远大于相临月份，表现出明显的季节波动,27,时序特性分析（续,7,）,绘制序列,lz,t,的自相关分析图,由图可知，序列的自相关系数没有很快趋于,0,，说明序列是非平稳的,正好与折线图显示的上升趋势一致,则由自相关图很难看出序列是否具有季节性，需对原序列进行逐期差分，以消除趋势,经过差分的新序列为,dlz,t,28,时序特性分析（续,8,）,绘制序列,dlz,t,的自相关分析图,与上图相比，经过一阶逐期差分的序列趋势已基本消除,但滞后期,k=12,时序列自相关系数是,0.597,，大大超出了随机区间的范围，与,0,有显著差异,表明序列有周期为,12,个月的季节波动,29,时序特性分析（续,9,）,一般的,包含季节性的时序也不能直接建立,ARMA,模型，需进行季节差分消除序列的季节性，差分步长应与季节周期一致,上例中，对,dlz,t,进行一阶季节差分可表示为,若序列,y,t,经过,D,阶周期长度为,s,的差分，季节性基本消除，新序列,w,t,可表示为,30,时序特性分析（续,10,）,ARIMA(p,d,q)(P,D,Q),s,模型,若序列在季节差分之前还进行了,d,阶的逐期差分才平稳，则可对原序列建立,ARIMA(p,d,q)(P,D,Q),s,模型,其中，,P,是季节自回归阶数，,Q,是季节移动平均阶数，且分别称 和 为季节,P,阶自回归算子和,Q,阶移动平均算子,非季节,AR(p),季节,AR(P),d,阶逐期差分,D,阶季节差分,非季节,MA(q),季节,MA(Q),31,时序特性分析（续,11,）,例,7-2,续例,7-1,，绘制一阶逐期差分和一阶季节差分后的城镇居民人均可支配收入序列,sdlz,t,的自相关分析图,32,第三节 模型的识别与建立,自相关函数与偏自相关函数,模型的识别,模型的参数估计,模型的检验,33,自相关函数与偏自相关函数,MA(q),的自相关与偏自相关函数,模型,自相关函数的截尾性,自相关函数的截尾性,序列的自相关函数,k,在,kq,以后全部是,0,有利于识别移动平均过程的阶数,q,偏自相关函数的拖尾性,序列的偏自相关函数随着滞后期,k,的增加，呈现指数或者正弦波衰减，趋向于,0,34,自相关函数与偏自相关函数（续,1,）,AR(p),的自相关与偏自相关函数,模型,偏自相关函数的截尾性,序列的偏自相关函数,kk,是,p,步截尾的，即当,kp,时，,kk,的值是,0,有利于识别自回归模型和确定阶数,p,自相关函数的拖尾性,序列的自相关函数呈现指数或者正弦波衰减,35,自相关函数与偏自相关函数（续,2,）,ARMA(p,q),的自相关和偏自相关函数,较为复杂,可证明，它们均是拖尾的,36,模型的识别,例,7-3,序列,p,t,是某国,1960-1993,年,GNP,平减指数的季度时间序列，要求对平稳序列,iilp,t,(),进行模型识别,将序列命名为,p,对序列取对数后进行逐期差分，新序列命名为,iilp,，即,37,模型的识别（续,1,）,绘制序列,iilp,的线图,由上图可知，序列基本已平稳，且均值为,0,38,模型的识别（续,2,）,绘制序列,iilp,的自相关,(,偏自相关,),分析图,由图可知,偏自相关系数在,k=2,后很快趋于,0,，则取,p=2,自相关系数在,k=3,时似乎也与,0,有显著差异，可考虑,q=1,或,q=2,则序列,iilp,可建立,ARMA(2,1),或,ARMA(2,2),模型,39,模型的参数估计,参数估计,采用非线性方法,MA,模型的参数估计相对困难,尽量避免使用高阶的移动平均模型,或包含高阶移动平均项的,ARMA,模型,40,模型的参数估计（续,1,）,例,7-4,续例,7-3,，对序列,iilp,t,建立,ARMA(2,1),和,ARMA(2,2),模型,可利用窗口菜单或命令方式建立模型,ar(i)(i=1,2,),代表模型中的自回归部分,ma(j)(j=1,2,),代表模型中的移动平均部分,选择模型的重要标准,对参数,t,检验显著性水平的要求不像回归方程中那么严格，更多的是考虑模型整体拟合效果,则调整后的决定系数、,AIC,和,SC,准则都是选择模型的重要标准,41,模型的参数估计（续,2,）,建立模型,ARMA(2,1),模型,滞后多项式的倒数根落入单位圆内，满足过程平稳的基本要求,调整后的决定系数为,0.387795,AIC,和,SC,值分别为,-7.769828,和,-7.704310,ARMA(2,2),模型,滞后多项式的倒数根落入单位圆内，满足过程平稳的基本要求,调整后的决定系数为,0.384768,，小于上模型,AIC,和,SC,值分别为,-7.7575,和,-7.6702,，大于上模型,则可以认为,ARMA(2,1),模型更合适,42,模型的检验,残差序列,e,t,的白噪声检验,残差序列不是白噪声序列,意味着残差序列还存在有用信息没被提取，需要进一步改进模型,一般侧重于检验残差序列的随机性,滞后期,k,1,，残差序列的样本自相关系数应近似为,0,43,模型的检验（续,1,）,检验方法,残差序列的,2,检验,零假设,H,0,：残差序列,e,t,相互独立,残差序列的自相关函数,其中，,n,是计算,r,k,的序列观测量，,m,是最大滞后期,若观测量较多，,m,可取,n/10,或,若样本量较小，则,m,一般取,n/4,44,模型的检验（续,2,）,检验方法,残差序列的,2,检验（续）,当 时，,检验统计量,在零假设下，,Q,服从 分布,45,模型的检验（续,3,）,例,7-5,续例,7-4,，对,ARMA(2,1),模型的残差序列进行检验,该残差序列的样本,n,为,132,，最大滞后期可取,132/10,=,13,或,从,k=13,一行或,k=11,一行找到检验统计量,Q,值为,8.7502,或,7.9992,，检验的,p,值大于显著性水平,(,0.05,或,0.01,),则不能拒绝序列相互独立的原假设，检验通过,表明序列是纯随机的,46,第四节 模型的预测,预测值的计算,预测实例,47,预测值的计算,L,步预测,B-J,方法采用,L,步预测,即根据已知,n,个时刻的序列观测值,y,1,y,2,y,n,，对未来的,n+L,个时刻的序列值做出估计,常用的方法：线性最小方差预测,主要思想是使预测误差的方差达到最小,令 表示用模型做的,L,步平稳线性最小方差预测,预测误差,并使下式达到最小,48,预测值的计算（续,1,）,AR(p),序列的预测,模型 的,L,步预测值为,其中,49,预测值的计算（续,2,）,MA(q),序列的预测,对模型,当,Lq,时,即所有白噪声的时刻都大于,n,，则与历史取值无关,当,L,q,时，各步预测值可写成矩阵形式,递推时，初值 取值为,0,50,预测实例,例,7-6,下表是我国,1990,年,1,月至,1997,年,12,月工业总产值的月度资料,(1990,年不变价格,),，记作,y,t,，共有,96,个观测值，对序列,y,t,建立,ARMA,模型,51,预测实例（续,1,）,时序特征分析,绘制序列,y,t,的线图,序列具有明显的增长趋势，并包含周期为,12,个月的季节波动,52,预测实例（续,2,）,时序特征分析（,续,1,）,绘制序列,y,t,的自相关与偏自相关图,由图可知，序列是非平稳的,对原序列做一阶自然对数逐期差分,目的在于消除趋势，同时减小序列的波动,差分后的序列为,ily,t,绘制序列的自相关与偏自相关图,由图可知，序列的趋势基本消除，但当,k=12,时，样本的自相关系数和偏自相关系数显著不为,0,，表明存在季节性,53,预测实例（续,3,）,时序特征分析（,续,2,）,对序列,ily,t,做季节差分，得到新序列,sily,t,绘制序列的自相关与偏自相关图,序列的趋势已基本消除，但在,k=12,时取值仍较大，即季节性依然比较明显,尝试对序列进行二阶季节差分，但序列的季节性未得到明显改善，则只做一阶季节差分即可,为检验模型的预测效果，将,1997,年,12,个观测值留出，作为评价预测精度的参照对象,建模的样本期：,1990.01-1996.12,54,预测实例（续,4,）,模型的识别,选用,ARIMA(p,d,q)(P,D,Q),s,经过一阶逐期差分，序列趋势消除，则,d=1,经过一阶季节差分，季节性基本消除，则,D=1,观察序列,sily,t,的自相关与偏自相关图,偏自相关图显示，,p=2,或,p=3,较为合适,自相关图显示，,q=1,较为合适,AR,模型是线性方程估计，相对于,MA,和,ARMA,模型的非线性估计容易，且参数意义便于解释则实际建模时常希望用高阶的,AR,模型替换相应的,MA,或,ARMA,模型,本例可供选择的,(p,q),组合：,(3,1),、,(4,0),、,(2,1),和,(3,0),55,预测实例（续,5,）,模型的建立,差分算子,表示对序列,y,做,n,次一阶逐期差分和一次步长为,s,的季节差分后的新序列,本例可将序列,sily,t,记为,分别建立以下模型,ARIMA(3,1,1)(1,1,1),12,ARIMA(4,1,0)(1,1,1),12,ARIMA(2,1,1)(1,1,1),12,ARIMA(3,1,0)(1,1,1),12,56,预测实例（续,6,）,模型的选择与评价,各个模型的参数估计结果如下,(p,q),1,2,3,4,1,1,2,(3,1),-0.2585,-0.2543,-0.3413,-0.0994,-0.0486,-0.8775,(4,0),-0.3792,-0.2918,-0.3625,-0.0079,-0.0131,-0.8847,(2,1),-0.0848,-0.1927,-0.1823,-0.0670,-0.8415,(3,0),-0.3743,-0.2736,-0.3513,0.0052,-0.8804,57,预测实例（续,7,）,模型的选择与评价（续,1,）,各个模型的检验结果如下,(p,q),Adjusted R,2,AIC,SC,p-Q,MAPE,(3,1),0.5320,-3.17,-2.95,0.802,9.15,(4,0),0.5374,-3.16,-2.94,0.972,9.97,(2,1),0.4829,-3.10,-2.92,0.128,10.25,(3,0),0.5321,-3.18,-3.00,0.926,9.67,58,预测实例（续,8,）,模型的选择与评价（续,2,）,经计算，四个模型都满足,ARMA,过程的平稳条件及可逆条件，模型设定合理,残差序列白噪声检验的相伴概率,(p-Q)(,k=11,),显示，各模型残差都满足独立性假设,比较检验结果,第四个模型的,AIC,和,SC,值较小，试预测的,MAPE,值略高于第一个模型，但仍显示其预测精度较高，调整后的样本决定系数略低于第二个模型,预测模型应力求简洁、有效，因而选择第四个模型,ARIMA(3,1,0)(1,1,1),12,较为适合，展开式为,59,预测实例（续,9,）,预测,利用,ARIMA(3,1,0)(1,1,1),12,模型对我国,1998,年工业总产值进行预测，结果如下,98.01-04,4277.955,3801.483,5062.936,5193.718,98.05-08,5408.571,5647.650,4879.016,4939.830,98.09-12,5237.009,5371.510,5679.616,6320.593,60,第五节 序列相关与,ARMA,模型,序列相关理论与检验,残差序列的,ARMA,模型,61,序列相关理论与检验,残差序列自相关,在时间序列的回归模型中很常见,模型形式,其中，,X,t,是,t,时刻所观测的解释变量向量；,u,t,为随机扰动项，称为非条件残差；,t,为改进的随即扰动项，称为一期提前,(one-period-ahead),预测误差；,z,t-1,是前期已知变量向量，可包括,u,和,的滞后项；,和,为参数向量,一般的,当非条件残差,u,t,存在自相关时，通过,(6),式能得到显著改善，使一期提前误差成为白噪声序列,62,序列相关理论与检验（续,1,）,检验,相关图与,Q,统计量,即前述的残差序列独立性检验,当序列任意滞后期的自相关和偏自相关系数与,0,无显著差异，即,Q,统计量与,0,无显著差异时，残差序列诸项之间是独立的,否则存在自相关,63,序列相关理论与检验（续,2,）,检验,LM,检验,与,DW,检验的区别,LM(Lagrange Multiplier),检验可对包含,ARMA,误差项的模型残差序列进行高阶的自相关检验,且允许存在因变量的滞后项,检验假设,H,0,：残差序列不存在小,(,等,),于,p,阶的自相关,H,1,：存在,ARMA(r,q),形式的误差项,其中，,64,序列相关理论与检验（续,3,）,检验,LM,检验（续）,对,(5),式中的非条件残差建立辅助回归方程,Breusch-Godfrey,利用上式的决定系数,R,2,构造了,LM,检验统计量,LM=nR,2,其中，,n,是计算辅助回归时的样本数据个数,在零假设下，,LM,统计量有渐进的,分布,65,序列相关理论与检验（续,4,）,例,7-7,续例,7-4,，对模型,ARMA(2,1),的残差进行,LM,检验,模型的残差二阶自相关检验结果如下,(,p=2,),其中，第一行的,F,统计量在有限样本情况下的精确分布未知，其结果一般作为参考；第二行,Obs*R-squared,后的数值是,LM,统计量值及其检验的相伴概率,LM,检验的,p,值,0.87,大于显著性水平,0.05,，则不能拒绝原假设，即残差项不存在小于或等于二阶自相关,F-statistic 0.149590 Probability0.861212,Obs*R-squared0.270861 Probability0.873340,66,残差序列的,ARMA,模型,模型的建立,若对某个线性回归模型残差序列进行,LM,检验，发现序列存在自相关，可考虑对残差序列建立,ARMA,模型,若非条件残差包含季节性，应考虑引入季节自回归和移动平均项,模型的形式、定阶、参数估计、检验及预测都可利用前述方法，只是处理对象为序列,u,t,对于非线性回归模型，只能采用,AR(p),形式对非条件残差建模,不能包含季节自回归与移动平均项,67,残差序列的,ARMA,模型（续,1,）,模型的基本形式,AR(p),MA(q),ARMA(p,q),68,残差序列的,ARMA,模型（续,2,）,例,7-8,续例,3-3,已知,1950-1981,年间美国机动车汽油消费量和影响消费量的变量数值，其中,QMG-,机动车汽油消费量（单位：千加仑）,CAR-,汽车保有量,PMG-,机动车汽油零售价格,POP-,人口数,RGNP-,按,1982,年美元计算的,GNP,（单位：十亿美元）,PGNP-GNP,指数（,1982,年为,100,）,69,残差序列的,ARMA,模型（续,3,）,建立回归模型,(,模型,1),经过尝试，建立的回归模型如下,对模型的残差进行,LM,检验，结果如下,即残差项存在二阶自相关,F-statistic13.25588 Probability0.000107,Obs*R-squared16.15593 Probability0.000310,70,残差序列的,ARMA,模型（续,4,）,对残差项建立,ARMA,模型,(,模型,2),经尝试，可对残差项建立,AR(1),模型,对模型的残差进行,LM,检验，结果如下,即残差序列已不存在二阶自相关,F-statistic0.714240Probability0.499678,Obs*R-squared1.741468Probability0.418644,71,残差序列的,ARMA,模型（续,5,）,比较两个模型的评价结果,由上表可知，模型,2,的各个评价指标均优于模型,1,模型,Adjusted R,2,AIC,SC,MAPE,模型,1,0.9916,32.02,32.20,2.48,模型,2,0.9962,31.19,31.42,1.88,