资源描述
三、多重共线性的检验
(一) 相关系数检验
利用相关系数可以分析解释变量之间的两两相关情况。在EViews软件中可以直接计算(解释)变量的相关系数矩阵:
[命令方式]COR 解释变量名
[菜单方式]将所有解释变量设置成一个数组,并在数组窗口中点击View\Correlations.
(二) 辅助回归模型检验
相关系数只能判断解释变量之间的两两相关情况,当模型的解释变量个数多于两下、并且呈现出较为复杂的相关关系时,可以通过每个解释变量对其他解释变量的辅助回归模型来检验多重共线性,即依次建立个辅助回归模型:
如果,其中某些方程显著,则表明存在多重共线性,所对应的变量可以近似地用其他解释变量线性表示。
辅助回归模型检验不仅能检验多元回归模型的多重共线性,而且可以得到多重共线性的具体形式;如果再结合偏相关关系检验,还能进一步判定是哪些解释变量引起了多重共线性,这有助于分析如何消除多重共线性的影响。
(三) 方差膨胀因子检验
对于多元线性回归模型,的方差可以表示成:
其中,关于其他解释变量辅助回归模型的判定系数,为方差膨胀因子。随着多重共线性程度的增强,VIF以及系数估计误差都在增大。因此,可以用VIF作为衡量多重共线性的一个指标;一般当时,(此时),认为模型存在较严重的多重共线性。
另一个与VIF等价的指标是“容许度”(Tolerance),其定义为:
显然,,当与其他解释变量高度相关时,。因此,一般当时,认为模型存在较严重的多重共线性。
(四) 特征值检验
考察解释变量的样本数据矩阵
当模型存在完全多重共线性时,;而当模型存在严重的多重共线性时,。根据矩阵知识,若为矩阵个特征值,则有:
这表明特征值中至少有一个近似地等于零。因此,可以利用的特征值来检验模型的多重共线性。实际计算时,先对样本数据做标准化处理,这样矩阵转化成解释变量的相关系数矩阵,特征值也减少到个。
利用特征值还可以构造两个用于检验多重共线性的指标:病态数Condition Number)和病态指数(Condition Index);其指标定义为:
=最大特征值/最小特征值
这两个指标都反映了特征值的离散程度,数值越大,表明多重共线性越严重。一般当时,认为存在严重的多重共线性。
四、多重共线性的解决方法
设定计量经济模型的时候,为了全面反映各方面因素的影响,总是在理论和实践认识的基础上,尽量选取被解释变量的所有影响因素。这样在同时考虑多个影响因素的情况下,很可能产生多重共线性问题。在处理多重共线性之前,首先应该明确以下两点:
第一, 多重共线性的主要后果是无法区分每个解释变量的单独影响,因此,如果建立模型的目的是进行预测,只要模型的拟合优度较高(即能正确反映所有解释变量的总影响),并且解释变量的相关类型在预测期内保持不变,则可以忽略多重共线性的问题。但是,如果是应用模型进行结构分析或政策评价,即利用系数分析、比较各个解释变量的单独影响,则需要消除多重共线性的影响。
第二, 引起多重共线性的原因是模型中存在相关的解释变量,所以消除多重共线性的根本方法只能是从模型中剔除这些变量。但直接剔除变量可能会产生新的问题:(1)模型的经济意义不合理;例如,生产函数中资金与劳动者人数通常是高度相关的,但从中剔除任何一个要素都不太合适。(2)如果剔除的是重要解释变量。则这些变量的影响将反映在随机误差项中,使模型产生异方差性或自相关性。(3)若剔除不当还会产生设定误差的问题,造成参数估计严重有偏。因此,为了解决这一矛盾,剔除变量时应该全面、慎重考虑,根据解释变量的特点分别采用直接剔除和间接剔除两种方式。
(一) 直接剔除次要或可替代的变量
根据经济理论和实际经验设定计量经济模型时容易考虑过多的解释变量,其中有些可能是无显著影响的次要变量,还有一些变量的影响可以用模型中的其他变量来代替。所以在估计模型之前,为避免多重共线性的影响,应该从模型中先剔除这些变量。次要变量可以通过被解释变量与解释变量的相关系数检验、相关图分析等统计分析加以鉴别;利用辅助回归模型和特征值检验多重共线性时,又可以提供解释变量之间相互替代性的信息。
(二) 间接剔除重要的解释变量
对于有重要影响的解释变量,可以通过以下方式将其“间接剔除”:
1、 利用附加信息
例如,著名的Cobb_Douglas生产函数中
劳动投入量L与资金投入量K之间通常是高度相关的,如果已知附加信息:
(规模报酬不变)
则
或
记
则C-D生产函数可以表示成:
此时二元模型转化成一元模型,当然不存在多重共线性的问题,可以利用OLS法估计,进而得到。
又如,设工业能源需求函数为:
其中,分别为重、轻工业总产值,利用此模型不仅能反映工业经济增长对能源的需求情况,而且可以反映工业结构变化对能源需求的影响。但是重、轻工业发展的共向性,很可能使模型产生多重共线性。由于分别是重、轻工业的单位能耗,如果根据历史统计资料测得重工业的单位能耗(平均来说)是轻工业单位能耗的,即获得以下附加信息:
则工业能源需求函数可以表示成:
其中,,模型转化成一元模型,估计出之后,又得到,从而在消除多重共线性影响的情况下得到工业能源需求函数:
2、 变换模型的形式
对原设定的模型进行适当的变换,也可以消除或削弱原模型中解释变量之间的相关关系。具体有三种变换方式,一是变换模型的函数形式,如将线性模型转换成双对数模型、半对数模型、多项式模型等;二是变换模型的变量形式,如引入差分变量、相对数变量等;三是改变变量的统计指标,如将生产过程中的资金投入量取成固定资金或流动资金(或两者之和),劳动投入量取成职工人数或工资总额,经济增长指标取成GDP、GNP、国民收入等。
再如,投资函数:
也可以变换成:
即以收入和收入增长来解释投资的增长情况。
3、 综合使用时序数据与横截面数据
如果能同时获得变量的时序数据和横截面数据,则先利用某类数据估计出模型中的部分参数,再利用另一类数据估计模型的其余参数。
例如,设某类商品的需求函数为:
其中, 为商品需求量,分别为居民收入和该商品价格,并且已知在时序样本数据中高度相关。为此分以下二步完成:
(1) 收集最近一年该商品的销售量和居民收入的统计资料(横截面数据),由于商品价格在一年中的变化幅度不大,所以将需求函数取成:
利用横截面资料估计该模型,得到需求的收入弹性。
(2) 原需求函数中的也是需求的收入弹性,所以(此时实际上假设历年的平均收入弹性与近期的收入弹性近似相等),将原模型变换成:
其中,。再利用历年商品销售量、居民收入和价格的统计资料(时序数据)估计模型,得到,从而在消除多重共线性影响的情况下,估计出需求函数:
从上述三种方法的处理过程可以看出,最终还是通过减少模型中解释变量个数的方式(即剔除引起多重共线性的变量)来消除多重共线性的影响,但并不是直接剔除有重要影响的解释变量,模型中还是保留了这些变量的影响,所以称之为“间接剔除)。
(三) 逐步回归
建立计量经济模型的时候,一般是将解释变量全部引入模型,然后再根据统计检验和定性分析从中逐个剔除次要的或产生多重共线性的变量,选择变量是一个“由多到少”的过程。而逐步回归选择变量时,却是一个“由少到多”的过程,即从所有解释变量中间先选择影响最为显著的变量建立模型,然后再将模型之外的变量逐个引入模型;每引入一个变量,就对模型中的所有变量进行一次显著性检验,并从中剔除不显著的变量,逐步引入——剔除——引入,直到模型之外所有变量均不显著时为止。许多统计分析软件都有逐步回归程序,但根据计算机软件自动挑选的模型往往统计检验合理,经济意义并不理想。因此,实际应用中一般是依据逐步回归的原理,结合主观分析来筛选变量。具体步骤为:
(1) 利用相关系数从所有解释变量中选取相关性最强的变量建立一元回归模型。
(2) 在一元回归模型中分别引入第二个变量,共建立个二元回归模型(设共有个解释变量),从这些模型中再选取一个较优的模型。选择时要求:模型中每个解释变量影响显著,参数符号正确,值有所提高。
(3) 在选取的二元回归模型中以同样方式引入第三个变量;如此下去,直到无法引入新的变量时为止。
[例5]服装需求函数。根据理论和经验分析,影响居民服装需求的主要因素有:可支配收入X、流动资产拥有量K、服装类价格指数P1和总物价指数P0。表3-4给出了有关统计资料。
表3-4 服装需求函数有关统计资料
年份
服装需求
可支配
收入X
流动资产
拥有量K
服装类价
格指数P1
总物价
指数P0
1979
1980
1981
1982
1983
1984
1985
1986
1987
1988
8.4
9.6
10.4
11.4
12.2
14.2
15.8
17.9
19.3
20.8
82.9
88.0
99.9
105.3
117.7
131.0
148.0
161.8
174.2
184.7
17.1
21.3
25.1
29.0
34.0
40.0
44.0
49.0
51.0
53.0
92
93
96
94
100
101
105
112
112
112
94
96
97
97
100
101
104
109
111
111
设服装需求函数为:
(1) 相关系数检验
键入:COR Y X K P0 P1
输出的相关系数矩阵为:
Y
X
K
P0
X
K
P0
P1
0.9977
0.9834
0.9887
0.9755
0.9883
0.9877
0.9804
0.9695
0.9700
0.9918
可见每个因素都与服装需求高度相关,而且解释变量之间也是高度相关的。现按照逐步回归原理建立模型。
(2) 建立一元回归模型
根据理论分析,可支配收入应该是服装需求最主要的影响因素;相关系数检验也表明,收入与服装需求的相关性最强。所以以作为最基本的模型。
(3) 将其余变量逐个引入模型,估计结果列入表3-5(其中括号里的数字为统计量值)。
X
P1
P0
K
0.1179
0.9950
0.9956
0.1262
(8.57)
-0.0378
(-0.57)
0.9946
0.9958
0.1030
(5.67)
0.0857
(0.83)
0.9948
0.9960
0.1315
(7.03)
-0.0388
(-0.74)
0.9947
0.9959
0.1042
(7.55)
-0.1866
(-2.47)
0.3132
(2.59)
0.9970
0.9980
0.0978
(3.71)
-0.1972
(2.24)
0.3401
(-2.20)
0.0144
(0.30)
0.9965
0.9980
从表3-5的估计结果可以看出,在基本模型中引入P1之后,的符号正确,但P1的检验不显著,同时拟合优度提高不多,反而下降,同理再分别引入其他两个解释变量,引入的变量都不显著,但相对来说,模型的拟合优度最高,所以再将该模型作为基本模型,逐步引入其他变量。引入P1之后,模型中各个系数的符号合理,解释变量的t检验也都是显著的,并且拟合优度都有所提高。在此基础上再引入K,其检验不显著,为多余变量。
经过以上的逐步引入——检验过程,最终确定服装需求函数为:
从本例的讨论过程可以看出:
(1)模型中引入相关性较强的解释变量,会影响系数的估计值和检验值,这正是多重共线性的主要影响。
(2) 在模型中增添解释变量,不论其影响是否显著都会使的值上升;但的值却不一定增加,增添不显著的解释变量甚至可能会使的值下降。所以比较不同模型的拟合优度时,取比较合理。
另外,该需求模型还存在两个问题,一是DW值接近于4,可能存在自相关性;二是样本容量太小,却要考虑引入4个解释变量,样本的自由度只有;所以模型的估计结果可能并不可靠,过高的拟合优度也可能提供的是虚假信息。本例只是为了说明多重共线性的处理过程,实际应用中只有在样本容量较大的情况下,才能考虑引入多个解释变量。
(四) 主成分回归
主成分回归(Principal Components Regression,简称PCR)是根据多元统计分析中的主成分分析原理、用于处理多重共线性模型的一种新的参数估计方法。其基本原理是:利用主成分分析将解释变量转换成若干个主成分,这些主成分从不同侧面反映了解释变量的综合影响,并且互不相关。因此,可以将被解释变量关于这些主成分进行回归,再根据主成分与解释变量之间的对应关系,求得原回归模型的估计方程。
主成分回归的具体步骤为:
(1) 对原始样本数据做标准化处理,这样矩阵即为解释变量的相关系数矩阵。
(2) 计算个特征值,以及相应的标准化特征向量。
(3) 利用特征值检验多重共线性。模型存在多重共线性时,至少有一个特征值近似地等于零,不妨设近似为零,这表明解释变量之间存在着个线性相关关系。
(4) 设解释变量(已标准化)个主成分为:
其中,互不相关,并且近似为零。将(标准化的)被解释变量关于个主成分进行回归,得:
(5) 根据主成分与解释变量之间的关系式(3-18),将其代入主成分回归方程(3-19)式,求得用标准化数据表示的的回归方程:
系数与原模型中参数之间的关系为:
其中,、分别为和的标准差;由此可以计算出原回归模型中的参数,进而得到:
[例6]中国民航客运量预测模型,为了研究我国民航客运量的变化趋势及其成因,经分析选择了以下解释变量:居民消费额(亿元)、政府消费额(亿元)、铁路客运量(万人)、来华旅游入境人数(万人)、民航航线里程(万公里),并取中国民航客运量(万人)作为被解释变量。有关统计资料列入表3-6。
表3-6 民航客运量及其影响因素的统计资料
年份
民航客
运量
居民消
费额
政府消
费额
铁路客
运量
来华旅
游人数
民航航
线里程
1978
1979
1980
1981
1982
1983
1984
1985
1986
1987
1988
1989
1990
1991
1992
1993
1994
1995
1996
1997
1998
231
298
343
401
445
391
554
747
997
1310
1442
1283
1660
2178
2886
3383
4038
5117
5555
5630
5755
1759.1
2005.4
2317.1
2604.1
2867.9
3182.5
3674.5
4589.0
5175.0
5961.2
7633.1
8523.5
9113.2
10315.9
12459.8
15682.4
20809.8
26944.5
32152.3
34854.6
36921.1
480
614
659
705
770
838
1020
1184
1367
1490
1727
2033
2252
2830
3492
4500
5986
6690
7852
8725
9485
81491
86389
92204
95300
99922
106044
113530
112110
108579
112479
122645
113807
95712
95080
99693
105458
108738
102745
94162
92578
93620
180.92
420.39
570.25
776.71
792.43
947.70
1285.22
1783.30
2281.95
2690.23
3169.48
2450.14
2746.20
3335.65
3311.50
4152.70
4368.45
4638.65
5112.75
5758.79
6347.84
14.89
16.00
19.53
21.82
23.27
22.91
26.02
27.72
32.43
38.91
37.38
47.19
50.68
55.91
83.66
96.08
104.56
112.90
116.65
142.50
150.58
(1) 多重共线性检验
由于选择的影响因素较多,所以估计模型之前,应该先分析各个因素与被解释变量之间的关系,以及因素之间的相关程度。利用SCAT命令观察了与各个解释变量的相关图之后,再用COR命令进行相关系数检验输出的相关系数矩阵为:
0.9862
0.9869 0.9969
-0.1199 -0.1567 -0.1569
0.9553 0.9377 0.9420 0.0779
0.9878 0.9778 0.9877 -0.1140 0.9569
计算结果表明,除铁路客运量之外 ,其他因素与民航客运量高度相关;而且解释变量之间也是两两高度相关的。
为了进一步检验解释变量之间的相关关系,利用SPSS软件计算出解释变量相关系数矩阵的特征值为:
此时,,即(标准化后的)样本数据矩阵是一个病态矩阵,而且病态(条件)数和病态指数分别为:
因此,模型存在严重的多重共线性。如果此时用OLS法估计模型,将得到以下估计结果:
模型中所有解释变量的检验均不显著,并且的系数符号不合理。
(2) 主成分回归
现采用主成分回归解决多重共线性问题。根据SPSS软件的计算结果,所对应主成分的累计贡献率(贡献率为:)达到98.77%;对应的标准化特征向量为:
所以两个主成分为:
其中,均为标准化后的解释变量。从主成分中各变量的系数值可以看出,第一主成分主要反映了的变化,即综合反映了与民航客运量正相关因素的影响;第二主成分主要反映了客运量的变化,即与民航客运量负相关因素的影响。
在SPSS软件中可以自动生成主成分的样本值(又称为样本得分值),将其转入EViews软件后,先对变量Y进行标准化处理:
再将标准化后的Y关于回归:
LS YZ Z1 Z2
估计之后,经检验模型还存在一阶和二阶自相关性,所以再加上AR(1),AR(2)项重新估计模型,得到以下估计结果:
值得注意的是,主要反映铁路客运量变化的第二主成分和检验不显著。结合前面的相关系数检验结果,的相关系数只有-0.1199,似乎应该将(以及)从模型中剔除。对此需要做进一步分析,目前我国乘坐火车、飞机外出旅行人员基本上属于两个相对独立的群体,几乎不存在此涨彼落的现象;但是随着我国经济水平的不断提高,两者之间肯定会相互影响。而且从表3-6的资料中也可以看出,由于受提价、铁路运输紧张等因素的影响,铁路客运量的发展过程是波动起伏的,这样在数据上就与一直稳步上升的民航客运量呈现出弱相关。另外,如果在主成分回归中只保留了,则其贡献率只有78.21%,不能充分反映各因素变化的影响。综合以上分析,模型中还是应该保留(以及)。
(3) 最终模型
将各主成分之间的关系代入主成分回归模型和:
此时模型中各变量为标准化变量。在EViews软件的数组窗口中利用描述统计命令可以得到各个变量的均值和标准差(见表3-7),现再利用公式(3-20)可以求得中国民航客运量的预测模型为:
将拟合预测值与实际值比较后得知,模型有很高的拟合优度,并且模型中各变量系数符号的经济意义合理。
表3-7 变量的均值与标准差
变量
均值
标准差
2125.91
11883.14
3080.90
101537.40
2720.06
59.20
1982.43
11535.83
2924.06
10359.13
1839.77
44.06
0.260471
0.261503
-0.047076
0.249567
0.260004
539.43
0.044762
0.177291
-0.009009
0.268918
11.698560
展开阅读全文