第七讲多元线性回归(一).doc

第七讲 多元线性回归（一）
一、多元线性回归模型的矩阵表示
设Y为应变量，为k个不同用来说明Y的被称为解释变量的变量，其中恒等于1，则下式所表示的模型为多元线性回归模型。

其中，为随机扰动项；固定参数,,…, 称为(总体)回归系数或偏回归系数。若令
， ， ，
则可用如下矩阵形式表示多元线性回归模型：

二、多元线性回归模型的基本假设
假设1 随机扰动项的数学期望(均值)为零。即

假设1意味着

上为线性回归模型的总体回归函数或总体回归方程。
假设2 随机扰动项的方差相等，并且跨期扰动项不相关。即

用I表示单位矩阵，则假设2即为

这里的假设2就是第二章的假设2与假设3的综合，即同方差性与序列无关性的综合。
假设3 随机扰动项和解释变量X不相关，即中不含解释变量X的任何信息。用数学式子可表示为

假设4 X是秩为k的矩阵。它要求X的各列线性无关，或者说解释变量之间不存在多重共线性。所谓多重共线性是指解释变量之间存在完全或近乎完全的线性相关。
假设5 随机扰动项为服从正态分布的随机向量，即

假设6 解释变量X有足够多的变异。
三、 多元线性回归模型的参数估计
设与总体回归模型对应的样本回归模型为

或用矩阵表示为

其中表示总体回归系数向量的最小二乘估计，表示残差向量。
使残差平方和最小的回归系数的估计称为最小二乘估计(LSE或OLS)。即使

最小的。其中是的转置。下面推导最小二乘估计的表达式或计算公式。
将看成是的函数，则其关于的一阶偏导数必须为零，即

据此得到正规方程

若是非奇异的(假设6可保证)，则

可证上式即为使残差平方和最小的估计量。为证是使残差平方和最小的最小值点只需证其二阶偏导数矩阵是正定的即可。事实上，

对任意一非零向量c，令，则。除非v的每一元素都为零，否则是正的。但若v=0的话，则必是奇异的(因为c是非零向量)，这与的非奇异假定相矛盾，所以一定是正定的。

例 下表苹果销量、价格和广告支出的数据表。设苹果销量不仅与的价格(元/千克)有关，而且与相应的广告支出有关。用表示价格，表示广告支出(元)，Y表示需求量(千克)，设在任意价格水平上超市有满足任意需求的能力。那么，这表中的数据就是需求函数的表现。若假设需求量平均来看是价格和广告支出的线性函数。试估计该需求函数。

销售量(千克)
价格(元/千克)
广告支出(元/千克)
55
10
0.55
70
9
0.63
90
8
0.72
100
7
0.7
90
7
0.63
105
7
0.735
80
7
0.56
110
6.5
0.715
125
6
0.75
115
6
0.69
130
5.5
0.715
130
5
0.65
解 设需求量关于价格和广告支出的线性回归模型为

令恒等于1，则

=
所以

故样本回归模型为

上式初步说明在价格水平不变的条件下广告有较大的边际效应。

6