最小二乘估计量.pptx

2.2 2.2 最小二乘估计量的性质最小二乘估计量的性质 一、最小二乘估计量的性质一、最小二乘估计量的性质二、参数估计量的概率分布及随机干二、参数估计量的概率分布及随机干扰项方差的估计扰项方差的估计 一、最小二乘估计量的性质一、最小二乘估计量的性质 当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。一个用于考察总体的估计量，可从如下几个方面考察其优劣性：（1）线性性）线性性，即它是否是另一随机变量的线性函数；（2）无偏性）无偏性，即它的均值或期望值是否等于总体的真实值；（3）有效性）有效性，即它是否在所有线性无偏估计量中具有最小方差。（4）渐渐近近无无偏偏性性，即样本容量趋于无穷大时，是否它的均值序列趋于总体真值；（5）一一致致性性，即样本容量趋于无穷大时，它是否依概率收敛于总体的真值；（6）渐渐近近有有效效性性，即样本容量趋于无穷大时，是否它在所有的一致估计量中具有最小的渐近方差。这三个准则也称作估计量的小样本性质。小样本性质。拥有这类性质的估计量称为最佳线性无偏估计最佳线性无偏估计量量（best liner unbiased estimator,BLUE）。当不满足小样本性质时，需进一步考察估计量的大样本大样本或或渐近性质渐近性质：高斯高斯马尔可夫定理马尔可夫定理(Gauss-Markov theorem)在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的线性无偏估计量。证：证：易知故同样地，容易得出（2）证明最小方差性其中，ci=ki+di，di为不全为零的常数则容易证明 普通最小二乘估计量普通最小二乘估计量（ordinary least Squares Estimators）称为最佳线性无偏估计量最佳线性无偏估计量（best linear unbiased estimator,BLUE）二、参数估计量的概率分布及随机干扰二、参数估计量的概率分布及随机干扰项方差的估计项方差的估计 2、随机误差项、随机误差项 的方差的方差 2的估计的估计 由于随机项 i不可观测，只能从 i的估计残差ei i出发，对总体方差进行估计。2又称为总体方差总体方差。可以证明可以证明，2的最小二乘估计量最小二乘估计量为