第五章参数的最小二乘法估计.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,误差理论与数据处理,第五章参数的最小二乘法估计,第五章 参数的最小二乘法估计,主要内容,1,最小二乘法原理,2,线性测量方程组中参数的最小二乘法,3,非线性测量方程组中参数的最小二乘法,4,组合测量,数学工具,关于最小二乘法,数据处理,参数估计,回归分析,算术平均值，依据使残差的平方和为最小的原则,组合测量的问题,拟合经验公式等,最小二乘法典型应用,最小二乘法发展,200多年的历史；,天文,和,大地,测量；,近代矩阵理论,与,电子计算机,经典的最小二乘法及其在组合测量的应用,深入的内容可参阅专门的书籍和文献,第一节最小二乘法原理,从一组测量值中寻找最可信赖值,测得值 同时出现的概率为,最可信赖值满足,最可信赖值；,P,为最大；式中负指数中因子达最小,微分法得最可信赖值,（,1,）最小绝对残差和法：,小结,从一组测量数据中求得最佳结果，还可使用其它原理。例如,最可信赖值是在残差平方和或加权残差平方和为最小的意义下求得的，称之为最小二乘法原理。,（,3,）最小广义极差法：,（,2,）最小最大残差法：,主要内容,最小二乘法原理,线性测量方程组中参数的最小二乘法,非线性测量方程组中参数的最小二乘法,组合测量,第二节线性参数的最小二乘法,先举一个实际遇到的测量问题，为精密测定三个电容值,:,采用的测量方案是，分别等权、独立测得,列出待解的数学模型。这是一个,组合测量,的问题。,第二节线性参数的最小二乘法,如为精密测定1号、2号和3号电容器的电容量,测得值,待解的数学模型,待求量,为了获得更可靠的结果，测量次数总要多于未知参数的数目,组合测量,，,指直接测量一组被测量的不同组合值，从它们相互所依赖的若干函数关系中，确定出各被测量的最佳估计值。,第二节线性参数的最小二乘法,这是一个超定方程组，即方程个数多于待求量个数，不存在唯一的确定解，事实上，考虑到测量有误差，记它们的测量误差分别为 ，按最小二乘法原理,第二节线性参数的最小二乘法,分别对 求偏导数，令它们等于零，得如下的确定性方程组。,(x,1,-0.3)+(x,1,+x,3,-0.5)=0,(x,2,+0.4)+(x,2,+x,3,+0.3)=0,(x,1,+x,3,-0.5)+(x,2,+x,3,+0.3)=0,x,1,=0.325,x,2,=-0.425,x,3,=0.150,可求出唯一解,第二节线性参数的最小二乘法,以下，一般地讨论线性参数测量方程组,的最小二乘解及其精度估计。,第二节线性参数的最小二乘法,第二节线性参数的最小二乘法,一、正规方程组,设线性测量方程组的一般形式为：,第二节线性参数的最小二乘法,即,式中，有,n,个直接测得值，,t,个待求量。,nt,各等权，无系统误差和粗大误差。,第二节线性参数的最小二乘法,第二节线性参数的最小二乘法,上式分别对 求偏导数，且令其等于零，,经推导得,应当满足,式中，分别为如下列向量,第二节线性参数的最小二乘法,第二节线性参数的最小二乘法,和,分别为如下两列向量的内积：,=,=,正规方程组有如下特点：,第二节线性参数的最小二乘法,测量方程组系数与正规方程组系数,第二节线性参数的最小二乘法,（,1,）主对角线系数是测量方程组各列系数的平方和，全为正数。,（,2,）其它系数关于主对角线对称,（,3,）方程个数等于待求量个数，有唯一解。,由此可见，线性测量方程组的最小二乘解,归结为对线性正规方程组的求解。,第二节线性参数的最小二乘法,二、正规方程组,的矩阵形式,第二节线性参数的最小二乘法,为了便于进一步讨论问题，下面借助矩阵,工具给出正规方程组的矩阵形式。记列向量,和,n,t,阶矩阵,第二节线性参数的最小二乘法,第二节线性参数的最小二乘法,则测量方程组可记为：,测量残差方程组记为,V=L-AX,最小二乘原理记为,第二节线性参数的最小二乘法,利用矩阵的导数及其性质有,第二节线性参数的最小二乘法,令,，得正规方程组的矩阵形式。,展开系数矩阵和列向量，可得代数形式的,正规方程组。当 满秩的情形，可求出,第二节线性参数的最小二乘法,小结,第二节线性参数的最小二乘法,线性测量方程组的一般形式为,测量残差方程组,含有随机误差,矩阵形式,第二节线性参数的最小二乘法,最小二乘法原理式,求导,正规方程组,正规方程组解,不等权,第二节线性参数的最小二乘法,三、精度估计,第二节线性参数的最小二乘法,对测量数据的最小二乘法处理，其最终结果不仅要给出待求量的最可信赖值，还要确定其,可信赖程度,，即估计其,精度,。具体内容包含有两方面：,一是估计直接测量结果 的精度；,二是估计待求量 的精度。,第二节线性参数的最小二乘法,1,直接测量结果的精度估计,对,t,个未知量的线性测量方程组 进,行,n,次独立的等精度测量，得,其残余误差为；标准偏差。,如果服从正态分布，那么服从,分布，其自由度,n-t,，有变量的数,学期望。,即有,第二节线性参数的最小二乘法,令,t=1,，由上式又导出了,Bessel,公式。,第二节线性参数的最小二乘法,2,待求量的精度估计,按照误差传播的观点，估计量 的精度取决于直接测量数据 的精度以及建立它们之间联系的测量方程组。,第二节线性参数的最小二乘法,可求待求量的协方差,矩阵,各元素可由矩阵求逆得，也可由下,列各方程组分别解得,第二节线性参数的最小二乘法,d,11,第二节线性参数的最小二乘法,d,21,第二节线性参数的最小二乘法,d,t1,第二节线性参数的最小二乘法,是直接测量数据的标准差，可按,估计,待求量,的方差,矩阵,中对角元素,就是误差传播系数,第二节线性参数的最小二乘法,待求量 与 的相关系数,第二节线性参数的最小二乘法,小结,第二节线性参数的最小二乘法,1、直接测量结果的标准差估计,（加权）,未知量个数,方程个数,残差,2、待求量的标准差估计,直接测量量的标准差,对角元素,误差传播系数,3、待求量与的相关系数,元素,第二节线性参数的最小二乘法,例,2,为精密测定1号、2号和3号电容器的电容量，进行了等权、独立、无系统误差的测量。测得1号电容值 ，2号电容值，1号和3号并联电容值，2号和3号并联电容值。试用最小二乘法求及其标准偏差。,【解】,列出测量残差方程组,代数求解过程,第二节线性参数的最小二乘法,代数法求解例.,doc,矩阵形式,第二节线性参数的最小二乘法,第二节线性参数的最小二乘法,即,第二节线性参数的最小二乘法代入残差方程组，计算,第二节线性参数的最小二乘法,主要内容,最小二乘法原理,线性测量方程组中参数的最小二乘法,非线性测量方程组中参数的最小二乘法,组合测量,第三节非线性参数的最小二乘法,第三节非线性参数的最小二乘法,测量残差方程组,非线性函数,取的初始似值,泰勒展开,按线性参数最小二乘法解得,迭代直至满足精度为止,例,3,在例,2,的基础上，再增加一次测量串联电容，测得。试用最小二乘法求及其标准偏差。,【解】,列出非线性测量方程组,第三节非线性参数的最小二乘法,对前个线性测量方程组，按例,2,求出解，作为初次近似解,在附近，取泰勒展开的一阶近似,写出线性化残差方程组,整理得正规方程组,解出,迭代,6次迭代结果,迭代次数,0,0,0,0,0.325,-0.425,0.150,1,-0.0473,-0.0363,0.0418,0.278,-0.461,0.192,2,-0.0713,-0.0373,0.0543,0.206,-0.499,0.246,3,-0.0472,-0.0555,0.0264,0.159,-0.504,0.273,4,0.00198,0.00105,0.00628,0.161,-0.494,0.266,5,-0.00113,-0.00142,-0.00127,0.160,-0.495,0.268,6,0.000315,0.000419,0.000367,0.160,-0.495,0.267,第三节非线性参数的最小二乘法,主要内容,最小二乘法原理,线性测量方程组中参数的最小二乘法,非线性测量方程组中参数的最小二乘法,组合测量,第四节组合测量应用举例,例,4,要求检定丝纹尺0，1，2，3刻线间的距离。已知用组合测量法测得图所示刻线间隙的各种组合量。试用最小二乘法求及其标准偏差。,第四节组合测量应用举例,计算步骤,【解】,列出测量残差方程组,第四节组合测量应用举例,解出,即,第四节组合测量应用举例,代入残差方程组可得,估计的标准差,第四节组合测量应用举例,