最优估计方法综述.ppt

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,最优估计方法综述,空军工程大学航天航空工程学院,丁 超,主要内容,一、概 述,二、最小方差估计与线性最小方差估计,三、极大似然法估计与极大验后法估计,四、最小二乘法估计与加权最小二乘法估计,五、递推最小二乘法估计,概 述,在科学和技术领域中，经常遇到“估计”问题。所谓“估计”，就是对受到随机干扰和随机测量误差作用的物理系统，按照某种性能指标为最优的原则，从具有随机误差的测量数据中提取，信息估计出系统的某些参数状态变量。这就提出了参数和状态估计问题。这些被估参数或被估状态可统称为被估量。,一般，估计问题分两大类，即参数估计和状态估计。,概 述,（一）、参数估计,参数估计属于曲线拟合问题。例如做完某项试验之后，得到若干个观测值 与相应时间 的关系 。我们希望以一条曲线来表示 和 的关系，设,式中 已知的时间函数，一般是 的幂函数、指数函数或正余弦函数等等。不随时间变化。,（二）、状态估计,设系统的状态方程和观测方程分别为,式中，为状态变量，它是随时间而变的随机过程，为控制变量，为系统噪声，为测量噪声，为观测值。现要根据观测值来估计状态变量 ，这就是状态估计问题。,概 述,最小方差估计与线性最小方差估计,一、最小方差估计,最小方差准则，要求误差的方差为最小，它是一种最古典的估计方法，这呼估计方法需要知道被估随机变量 的概率分布密度 和数学期望 。这种苛刻的先验条件，使此方法在工程上的应用受到很大限制。,评价估计优劣的准则是 与 的误差的方差为最小，即,最小方差估计与线性最小方差估计,(,二,),、线性最小方差估计,线性最小方差估计就是估计值为观测值的线性函数，估计误差的方差为最小。在使用这种方法时，需要知道观测值和被估值的一、二阶矩，即数学期望 和 、方差,Varz,和,Varx,及协方差 和,。,根据估计误差的方差,的条件来确定系数,a,和,b,。,极大似然法估计与极大验后法估计,（一）、极大似然法估计,极大似然法估计是以观测值出现的概率为最大作为估计准则的，它是一种常用的参数估计方法。,设 是连续随机变量，其分布密度为 ，含有 个未知参数 。把 个独立观测值 分别代入 中的 ，则得,将所得的,k,个函数相乘，得,:,称函数,L,为似然函数。,。,极大似然法估计与极大验后法估计,（二）、极大验后估计,极大验后估计是以已知 为前提的。如果只知道 ，可按下式计算：,式中,p(x),是,x,的验前概率密度，,p(z),是观测值,z,的概率密度,p(x/z),可用计算方法或实验方法求得。为了计算,p(x/z),需要知道,p(x),。在,x,没有验前知识可供利用时，可假定,x,在很大范围内变化。,一般说来，极大似然估计比极大验后估计应用普遍，这是由于计算似然函数比计算验后概率密度较为简单。,最小二乘法估计与加权最小二乘法估计,（一）、,最小二乘法估计,设,n,次独立试验，得到,z,对观测 。这里 表示时间或其他物理量。现在的任务是：根据这些观测值，用最优的形式来表示,z,与,t,之间的函数关系。,要求所选择的,f(t),的参数，使得观测,z(k),与对应的函数,f(k),的偏差的平方和为最小。,最小二乘法估计与加权最小二乘法估计,（二）、,加权最小二乘法估计,最小二乘法每个误差值,e,的系数都为,1,，即每个误差值都是“等权”的。事实上，在,z,值的不同测量范围内，测量精度往往是不同的，因而测量误差也不相同。合理的办法是对不同的误差项 加不同的权，即把,J,写成,:,这样可使拟合曲线接近于测量精度高的点，从而保证拟合曲线有较高的准确度。,递推最小二乘法估计,在前面所讨论的最小二乘法和加权最小二乘法，需要同时用到所有的测量数据，在计算时不考虑测量数据的时间顺序。当测量数据很多时，要求计算机具有很大的存储量。在实际处理过程中，测量数据往往是按时间顺序逐步给出的，我们可先处理已经得到的一批数据，得到的近似估值，来了新的数据后，再对原估值进行修正，这样可以减少计算机的存储量。,递推最小二乘法估计,把观测方程写成矩阵形式,递推可以得：,可以肯定，递推计算结果与成批处理观测数据的结果是相同的。,谢 谢 ！,