处理有色噪声扰动的最小二乘类方法.pptx

第五讲第五讲 处理有色噪声扰动的处理有色噪声扰动的LS类方法类方法(2/3)q从从本本讲讲开开始始,我我们们将将讨讨论论具具有有随随机机扰扰动动为为相相关关性性扰扰动动(有有色色噪噪声声)的的动动态态系系统统的的无无偏偏一一致致的的参参数数估估计计问问题题,具具体体的的LS类类方方法法有有增广最小二乘法增广最小二乘法(Extended Least-square Method,ELS)广广义义最最小小二二乘乘法法(Generalized Least-square Method,GLS)辅助变量法辅助变量法(Instrumental Variables Method,IV)等等.其它无偏参数估计算法还有其它无偏参数估计算法还有多步最小二乘法多步最小二乘法偏差补偿最小二乘法偏差补偿最小二乘法第五讲第五讲 处理有色噪声扰动的处理有色噪声扰动的LS类方法类方法(3/3)q这些不同的处理有色噪声的辨识方法主要是针对不同的这些不同的处理有色噪声的辨识方法主要是针对不同的有色噪声的特性、有色噪声的特性、有色噪声的不同模型表达、以及有色噪声的不同模型表达、以及不同的辨识要求不同的辨识要求提出的提出的.下面就分别讨论下面就分别讨论:增广最小二乘法增广最小二乘法(ELS)广义最小二乘法广义最小二乘法(GLS)辅助变量法辅助变量法(IV)其它方法可参阅其它教材和文献其它方法可参阅其它教材和文献.1.ELS法法(1/19)1.增广最小二乘法增广最小二乘法q考虑如下考虑如下SISO随机离散系统随机离散系统A(z-1)y(k)=B(z-1)u(k)+v(k)(1)其中其中y(k),u(k)和和v(k)分别为系统的输出、输入和相关的随机扰动分别为系统的输出、输入和相关的随机扰动;对对所所考考虑虑的的模模型型的的相相关关随随机机扰扰动动v(k),一一般般假假定定其其为平稳相关序列为平稳相关序列.1.ELS法法(2/19)由由第第二二讲讲中中的的关关于于有有色色噪噪声声的的结结论论1和和假假设设2可可知知,平稳的相关扰动平稳的相关扰动v(k)可被建模如下可被建模如下v(k)=C(z-1)w(k)(2)其中其中w(k)为白噪声序列为白噪声序列;C(z-1)为为未未知知的的、稳稳定定的的、有有限限阶阶的的线线性性滤滤波波器器,并可表示为如下首一多项式并可表示为如下首一多项式因此因此,由系统模型由系统模型(1)和噪声模型和噪声模型(2),可得如下表示可得如下表示A(z-1)y(k)=B(z-1)u(k)+C(z-1)w(k)1.ELS法法(3/19)当当假假定定噪噪声声w(k)可可测测已已知知时时,上上式式又又可可表表示示为为如如下自回归方程下自回归方程y(k)=(k-1)+)+w(k)(3)其中其中A(z-1)y(k)=B(z-1)u(k)+C(z-1)w(k)1.ELS法法(4/19)q当当上上述述观观测测数数据据向向量量(k-1)精精确确已已知知时时,利利用用前前面面讨讨论论的的成成批批或或RLS法法可可求求得得回回归归参参数数向向量量 的的LS估估计计值值.但但是是,实实际际上上上上述述数数据据向向量量(k-1)中中包包含含有有不不可可测测的的噪噪声声量量w(k-1),.,w(k-nc),因因此此对对自自回回归归式式(3)并并不能直接套用不能直接套用LS估计方法估计方法.为为此此,引引入入通通过过在在递递推推参参数数估估计计过过程程中中在在线线估估计计噪声噪声w(k)以实现模型参数在线递推估计的以实现模型参数在线递推估计的ELS法法.1.ELS法法(5/19)ELS法的思想就是法的思想就是:利利用用该该参参数数估估计计值值来来在在线线估估计计白白噪噪声声w(k-i)的的值值 (k-i)以替代数据向量以替代数据向量(k-1)中的白噪声中的白噪声w(k-i),然后进行下一步的参数估计然后进行下一步的参数估计.在在递递推推估估计计过过程程中中,假假设设当当前前或或前前一一步步的的在在线线参参数数估估计值已相当程度可用的前提下计值已相当程度可用的前提下,1.ELS法法(6/19)q噪噪声声w(k)的的具具体体的的估估计计算算法法是是如如下下的的事事后后估估计计或或事事前估计算法前估计算法:其中其中(k-1)为数据向量为数据向量(k-1)的如下在线估计值的如下在线估计值1.ELS法法(7/19)q因此因此,基于渐消记忆的基于渐消记忆的RLS估计算法可得如下递推的估计算法可得如下递推的ELS法法其中加权因子其中加权因子l l为为1时就为普通的时就为普通的ELS法法.上上述述ELS辨辨识识实实际际上上是是 的的参参数数估估计计和和噪噪声声wk的的估估计计交交替进行替进行,计算顺序为计算顺序为:1.ELS法法(8/19)q上述分析过程表明上述分析过程表明,ELS法是法是LS法的一种简单推广法的一种简单推广.它它只只是是扩扩充充了了参参数数向向量量 和和数数据据向向量量(k)的的维维数数,也同时辨识噪声模型也同时辨识噪声模型.就这种意义上说就这种意义上说,可称之为可称之为ELS法法.值值得得指指出出的的是是,ELS法法虽虽然然可可同同时时得得到到噪噪声声模模型型的的参参数数估估计计,但但其其收收敛敛过过程程却却比比过过程程模模型型A(z-1)和和B(z-1)的估计值的收敛慢许多的估计值的收敛慢许多.从从实实用用角角度度来来说说,噪噪声声模模型型C(z-1)的的阶阶次次不不宜宜取得太高取得太高.1.ELS法法(9/19)-ELS法计算步骤法计算步骤q综上所述综上所述,ELS法的基本计算步骤可总结如下法的基本计算步骤可总结如下1.确确定定被被辨辨识识系系统统模模型型的的结结构构,以以及及多多项项式式A(z-1)、B(z-1)和和C(z-1)的阶次的阶次;2.设定递推参数初值设定递推参数初值(0),P(-1),w(0);3.采采样样获获取取新新的的观观测测数数据据y(k)和和u(k),并并组组成成观观测测数数据据向量向量(k-1);4.用用式式(5)(7)所所示示的的ELS法法计计算算当当前前参参数数递递推推估估计计值值;5.用用(4)式式计计算算白白噪噪声声w(k)的的事事后后或或事事前前在在线线估估计计值值w(k);6.循环次数循环次数k加加1,然后转回到第然后转回到第3步继续循环步继续循环.1.ELS法法(10/19)-ELS法仿真程序法仿真程序q下面给出针对随机线性离散系统下面给出针对随机线性离散系统(XARMA)的的ELS在线辨识仿真程序伪代码在线辨识仿真程序伪代码./%第一步第一步 初始化初始化输入系统阶次输入系统阶次na,nb和和nc,以及加权因子以及加权因子 输入系统模型输入系统模型Az=1 a1 a2 和和Bz=0 b1 b2;输入噪声模型输入噪声模型Cz=1 c1 c2 输入系统输入信号输入系统输入信号u(k)的方差的方差 u、过程噪声、过程噪声w(k)的方差的方差 w和输入输出测和输入输出测量噪声量噪声 uw、yw设定系统变量初始值设定系统变量初始值:yf1:na+1=0;uf1:nb+1=0;wf1:nc+1=0;设定辨识变量初始值设定辨识变量初始值:yb1:na+1=0;ub1:nb+1=0;wb=1:nc+1=0;1:na+nb+nc=0;P=106*I(na+nb+nc,na+nb+nc);1.ELS法法(11/19)-ELS法仿真程序法仿真程序)/%第二步第二步 辨识仿真辨识仿真for k=1:最大仿真步数最大仿真步数/%被控对象模型仿真被控对象模型仿真(产生系统输入输出信号产生系统输入输出信号,即数据即数据)yf2:na+1=yf1:na;uf2:nb+1=uf1:nb;wf2:nc+1=wf1:nc;uf1=2*u*(rand()-0.5);wf1=2*w*(rand()-0.5);yf1=-Az2:na+1*yf2:na+1+Bz2:nb+1*uf2:nb+1+Cz1:nc+1*wf1:nc+1;1.ELS法法(12/19)-ELS法仿真程序法仿真程序/%输入输出数据检测输入输出数据检测ub1=uf1;yb1=yf1;/%或模拟检测噪声或模拟检测噪声%ub1=uf1+2*uw*(rand()-0.5);%yb1=yf1+2*yw*(rand()-0.5);/%在线递推辨识过程仿真在线递推辨识过程仿真=-yb(2:na+1)ub(2:nb+1)wb(2:nc+1);K=P*/(+*P*);=+K*yb(1)-*;P=I-K*P/;修正矩阵修正矩阵P；输出在线递推参数估计值输出在线递推参数估计值；1.ELS法法(13/19)-ELS法仿真程序法仿真程序wb1=yb(1)-*;yb2:na+1=yb1:na;ub2:nb+1=ub1:nb;wb2:nc+1=wb1:nc;也可采用事前估计也可采用事前估计1.ELS法法(14/19)例例1q例例1 考考虑虑如如图图下下所所示示的的仿仿真真对对象象,图中图中通过控制通过控制 w值来改变数据的噪信比值来改变数据的噪信比.q辨识中辨识中,选择如下模型结构选择如下模型结构y(k)+a1y(k-1)+a2y(k-2)=b1u(k-1)+b2u(k-2)+w(k)+c1w(k-1)+c2w(k-2)(8)其它条件同第四讲中的例其它条件同第四讲中的例1.结果如下表所示结果如下表所示.w(k)是是服服从从均均值值为为零零,方方差差为为1的的正正态态分分布布的的不不相相关关随随机噪声机噪声;输输入入信信号号u(k)采采用用伪伪随随机机二进制序列二进制序列;1.ELS法法(15/19)表表1 计算机仿真结果计算机仿真结果(噪信比噪信比=23%,数据组数数据组数1000)参数参数a1a2b1b2c1c2真值真值-1.50.71.00.5-1.00.2估计值估计值=1-1.4960.71170.99920.4982-0.90980.1193估计值估计值=0.98-1.4650.69401.06600.5506-0.97780.33691.ELS法法(16/19)q递推辨识过程的辨识值如下图所示遗忘因子=1时递推辨识结果(1)参数估计误差的平方和噪声估计误差1.ELS法法(17/19)遗忘因子=1时递推辨识结果(2)参数估计误差的平方和噪声估计误差1.ELS法法(18/19)遗忘因子=0.98时递推辨识结果(1)参数估计误差的平方和噪声估计误差1.ELS法法(19/19)遗忘因子=0.98时递推辨识结果(2)参数估计误差的平方和噪声估计误差2.GLS2.GLS法法(1/3)(1/3)2.广义最小二乘法广义最小二乘法q上一讲上一讲讨论了相关随机扰动讨论了相关随机扰动v(k)可用可用C(z-1)w(k)建模情况下的建模情况下的参数估计问题参数估计问题.但但有有些些相相关关扰扰动动用用C(z-1)w(k)来来建建模模的的话话,线线性性滤滤波波器器C(z-1)的的阶阶次次相相当当高高,这这加加大大了了参参数数估估计计的的工工作作量量,也也极极大大地地影影响了建模的精度和使用上的困难性响了建模的精度和使用上的困难性.在在此此情况情况下下,相关扰动相关扰动v(k)可用如下方式建模可用如下方式建模v(k)=w(k)/D(z-1)(1)其中其中w(k)为零均值的白噪声为零均值的白噪声;2.GLS2.GLS法法(2/3)(2/3)1/D(z-1)为为未未知知的的、稳稳定定的的、有有限限阶阶的的线线性性滤滤波波器器,且且D(z-1)可可表表示示为为如如下下稳稳定定的的、阶阶次次较较低的低的首一多项式首一多项式因因此此,具具有有该该类类相相关关随随机机扰扰动动的的随随机机离离散散系系统统的的数学模型为数学模型为:A(z-1)y(k)=B(z-1)u(k)+v(k)=B(z-1)u(k)+w(k)/D(z-1)(2)2.GLS2.GLS法法(3/3)(3/3)q广广义义最最小小二二乘乘(Generalized Least-squares,GLS)法法讨讨论论的的是可用模型是可用模型(2)表示的随机离散系统的参数估计问题表示的随机离散系统的参数估计问题.下面下面,将分别讨论将分别讨论成批型成批型和和递推型递推型GLS法法的思想和算法的思想和算法,以及以及GLS仿真仿真GLS评述评述一、成批型一、成批型GLS法法(1/9)(1/9)一、成批型一、成批型GLS法法q成批型成批型GLS法的基本思想是法的基本思想是:先先预预选选定定一一个个线线性性滤滤波波器器Df(z-1)将将模模型型中中的的输输出出y(k)、输输入入u(k)和有色噪声和有色噪声w(k)/D(z-1)白色化白色化,即将模型即将模型A(z-1)y(k)=B(z-1)u(k)+w(k)/D(z-1)两边左乘两边左乘线性滤波器线性滤波器Df(z-1)后后,有有A(z-1)Df(z-1)y(k)B(z-1)Df(z-1)u(k)+w(k)并记为并记为A(z-1)yf(k)B(z-1)uf(k)+w(k)再再对对上上述述白白色色化化后后的的模模型型中中多多项项式式A(z-1)和和B(z-1)的的系系数数进行进行LS估计估计;一、成批型一、成批型GLS法法(2/9)(2/9)然后基于对然后基于对A(z-1)和和B(z-1)的估计的估计,利用模型利用模型A(z-1)y(k)=B(z-1)u(k)+v(k)来计算模型残差来计算模型残差(相关噪声相关噪声)v(k)的估计值的估计值再基于噪声模型再基于噪声模型D(z-1)v(k)=w(k)和和相相关关噪噪声声v(k)的的估估计计值值,利利用用LS法法辨辨识识D(z-1),并并基基于于此此修正选定的滤波器修正选定的滤波器Df(z-1);如如此此循循环环往往复复地地进进行行Df(z-1)的的修修正正及及A(z-1)和和B(z-1)的的迭迭代代估估计计,直直到到模模型型的的估估计计残残差差满满足足给给定定的的精精度度或者或者Df(z-1)、A(z-1)和和B(z-1)的变化量相对较小为止的变化量相对较小为止.一、成批型一、成批型GLS法法(3/9)(3/9)计算步骤计算步骤q上述上述成批型成批型GLS法基本思想法基本思想可用如下流程图图示可用如下流程图图示.q综上所述综上所述,成批型的成批型的GLS法的算法和计算步骤如下法的算法和计算步骤如下:Step 1.确确定定被被辨辨识识系系统统模模型型的的结结构构,以以及及多多项项式式A(z-1)、B(z-1)和和D(z-1)的阶次的阶次;Step 2.选定选定稳定的稳定的初始滤波器初始滤波器Df(z-1);一、成批型一、成批型GLS法法(4/9)(4/9)计算步骤计算步骤Step 3.采样获取新的观测数据采样获取新的观测数据y(k)和和u(k);Step 4.基于滤波器基于滤波器Df(z-1),进行如下滤波计算进行如下滤波计算yf(k)=Df(z-1)y(k)(3)uf(k)=Df(z-1)u(k)(4)Step 5.由由(2)(4)式式,列成如下自回归方程列成如下自回归方程:其中一、成批型一、成批型GLS法法(5/9)(5/9)计算步骤计算步骤并由此得如下向量式的自回归方程组并由此得如下向量式的自回归方程组Yf=f f+W (6)其中其中Yf=yf(1),yf(2),.,yf(L)W=w(1),w(2),.,w(L)f=f(0),f(1),.,f(L-1)Step 6.用如下用如下LS法计算法计算f参数估计值参数估计值一、成批型一、成批型GLS法法(6/9)(6/9)计算步骤计算步骤Step 7.由由(2)式有式有y(k)=(k-1)f+v(k)(8)其中其中(k-1)=y(k-1),y(k-na)u(k-1),u(k-nb)因此因此,基于基于(7)式的参数估计值式的参数估计值 f,计算相关扰动计算相关扰动v(k)的估计的估计值值,即回归式即回归式(8)的如下估计残差的如下估计残差一、成批型一、成批型GLS法法(7/9)(7/9)计算步骤计算步骤Step 8.由由(1)式式,可得如下关于相关扰动可得如下关于相关扰动v(k)和白噪声和白噪声w(k)的的自回归方程自回归方程其中并由此得如下向量式的自回归方程组并由此得如下向量式的自回归方程组V=vv+W (11)其中其中V=v(1),v(2),.,v(L)v=v(0),v(1),.,v(L-1)一、成批型一、成批型GLS法法(8/9)(8/9)计算步骤计算步骤Step 9.选取上一步估计得的选取上一步估计得的D(z-1)的估计值作进行的估计值作进行系统白色化处理的线性滤波器系统白色化处理的线性滤波器Df(z-1).若模型的估计残差满足给定的精度或者若模型的估计残差满足给定的精度或者Df(z-1)、A(z-1)和和B(z-1)的变化量相对较小则循环结束的变化量相对较小则循环结束,否则返回第否则返回第4步继续循环步继续循环.因此因此,将用式将用式(9)计算好的相关扰动计算好的相关扰动v(k)的估计值的估计值 (k)来替代自回归方程组来替代自回归方程组(11)的相关扰动的相关扰动v(k),则可则可得如下回归参数向量得如下回归参数向量v,即噪声模型即噪声模型D(z-1)的系数的系数的的LS估计值估计值一、成批型一、成批型GLS法法(9/9)(9/9)q以以上上辨辨识识过过程程表表明明,GLS法法的的思思想想是是对对输输入入输输出出数数据据先先进进行行一一次次滤滤波波预预处处理理,然然后后利利用用普普通通LS法法对对滤滤波波后后的的数数据据进进行行辨辨识识,并反复迭代此过程并反复迭代此过程.可可想想而而知知,这这种种方方法法受受滤滤波波模模型型的的好好坏坏的的影影响响较较大大,而而在在迭迭代代过过程程中中滤滤波波模模型型的的好好坏坏也也直直接接与与系系统统模模型型辨辨识识结结果果有有直接的关系直接的关系.q从优化理论的角度来说从优化理论的角度来说,GLS法其实属于非线性优化方法法其实属于非线性优化方法.因因此此,难难以以避避免免出出现现非非线线性性优优化化中中的的局局部部极极值值点点情情况况,即即该该方法并不能保证得到的估计值是一致无偏的方法并不能保证得到的估计值是一致无偏的.这是这是GLS法的一个不太令人满意之处法的一个不太令人满意之处.二、递推型二、递推型GLS法法(1/6)(1/6)二、递推二、递推GLS法法q递递推推GLS法法的的基基本本思思想想是是与与成成批批型型LS法法大大致致相相同同,所所不不同同的的是是:由于所考虑的是递推估计由于所考虑的是递推估计,不能像成批型那样作反复迭代不能像成批型那样作反复迭代.解解决决的的方方法法是是分分别别对对(5)和和(10)所所示示的的两两个个模模型型的的辨辨识识设设计计两两个个递递推推估估计计算算法法,并并在在每每一一个个递递推推步步中中,让让它它们们依依顺顺序序递推一次递推一次.随随着着递递推推过过程程的的深深入入,将将不不断断改改进进噪噪声声模模型型D(z-1)的的辨辨识识结果结果,同时亦得到较佳的同时亦得到较佳的A(z-1)和和B(z-1)的辨识结果的辨识结果.二、递推型二、递推型GLS法法(2/6)(2/6)q根据上述基本思想根据上述基本思想,有如下递推有如下递推GLS估计算法估计算法:Step 1.确确定定被被辨辨识识系系统统模模型型的的结结构构,以以及及多多项项式式A(z-1)、B(z-1)和和D(z-1)的阶次的阶次;Step 2.选选定定递递推推参参数数初初值值 f(0)和和Pf(-1),v(0)和和Pv(-1),以及以及稳定的稳定的初始滤波器初始滤波器Df(z-1);Step 3.采样获取新的观测数据采样获取新的观测数据y(k)和和u(k);Step 4.基基于于滤滤波波器器Df(z-1),分分别别由由下下式式计计算算y(k),u(k)的滤波值的滤波值yf(k)和和uf(k);yf(k)=Df(z-1)y(k)uf(k)=Df(z-1)u(k)二、递推型二、递推型GLS法法(3/6)(3/6)Step 5.构造观测数据向量构造观测数据向量f(k-1)并并依依如如下下RLS法法估估计计多多项项式式A(z-1)和和B(z-1)的的系系数数,即回归参数向量即回归参数向量f二、递推型二、递推型GLS法法(4/6)(4/6)Step 6.基于式基于式计计算算相相关关扰扰动动v(k)的的估估计计值值,并并构构造造观观测测数数据据向向量量v(k-1).二、递推型二、递推型GLS法法(5/6)(5/6)Step 7.依依如如下下RLS法法估估计计多多项项式式D(z-1)的的系系数数,即即回回归归参参数数向向量量vStep 8.选选取取上上一一步步估估计计得得的的D(z-1)的的估估计计值值作作进进行行系系统统白白色色化处理的线性滤波器化处理的线性滤波器Df(z-1).将循环次数加将循环次数加1,返回第返回第3步继续循环递推辨识步继续循环递推辨识.三、三、GLS仿真仿真(1/14)三、三、广义最小二乘法仿真广义最小二乘法仿真q考虑如下有色噪声扰动的随机线性离散系统考虑如下有色噪声扰动的随机线性离散系统的的GLS在线辨识仿真程序伪代码在线辨识仿真程序伪代码.三、三、GLS仿真仿真(2/14)%第一步第一步 初始化初始化输入系统阶次输入系统阶次na,nb和和nd,以及加权因子以及加权因子 输入系统模型输入系统模型Az=1 a1 a2 和和Bz=0 b1 b2;输入噪声模型输入噪声模型Dz=1 d1 d2 输入系统输入信号输入系统输入信号u(k)的方差的方差 u和噪声和噪声w(k)的方差的方差 w设定系统变量初始值设定系统变量初始值:yf1:na+1=0;uf1:nb+1=0;vf1:nd+1=0;设定辨识变量初始值设定辨识变量初始值:yb1:na+1=0;ub1:nb+1=0;ybf1:na+1=0;ubf1:nb+1=0;vb=1:nc+1=0;_yu1:na+nb=0;P_yu=106*I(na+nb,na+nb);_v1:nd=0;P_v=106*I(nd,nd);输入初始白化滤波器输入初始白化滤波器Dze=1 de1 de2 三、三、GLS仿真仿真(3/14)%第二步第二步 辨识仿真辨识仿真for k=1:最大仿真步数/%被控对象模型仿真被控对象模型仿真(产生系统输入输出信号产生系统输入输出信号,即数据即数据)yf2:na+1=yf1:na;uf2:nb+1=uf1:nb;vf2:nd+1=vf1:nd;uf1=2*u*(rand()-0.5);wf=2*w*(rand()-0.5);vf1=-Dz2:nd+1*vf2:nd+1+wf;yf1=-2:na+1*yf2:na+1+Bz2:nb+1*uf2:nb+1+vf1;三、三、GLS仿真仿真(4/14)%输入输出数据检测输入输出数据检测ub1=uf1;yb1=yf1;%输入输出滤波输入输出滤波ubf1=Dze(1:nd+1)*ub(1:nd+1);ybf1=Dze(1:nd+1)*yb(1:nd+1);%在线递推辨识系统模型在线递推辨识系统模型 _yu=-ybf(2:na+1)ubf(2:nb+1);K_yu=P_yu*_yu/(+_yu*P_yu*_yu);_yu=_yu+K_yu*ybf(1)-_yu*_yu;P_yu=I-K_yu*_yu*P_yu/;修正矩阵修正矩阵P_yu；三、三、GLS仿真仿真(5/14)%在线噪声估计在线噪声估计vb1=y(1)+_yu1:na*yb(2:na+1)-_yuna+1:na+nb*ub(2:nb+1);%在线递推噪声模型在线递推噪声模型_v=-vb(2:nd+1);K_v=P_v*_v/(+_v*P_v*_v);_v=_v+K_v*vf(1)-_v*_v;P_v=I-K_v*_v*P_v/;修正矩阵P_v；输出在线递推参数估计值_yu,_v；Dze(2:nd+1)=_v;三、三、GLS仿真仿真(6/14)%数据移位数据移位yb2:na+1=yb1:na;ub2:nb+1=ub1:nb;ybf2:na+1=ybf1:na;ubf2:nb+1=ubf1:nb;vf2:nd+1=vf1:nd;三、三、GLS仿真仿真(7/14)q例例1 本本例例中中的的仿仿真真对对象象、实实验验条条件件与与第第四四讲讲中中例例1相相同同,模模型型结构选择如下结构选择如下y(k)+a1y(k-1)+a2y(k-2)=b1u(k-1)+b2u(k-2)+v(k)(19)v(k)+d1v(k-1)+d2v(k-2)=w(k)(20)q仿真结果如表仿真结果如表1所示所示.三、三、GLS仿真仿真(8/14)表表1 计算机仿真结果计算机仿真结果参数参数a1a2b1b2d1d2真值真值-1.50.71.00.5-1.00.2噪信比噪信比=73%初始白化滤波器初始白化滤波器Df=1仿真仿真1-1.4990 0.70170.9997 0.5003-1.0056 0.2002仿真仿真2-1.5146 0.71091.0030 0.4869-0.9943 0.1996噪信比噪信比=73%初始白化滤波器初始白化滤波器Df=1+0.5z-1-0.5z-2仿真仿真1-1.4384 0.60300.9870 0.5271-1.1426 0.4060仿真仿真2-1.5740 0.73711.0013 0.4730-0.9114 0.2088噪信比噪信比=23%初始白化滤波器初始白化滤波器Df=1仿真仿真1-1.4667 0.66130.9892 0.5055-1.1649 0.4118仿真仿真2 -1.4628 0.67170.9841 0.5010-1.2130 0.3902三、三、GLS仿真仿真(9/14)q递推辨识过程的辨识值如下图所示递推辨识过程的辨识值如下图所示噪信比噪信比=73%,初始白化滤波器初始白化滤波器Df=1时递推辨识结果时递推辨识结果(1)参数估计误差的平方和噪声估计误差三、三、GLS仿真仿真(10/14)噪信比噪信比=73%,初始白化滤波器初始白化滤波器Df=1时递推辨识结果时递推辨识结果(2)参数估计误差的平方和噪声估计误差三、三、GLS仿真仿真(11/14)噪信比噪信比=73%,初始白化滤波器初始白化滤波器Df=1+0.5z-1-0.5z-2时递推辨识结果时递推辨识结果(1)参数估计误差的平方和噪声估计误差三、三、GLS仿真仿真(12/14)噪信比噪信比=73%,初始白化滤波器初始白化滤波器Df=1+0.5z-1-0.5z-2时递推辨识结果时递推辨识结果(2)参数估计误差的平方和噪声估计误差三、三、GLS仿真仿真(13/14)噪信比噪信比=23%,初始白化滤波器初始白化滤波器Df=1时递推辨识结果时递推辨识结果(1)参数估计误差的平方和噪声估计误差三、三、GLS仿真仿真(14/14)噪信比噪信比=23%,初始白化滤波器初始白化滤波器Df=1时递推辨识结果时递推辨识结果(2)参数估计误差的平方和噪声估计误差三、三、GLS评述评述(1/1)(1/1)三、三、GLS评述评述q对对GLSGLS算法算法,有如下评述有如下评述:有色干扰下估计精度较高有色干扰下估计精度较高迭代收敛较快迭代收敛较快,但是收敛性未得到证明但是收敛性未得到证明能同时得到过程参数和噪声参数的估计能同时得到过程参数和噪声参数的估计计算量大计算量大,费机时费机时3.IV法(1/2)3.辅助变量法q上上两两讲讲分分别别讨讨论论了了同同时时辨辨识识系系统统模模型型和和噪噪声声模模型型的的ELS法法和和GLS法法.在在有有些些建建模模及及其其模模型型的的运运用用问问题题中中,并并不不需需要要知知道道噪噪声声模模型型,即不需要对噪声建模即不需要对噪声建模(辨识辨识).此此时时,若若采采用用ELS法法和和GLS法法来来辨辨识识,需需花花费费较较多多的的计计算算时时间间,而且辨识的参数越多则辨识的精度和效果越差而且辨识的参数越多则辨识的精度和效果越差.这一点这一点,GLS法尤其突出法尤其突出.3.IV法(2/2)q本本讲讲讨讨论论有有相相关关随随机机扰扰动动时时的的随随机机离离散散系系统统参参数数估估计计的的辅辅助变量助变量(Instrument Variable,IV)法法.该该方方法法不不需需要要辨辨识识系系统统的的噪噪声声模模型型,只只要要辅辅助助系系统统选选择择得恰当得恰当,便可获得较高精度的无偏一致估计便可获得较高精度的无偏一致估计.本讲介绍的主要内容为本讲介绍的主要内容为:成批型算法成批型算法辅助变量的选择辅助变量的选择递推型算法递推型算法IV法的评价法的评价一、成批型算法(1/6)一、成批型算法一、成批型算法q考虑如下自回归方程考虑如下自回归方程的一致辨识问题的一致辨识问题y(k)=(k-1)+w(k),k=1,2,.,L (1)或或YL=L+WL (2)其中对扰动量其中对扰动量w(k)未加白噪声的假定未加白噪声的假定,其它符号与其它符号与第三讲第三讲一致一致.下面先考察一般下面先考察一般LS法的参数辨识值的一致收敛性法的参数辨识值的一致收敛性.一、成批型算法(2/6)q由第三讲的提出由第三讲的提出的的一般一般LS估计式估计式有有一、成批型算法(3/6)由式由式(3)可知可知,欲获得无偏一致的参数估计值欲获得无偏一致的参数估计值,若若依据依据Frechek定理定理:u若随机序列若随机序列xk,则则f(xk)f()则由条件则由条件(4)与与(5),有有 LS 0即即LS估计为无偏估计估计为无偏估计.一、成批型算法(4/6)但但,当当w(k)不为白噪声时不为白噪声时,条件条件并不能保证成立并不能保证成立,相应的相应的LS估计值估计值亦不能保证为无偏一致的亦不能保证为无偏一致的.因此下面的问题是因此下面的问题是:如何在有色噪声干扰条件下得到无偏估计？如何在有色噪声干扰条件下得到无偏估计？一、成批型算法(4/6)q为为了了对对w(k)不不为为白白噪噪声声时时,可可获获得得 的的无无偏偏一一致致估估计计值值,定定义义一一个如下辅助观测数据矩阵个如下辅助观测数据矩阵*L=*(0),*(1),*(L-1)(6)其中辅助变量矩阵须满足其中辅助变量矩阵须满足一、成批型算法(5/6)因此因此,使得对不定使得对不定(不相容不相容)方程组方程组YL=L (9)和回归方程和回归方程YL=L+WL可获得如下可获得如下IV解解一、成批型算法(6/6)当辅助变量矩阵满足条件当辅助变量矩阵满足条件(7)和和(8)时时,则有则有可可见见,只只要要选选择择适适当当的的辅辅助助变变量量,使使之之满满足足上上述述的的两两个个条条件件,IV估计值就可以是无偏一致的估计值就可以是无偏一致的.IV估计法的关键在于如何具体构造出辅助变量矩阵估计法的关键在于如何具体构造出辅助变量矩阵*L.依据Frechek定理与条件(7)和(8)二、辅助变量的选择(1/9)二、辅助变量的选择二、辅助变量的选择qIV法法的的关关键键是是选选择择适适当当的的辅辅助助变变量量使使得得条条件件(7)和和(8)得得到到满满足足.如果采用如果采用下下图所示的输出图所示的输出x(k)作为辅助变量作为辅助变量,置置*(k-1)=x(k-1),.,x(k-na),u(k-1),.,u(k-nb)(12)那那么么,当当u(k)为为高高阶阶持持续续激激励励信号时信号时,条件条件(7)必定满足必定满足.又又因因x(k)只只与与u(k)有有关关,也也就就是是说说与与噪噪声声无无关关,故故条条件件(8)也也满足满足.二、辅助变量的选择(2/9)q人人们们已已经经得得出出几几种种不不同同的的方方案案,要要严严格格证证明明它它们们满满足足上上述述条条件件是是很很难难的的,但但是是在在实实际际应应用用中中已已经经取取得得很很好好的结果的结果.常用的辅助变量选择方法有常用的辅助变量选择方法有:自适应滤波自适应滤波纯滞后纯滞后Tally原理原理二、辅助变量的选择(3/9)-自适应滤波A.自适应滤波自适应滤波q当当把把上上图图所所示示的的辅辅助助系系统统模模型型看看成成是是自自适适应应滤滤波波器器时时,辅辅助助变变量可按如下关系生成量可按如下关系生成或求得或求得x(k)=*(k)(k)(13)或或x(k)=*(k)(k)(14a)(k)=(1-)(k-1)+(k-d),取取0.010.1;d取取010 (14b)其中其中(k)表示表示k时刻的时刻的IV参数估计值参数估计值,它可由递推算法给出它可由递推算法给出.二、辅助变量的选择二、辅助变量的选择(4/9)-自适应滤波自适应滤波q下下面面简简单单分分析析一一下下上上述述自自适适应应滤滤波波法法所所选选择择的的辅辅助助变变量量与与噪噪声变量的相关性。声变量的相关性。对对*(k)与噪声与噪声w(k)的相关性分析如下的相关性分析如下因此因此,经过层层传递经过层层传递(每次传递相关性小于每次传递相关性小于1),*(k)与与噪声噪声w(k)的的相关性将变得非常小。相关性将变得非常小。当噪声当噪声w(k)与输入与输入u(k)无关时无关时,且且u(k)为高阶持续激励信为高阶持续激励信号时号时,可以证明选用式可以证明选用式(13)和和(14)作为辅助变量以较大概作为辅助变量以较大概率满足上述两个条件率满足上述两个条件Soderstrom,1974.二、辅助变量的选择(5/9)-纯滞后B.纯滞后纯滞后q当当图图1所所示示的的辅辅助助系系统统模模型型选选为为纯纯滞滞后后环环节节时时,辅辅助助变量取作变量取作x(k)=u(k-d)(15)其中其中d nb,nb为多项式为多项式B(z-1)的阶次的阶次.这时辅助变量向量这时辅助变量向量*(k-1)可写成可写成*(k-1)=u(k-d-1),.,u(k-d-na),u(k-1),.,u(k-nb)二、辅助变量的选择(6/9)-纯滞后q值值得得指指出出的的是是,只只有有u(k)为为高高阶阶持持续续激激励励信信号号时时,上上述述选选取取的的*(k-1)的的列列之之间间现现行行无无关关,收收敛敛条条件件(7)才才能能满满足。足。此此外外,当当输输入入u(k)与与噪噪声声w(k)无无关关,*(k)与与噪噪声声w(k)统计无关。统计无关。因因此此u(k)为为高高阶阶持持续续激激励励信信号号时时,上上述述选选取取的的*(k)满足上述辅助变量可满足上述两个条件满足上述辅助变量可满足上述两个条件.二、辅助变量的选择(7/9)-Tally原理C.Tally原理原理q如果相关噪声的模型可以看成为如果相关噪声的模型可以看成为时时,其中其中d nc,则辅助变量可取作则辅助变量可取作x(k)=y(k-d)(16)即即*(k-1)=y(k-d-1),.,y(k-d-na),u(k-1),.,u(k-nb)二、辅助变量的选择二、辅助变量的选择(8/9)-Tally原理原理q下下面面简简单单分分析析一一下下Tally原原理理所所选选择择的的辅辅助助变变量量与与噪噪声声变变量量的的相关性。相关性。对对*(k)与噪声与噪声w(k)的相关性分析如下的相关性分析如下因此因此,经过层层传递经过层层传递(每次传递相关性小于每次传递相关性小于1),*(k)与与噪声噪声w(k)的相关性将变得非常小。的相关性将变得非常小。当噪声当噪声w(k)与输入与输入u(k)无关时无关时,且且u(k)为高阶持续激励信为高阶持续激励信号时号时,可以证明可以证明Tally原理原理所选择的辅助变量所选择的辅助变量以较大概率满以较大概率满足上述两个条件足上述两个条件方崇智等方崇智等,1988.二、辅助变量的选择(9/9)q在上述在上述3种选择辅助变量方法中，种选择辅助变量方法中，自自适适应应滤滤波波法法辨辨识识收收敛敛快快，精精度度高高，递递推推辨辨识识结结果果平平滑滑，波动小。波动小。Tally原理法次之。原理法次之。但但纯纯滞滞后后法法辨辨识识收收敛敛慢慢，精精度度低低，数数据据增增多多对对精精度度提提高高效果不显著；效果不显著；再之，递推辨识结果波动大，难于达到控制的要求。再之，递推辨识结果波动大，难于达到控制的要求。三、递推型算法(1/15)三、递推型算法三、递推型算法q下面讨论下面讨论IV参数估计算法参数估计算法(10)的递推算法的递推算法.类似于类似于RLS法的推导法的推导,由成批型由成批型IV