《系统辨识》课件.ppt

1系统辨识系统辨识电气工程与自动化学院 陈 冲2课程主要内容课程主要内容第一章第一章 概概 述述 第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法第三章第三章 辨识线性系统脉冲响应函数的相关分析法辨识线性系统脉冲响应函数的相关分析法结束第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法第五章第五章 线性系统的状态估计法线性系统的状态估计法3第一章第一章 概概 述述一、建模的必要性一、建模的必要性二、模型二、模型三、建模方法三、建模方法四、系统辨识的内容（或步骤）四、系统辨识的内容（或步骤）4一、建模的必要性一、建模的必要性课程的核心问题是建模，主要是辨识辨识建模。系统辨识是研究辨识建模的理论和方法。数学模型的主要用途：控制理论与控制工程就一直围绕着 建立模型和控制器设计这两个主题来发展，它们相互依赖、相互渗透并相互发展。1.用来预报实际系统物理量 研究实际系统往往需要事先知道一些物理量的数值，而其中有些量可能无法直接测量或测不准，所以需要建立数学模型来预报。第一章第一章 概概 述述53.为了设计控制系统 目前,对被控系统的控制器的设计方法的选取,以及如何进行具体的控制结构和参数的设计都广泛依赖于对被控系统的理解及所建立的被控系统数学模型。2.用于分析实际系统 工程上在分析一个新系统时，通常先进行数学仿真，仿真的前提必须有数学模型。第一章第一章 概概 述述 建模问题在控制器设计中起着非常重要的作用,是设计中首先需要解决的问题；是成功地进行控制器设计的关键之一。第一章第一章 概概 述述系统的模型一般分物理模型与数学模型物理模型：指用物理、化学、生物等材料构成的用于 描述系统中的关系和特征的实体模型。模型：就是把系统实体的本质信息简缩成有用的描述形式，数学模型：描述系统中一些关系和特征的数据模型。控制领域的数学模型就是指能用来描述系统的动态或静态特性和行为的数学表达式或方程。是进行系统分析、预报、优化及控制系统设计的基础。二、模型二、模型是一种简化描述。71、理论建模法：通过对系统内在机理的分析，按照已知的一些物理定律导出各物理量关系来建立数学模型。理论建模法建立的模型称为机理模型。一般在理论建模中,根据模型应用的目的和精度要求,仅考虑系统中起主导作用的有限的几个因素即可。缺陷：当验前信息不足时，用理论建模法会遇到很大困难。对于比较复杂的过程，必须对机理模型简化，这就使得机理建模与实际过程间有一定的误差。第一章第一章 概概 述述三、建模方法三、建模方法8 理论建模通常只能用以建立比较简单系统的模型（白箱问题）。由于许多系统的机理和所处的环境越来越复杂，因此，理论建模法的运用亦越来越困难，其局限性越来越大,需要建立新的建模方法。第一章第一章 概概 述述 在被建模的装置尚不存在（设计阶段）或虽存在但无法进行实验时，理论建模是取得模型的唯一途径，是验前问题中唯一可行的方法。理论建模的难点在于对有关学科知识及实际经验的掌握，故不属于课程的讨论范围。在理论建模方法难以进行或难以达到要求的情况下，系统辨识建模方法就幸运而生。92、辨识建模法：对被控系统进行测试，利用观测数据，通过辨识技术去构造系统模型的方法。系统辩识是研究怎样利用对未知系统的试验数据或在线运行数据(输入/输出数据)建立描述系统的数学模型的科学。系统辩识亦称为实验建模方法,它是“系统分析”和“控制系统设计”的逆问题。第一章第一章 概概 述述是现代控制理论的一个分支。1）完全辨识问题：第一章第一章 概概 述述 完全不了解系统的任何基本特性（定常时变；线性非线性；确定随机等）。这类问题称为黑箱问题。这是一个极难解决的问题，通常需要对系统作某些主观的先验假设。2）部分辨识问题：系统的某些基本特性假定是已知的，但不知动态模型的阶次或有关的系数。这类问题称为灰箱问题。显然比黑箱问题容易解决。根据对系统事先了解的程度（先验知识）可将辨识问题分成二类：完全辨识问题和部分辨识问题。11 大部分工程系统及工业过程都属于灰箱问题。通常对系统的结构会有很多了解，因此可推导得系统特定的数学模型。在这种情况下只要定阶和确定模型中的一组参数。从而模型化问题简化为参数估计。因此参数估计是一个最重要的问题。第一章第一章 概概 述述有效的辨识策略：u尽可能地掌握系统的先验知识，即尽可能地使系统“白化”；有效的辨识方法：“灰箱”方法。将两种方法结合起来，互为补充。u对依然“黑”的部分，用理论建模方法不能确定的部分和参数，采用系统辨识方法。12第一章第一章 概概 述述系统辨识的框图13模糊数学创始人L.A.Zadeh第一章第一章 概概 述述1962年 Zadeh从数学的角度定义:辨识就是在输入输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。1978年瑞典的李龙(Ljung)提出:系统辩识的三个要素数据、模型类和准则。系统辩识是按照一个准则，在模型类中选择一个与数据拟合得最好的模型。拟合的好坏是一个不定的概念，所以要用准则来判别。3、系统辨识的定义 所谓辨识建模是从实验数据出发，根据辨识的目的以及对过程已有的验前知识，预先给出一个模型类（线性的、非线性的、定常的、时变的、连续的、离散的）进行拟合。14第一章第一章 概概 述述它是一个迭代过程。大致包括：试验设计，模型结构确定，参数估计和模型验证。四、系统辨识的内容（或步骤）四、系统辨识的内容（或步骤）满意辨识目的及先验知识确定模型结构和准则模型的参数估计模型验证最终模型不满意数据预处理输入输出数据检测试验试验设计辨识的一般步骤15 大致包括：试验设计，模型结构确定，参数估计和模型验证。1、试验设计第一章第一章 概概 述述 1）选择变量：以提取有效的信息（数据）为目的。首先根据试验对象，确定所要观测的变量。（u是人为给定的，y是观测的，y的选取不同会改变输出矩阵C的结构和数值。）通常为得到试验设计前的必要的知识，必须进行一些预备性试验（摸底）。四、系统辨识的内容（或步骤）16第一章第一章 概概 述述预备性试验：可用一些简单方法（阶跃响应，频率响应等）获得系统的如下信息：主要时间常数（系统频宽，与试验长度有关）允许的输入信号幅度（系统的线性范围）过程的非线性与时变性（有助于模型类的选择）噪声水平（以便用多大的输入，使得观测量有多大的信噪比）变量之间的延迟（滞后环节参数）2）输入信号的选择（阶跃、方波、脉冲、PRBS）。17第一章第一章 概概 述述 3）采样速度的选择（要采集数据就有采样速度选择问题）。实际上先采用较短的采样间隔，在数据分析时，可根据需要隔几个取一个数据。4）试验长度的确定（试验时间问题）。辨识精度与试验时间的长短有关。2、模型结构确定 根据辨识的目的及对被辨识系统的先验知识，确定系统所属的模型类 模型结构的选择主要取决于应用的目的及精度要求。通常模型精度与复杂性要折衷考虑。18第一章第一章 概概 述述 常用的模型类：参数的 或 非参数的 线性的 或 非线性的 连续的 或 离散的 确定的 或 随机的 I/O的 或 状态的 时变的 或 定常(时不变)的集中参数的 或 分布参数的 频率域的 或 时间域的 等等。19第一章第一章 概概 述述 根据系统的空间、时间的离散化情况，模型可分为三类：1）集中参数的连续时间模型：空间变量是离散的，时间变量连续。如常微分方程，代数方程。2）集中参数的离散时间模型：时、空变量均离散。如差分方程，代数方程。3）分布参数模型：时、空变量均连续，如偏微分方程。它可以在空间上离散化，简化成分块集中参数，所以对它的辨识不介绍。a20第一章第一章 概概 述述3、参数估计 模型结构确定后，其中未知部分就要通过观测数据进行估计。通常未知部分是以未知参数出现，故辨识工作就成了参数估计。4、模型验证 一个模型辨出来后，是否可靠必须进行多次验证。参数估计的要求就是要辨识出来的模型与实际过程在某种意义下最“接近”。所以必须有个准则衡量。通常一个模型用一套数据进行辨识，然后用另一套数据来验证和修改。21第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法 22 1 1 过渡响应法（时域法）过渡响应法（时域法）22 2 2 频率响应法（频域法）频率响应法（频域法）22 3 3 多输入多输出线性系统传函（矩阵）的辨识多输入多输出线性系统传函（矩阵）的辨识22模型可以有不同的形式，不同的模型适于不同的系统。古典辨识方法：采用时域法和频率法来辨识线性系统的传递函数。原则上只适用于SISO线性系统。SISO系统通常采用传递函数。MIMO系统通常采用状态空间表达式。由实验来建立数学模型传递函数，可以为更复杂的系统辨识做预备性实验，它是现代系统辨识的基础，属于连续系统的数学模型的辨识领域。第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法23第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法试验信号的选用：对系统模型的研究方法不同，输入试验信号也相应分成非周期的和周期的两种。用时域法建模：输入信号为非周期的。主要采用阶跃和方波（近似脉冲）函数。用频域法建模：输入信号用周期的。主要用正弦波，二进制周期函数。它们又分为单频和多频（组合正弦波及周期方波）242 2 1 1 过渡响应法（时域法）过渡响应法（时域法）采用非周期试验信号，通过系统的动态响应研究系统的模型。一、非参数模型的辨识 在时域中建立线性系统非参数模型时，用很简便的方法就可得到脉冲响应曲线，阶跃响应曲线、方波响应曲线或它们的离散采样数据表。对于线性系统，脉冲响应，阶跃响应和方波响应之间是可以相互转换的。脉冲响应：可以采用幅值相当大，宽度很窄的方波来近似函数。第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法25第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法二、由阶跃响应曲线辨识传函1、试探法 工业中常用的模型类：（即便是高阶系统也用低阶模型去逼近）由非参数模型转变成参数模型，包括确定传函的结构及参数。先观察试验所得响应曲线的形状特征，据此判断，从模型类中确定一种结构。然后进行参数估计，最后验证数据拟合程度，反复多次，直至误差e(t)最小（验证数据拟合可只取若干点）。26第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法1）若阶跃响应曲线特征为：曲线逐渐上升到稳态值：可采用结构：待估参数为：K，T稳态增益：将试验曲线标么化，即 ,27第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法要确定 T，只要一对观测数据：y*(t1)，t1 则标么化后响应：可得：由若取 y*(t1)=0.63，则 T=t1验证数据拟合如何，可在 t=T/2 和 t=2T 二点进行：若拟合不好，则应另选模型结构类。128第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法待估参数为：K，T，稳态增益：将试验曲线标么化，即2）实验曲线是一条S形非周期曲线）可选用模型类：则为了确定 T 和，必须将两个坐标值（观测值）代入，则29第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法两边同取对数得：根据两对观测值 y*(t1)和 y*(t2)，可求出 T 和。30第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法若选y*(t1)=0.39，y*(t2)=0.63，则模型验证：tT/20.8TT2Ty*(t)0.390.550.630.87由则31第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法待估参数为：K，T，究竟选一阶惯性带延时的模型结构，还是选二阶模型，事先无法确定，完全看两种模型与试验曲线拟合程度，哪个精度高，选哪个。由于大多数工业过程的试验曲线是过阻尼的，即1，只讨论此种情况，而1的传函辨识比较麻烦。）也可选用模型类：S形曲线本身就说明是过阻尼（1）。若 0 且为实数。33第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法代入可得：它的单位阶跃响应为：改写为：令 2=1 (1)，代入上式得：两边同取对数得：第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法可见，当t 时，是一条直线。斜率：k=1，截距：在坐标纸上，根据数据y*(t)，画出t较大时的图形，作其渐进线，即可得斜率 k 和截距 b。则可得：2 T，当t 时,35第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法若用常用对数，则当t 时：则：缺点：计算G(s)时采用的点都是 t 较大时的点，而当 t 较大时，往往 1y*(t)的值较小，这就会产生较大的误差。b36第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法2、Laplace 变换的极限定理法（终值定理法）利用 Laplace 变换的极限定理，由非参数模型的单位阶跃响应，求参数模型传递函数。它克服了试探法需选择模型类的不足，但它仅适用于下述一种模型类。设线性SISO定常系统的传函结构为：特点：系统只有极点、无零点。37第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法当输入u(t)=1(t)时，输出 y(t)为：终值定理为：对于阶跃响应:代入上式得：K0 38第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法 在已存在的系统G(s)的基础上构造一个新系统G1(s)，当输入 u(t)=1(t)时，其单位阶跃响应为：（y1(t)与 y(t)的关系）求G1(s)的稳态增益K1:K1 当输入u(t)=1(t)时，输出 y(t)为：39第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法 G1(s)求拉氏变换：求得 G1(s)与 G(s)的关系:当输入u(t)=1(t)时，输出 y(t)为：40第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法再利用终值定理可求得G1(s)的稳态增益K1：a1 当输入u(t)=1(t)时，输出 y(t)为：把y1(t)定义成与y(t)有联系，当然G1(s)也与G(s)有联系，而输入均为u(t)=1(t)，再利用终值定理求G1(s)中的参数，从而也就求出G(s)中的参数。求得G1(s)的稳态增益K1与G(s)中的参数关系。41第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法 K2 同理，在系统G1(s)基础上构造一个新系统G2(s)。G2(s)的单位阶跃响应为：求拉氏变换：当输入u(t)=1(t)时，输出 y(t)为：42第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法再利用终值定理可得：a2 G2(s)求得 G2(s)与 G1(s)的关系:当输入u(t)=1(t)时，输出 y(t)为：43第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法当输入u(t)=1(t)时，输出 y(t)为：Kr 同理，在系统Gr-1(s)基础上构造一个新系统Gr(s)。Gr(s)的单位阶跃响应为：再用终值定理，由数学归纳法可得：ar 44第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法特点：）每求一次Ki，要计算一次面积，所以计算量大，而且误差随着积分次数增大而增大。故仅适用于低阶模型的辨识。）使用过程受到一定的限制，仅适用于特定的模型结构（即传函G(s)只有极点，而没有零点的情况）。由上述（n+1）个方程可求出（n+1）个待估参数：K，a1，an45第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法K1的物理意义：由 可知，K1为阴影部分的面积。（几何意义）将 G(s)改写成极点形式：显然：（物理意义）146第二章第二章 过渡响应法和频率响应法过渡响应法和频率响应法三、由脉冲响应曲线辨识传函 1、矩法 脉冲响应g(t)可由单位阶跃响应微分后求得，也可用窄方波响应来近似。（方波宽度 T 时，g()0 对于第一个周期的激励而言，（时间 在 0T 区间）有：88第三章第三章 相关分析法相关分析法 采用具有上述二性质的输入信号后，即可保持采用白噪声信号所具有的优越性，又可以解决 Ruy()的积分时间太长的问题，理论上只要在一个周期 T 内积分就可以了。具有上述二性质的输入信号到底能找到吗？具有上述二性质的输入信号到底能找到吗？若有，又将如何产生呢？若有，又将如何产生呢？思路：维纳霍甫方程 解决了抗干扰问题 引出了解积分方程难的问题 采用白噪声作为u(t)解决之，使得Ruy()与 成比例 尚存在求Ruy()积分时间长问题 采用周期性，近似白噪声伪随机信号解决之，并仍保持Ruy()与 成比例89一、M序列产生的方法及性质：第三章第三章 相关分析法相关分析法随机地掷一枚硬币的随机试验，结果：正面：+1；反面：1 反复试验 得到以+1，1两元素组成的随机序列u(k)。当实验次数N相当大时，该序列u(k)具有以下两性质：序列中+1与1出现的次数几乎相等；（Eu=0）随机序列的自相关函数 Ruu(0)=max，离开原点时，Ruu()=0。（Ruu）显然该序列接近于白噪声，最好它还应该是一个周期序列，在一个周期内具有上述白噪声性质。它在一个周期内观测时是一个随机信号；若观测时间很长时是一个周期信号。由于序列只有+1，1两元素，称为伪随机二位式序列 PRBS（Pseudo Random Binary Signal）序列 (它有规律性，故称伪随机，且可以人为产生和复制。)3 3 2 2 伪随机二位式序列产生的方法及性质伪随机二位式序列产生的方法及性质 90n=4，k=2（初态为：1111）时，码数 NP=6n=4，k=3（初态为：1111）时，M序列 最大长度的伪随机二位式序列。第三章第三章 相关分析法相关分析法 由 n 个双稳态触发器顺序组成 n 级移位寄存器，将第 k 级与第 n 级状态“异或”后，反馈到第一级输入端。究竟k选哪一级呢？它将影响输出的性质。若k选择合适，将得到一个M序列。（初态不能为全零，否则输出总是零）码数 NP=151、M序列的产生91一个 n 级移位寄存器的输出序列的最大长度=？除各级全0的状态外，共有（2n 1）种不同的组合状态。第三章第三章 相关分析法相关分析法若 NP=2n 1，则该序列为最大长度序列或M序列。当 n 12 时，大约半数序列要用二级反馈产生，其他的则要用 4 级反馈来产生M序列。2、M序列的性质1）是一个确定的周期性序列，它的周期长度 NP=2n 1 2）一个周期内。“0”状态比“1”状态少1个。（避免出现全“0”状态）“1”状态：“0”状态：92第三章第三章 相关分析法相关分析法3）若将序列中相邻状态不变的那一部分长度称“游程”（或“段”），则在一个周期内的游程总数为 m。不允许 n 个全零状态，只有一个 n 个码为全“1”游程总数 如：n=4 1 1 1 1 0 1 0 1 1 0 0 1 0 0 0m=8根据概率论可知，若游程总数为 m，则：游程长度为 i 的为：游程长度为 n 的为：93第三章第三章 相关分析法相关分析法4）移位相加性：若将一个M序列与将其延迟了r个码以后的序列，按模2加法原则相加，所得的新序列还是M序列，不过延迟了q个码，r、q均为整数，且1 r，q Np 1。，1 r，q Np 1 例：5）M序列具有近似离散的白噪声性质。下面将详细讨论M序列的自相关函数和功率密度谱。b94第三章第三章 相关分析法相关分析法3、M序列的相关函数和功率密度谱：1）相关函数：定义:“1”状态的逻辑电平为“a”，“0”状态的逻辑 电平为“+a”（为负逻辑关系，反之结论一样）。由Ruu()定义可知：Tp=Np 95第三章第三章 相关分析法相关分析法(1)离散情况(=/):其中：=/,设 是 的整数倍，此时 Ruu()取值于=0，1，2，Np1Ruu()写成离散形式为：显然模2乘法的结果与模2加法的结果在逻辑上是完全一样的，都为异或关系。即：同号码+a2（0）u(k)与u(k+)码的电平符号相同。异号码 a2（1）u(k)与u(k+)码的电平符号相异。（同号码个数）（异号码个数）96=1，2，Np1 第三章第三章 相关分析法相关分析法 当 =1，2，Np1 时：u(k)u(k+)在逻辑状态上相当于原序列u(k)与另一延迟序列u(k+)按摸2加法原则相加。根据M序列的移位相加性质可知，所得的结果在逻辑状态上仍是一个M序列。同号码个数=新序列“0”状态个数=异号码个数=新序列“1”状态个数=当新的序列为“0”状态时，说明u(k)与u(k+)是同号当新的序列为“1”状态时，说明u(k)与u(k+)是异号97第三章第三章 相关分析法相关分析法 当 =0 时：(同一个M序列自乘)=1，2，Np1 98第三章第三章 相关分析法相关分析法（2）连续情况（不是 的整数倍）：（为平均面积值）为一个周期内曲线 u(t)u(t+)所围成的面积。即：一个周期内曲线 u(t)u(t+)所围成的：正面积 负面积99第三章第三章 相关分析法相关分析法 当 =0 时：(0 )M序列每出现一次状态转换，积分将出现一个负面积(a2)由M序列的性质3可知，在一个周期内：状态转换的次数 M序列游程总数 负面积正面积100第三章第三章 相关分析法相关分析法负面积 正面积 101第三章第三章 相关分析法相关分析法它是 的线性函数，因此可确定其两点：当=0 时，Ruu()=a2;当=时，Ruu()=Ruu()=Ruu(-)为偶函数，在 内，Ruu()为一个 波。102第三章第三章 相关分析法相关分析法 当 Ts（系统的过渡过程时间），即：当 t (Np-1)时，g(t)0 维纳霍甫方程的离散形式为：其中：3 3 用用M序列辨识线性系统的脉冲响应函数序列辨识线性系统的脉冲响应函数124第三章第三章 相关分析法相关分析法在离散情况下M序列的Ruu()为：它是由Ruu2()产生的 令125第三章第三章 相关分析法相关分析法 脉冲响应函数 g(k)有界，C 为有界常数，且 C 0 1、作图法将 Ruy()上移C 就可以得到：-C 一般可以通过对Ruy()的稳态值的目测得到。从而得到：126第三章第三章 相关分析法相关分析法2、解析法通过精确计算公式得到：方程两边同求和，可得：127第三章第三章 相关分析法相关分析法二、估计量 的统计特征1、是无偏的，即方程两边同取均值，可得：128第三章第三章 相关分析法相关分析法此时，又回到理论的维纳霍甫方程，所以：=0此时g()已经是一个确定的量了！129第三章第三章 相关分析法相关分析法2、是一致估计量，即方程两边同取二阶原点矩，可得：130第三章第三章 相关分析法相关分析法同证明无偏性一样，可得：可得 的方差为:自然说明了估计量 的有效性。是一致估计量。131第三章第三章 相关分析法相关分析法三、提高估计精度的方法的估计精度取决于Ruy()的精度。1、提高采样速率提高Ruy()的精度：取采样周期To=/(=14),用更多的y(t)数据计算Ruy()。2、采用多个周期的M序列输入r+1个周期的M序列，测得r个周期的y(t)计算Ruy()。通常取 r=144132第三章第三章 相关分析法相关分析法四、计算 的方法（采用多个周期）1、一次完成法（离线计算法）定义：上式写出向量矩阵形式：133第三章第三章 相关分析法相关分析法UNp x r NpYr Np x 1134第三章第三章 相关分析法相关分析法2）需要输入r+1个周期的u(k)：u(-Np+1)u(r Np-1)。特点：1）一次离线求出 （=0,1，Np-1)。3）精度要求较高时，Ruy()的计算精度要高，r的数目要大，所以数据存储量大。4）不是递推公式，无法在线辨识。135第三章第三章 相关分析法相关分析法2、递推算法 设已获得M对I/O数据，且M（=0,1，Np-1，M Np-1），即必须先观测至少一个周期。Ruy()的递推公式，即全部的M对I/O数据的Ruy(,M)可以用过去的(M-1)对I/O数据算得的Ruy(,M-1)和第M次观测的最新数据y(M)和u(M)递推地计算出。136第三章第三章 相关分析法相关分析法可得向量矩阵形式：令137第三章第三章 相关分析法相关分析法 可以通过过去的 和最新的数据y(M)和u(M)在线求得，随着I/O数据的增加，的精度不断地提高。递推公式138第三章第三章 相关分析法相关分析法 用逆重复M序列辨识线性系统的脉冲响应函数，比采用M序列所得的算式更简单。对于周期为2Tp的逆重复M序列，仍要求Tp满足(Tp-)Ts。可得维纳霍甫方程为：3 3 4 4 用逆重复用逆重复M M序列辨识线性系统的脉冲响应函数序列辨识线性系统的脉冲响应函数139第三章第三章 相关分析法相关分析法 Ts（系统的过渡过程时间）。工程上一般取：Np=(1.21.5)Ts /在理论推导时，假设：当 t (Np-1)时，g(t)0 一般取：既保证系统的线性，又不超出设备允许公差的最大幅值 a。146第三章第三章 相关分析法相关分析法五、计算Ruy()在生产现场做试验，一般是在系统的正常工作状态 uo上再附加一个PRBS 输入 u(t)。当 t Ts 后，系统的非零初始条件将消失，y(t)中的零输入响应消失了，只剩下由 u(t)激起的强制响应，此时 y(t)已经是一个平稳随机过程了。所以，必须对系统先加一个周期 u(t)的预激励，从第二周期开始再量测 I/O 数据，用以计算Ruy()。b系统的实际输入：u*(t)=uo+u(t)系统的实际输出：y*(t)=yo+y(t)所以，计算 Ruy()时必须从实际输出 y*(t)中将稳态数据 yo 除去。147 设MIMO系统:输入:u1(t),u2(t),uJ(t)输出:y1(t),y2(t),yI(t)G()第三章第三章 相关分析法相关分析法为了辨识多变量系统 G()，需要辨识IJ个子系统：gij()(i=1,2,I;j=1,2,J)3 3 6 6 多变量系统的辨识多变量系统的辨识148式中T1 是所有子系统 gij()中最大的系统调节时间，即：第三章第三章 相关分析法相关分析法第i个输出：显然，yi(t)与 J 个子系统的脉冲响应有关。设uj(t)(j=1,2,J)均为周期性试验信号，且周期T T1,与SISO系统相似，可得MIMO系统的维纳霍甫方程：多变量系统卷积公式为向量矩阵形式:IJ IJ JJ149第三章第三章 相关分析法相关分析法式中:150第三章第三章 相关分析法相关分析法第j个输入、第i个输出的维纳霍甫方程：第 j 列、第 i 行自相关函数若uj(t)（j=1,2,J）为互不相关，即：且 uj(t)又最好都是 M 序列或逆重复 M 序列 ,则可以用类似前面 SISO 系统的相关法求得：由于存在第二项互相关函数，使得求 产生困难。=0互相关函数151第三章第三章 相关分析法相关分析法 取 uj(t)=M 序列，um(t)=Um=Const (m j)1、逐个试验法缺点：1）若输入多，J 较大时，则试验时间较长。2）各个输入之间的交叉作用不能充分反映出来，误差较大。根据 uj(t)和 y1(t),y2(t),yI(t)可求得 G()的第 j 列：继续改变 uj(t),让 j=1,2,J，可求得 G()的全部 IJ 个元素：“1”比“0”的状态多1个152第三章第三章 相关分析法相关分析法2、联合试验法 为了消除式中的第二项互相关函数，最好的办法是使得:uj(t)(j=1,2,J)为互不相关，即在一个T周期内：2）当 J 2 时：利用 M 序列的移位相加性质，可以从一个 M 序列得到J 个 M 序列，它们的相位依次后移了Np J 个码。1）当 J=2 时：在 2Tp 内：M序列与逆重复M序列是不相关的。所以，两个输入可以分别采用M序列和逆重复M序列。同时可求得 G()的全部 IJ 个元素：153第三章第三章 相关分析法相关分析法对于 M 序列：154第三章第三章 相关分析法相关分析法 取在小于一个 TJ 内：uj(t)与 uj+1(t)以及其它的 um(t)都不相关。155第三章第三章 相关分析法相关分析法 上述两种方法仅适合 J 4 时的系统，否则试验 时间会太长，可能破坏 y(t)为平稳过程的假设。只需要一个Tp 就可求得 G()的全部 IJ 个元素：J 试验时间增长。逐个试验法：每个 uj(t)都要试验两个 Tp（预激励+试验）联合试验法：求 Ruu 和 Ruy 时要试验两个 Tp，而且：5156第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法 44 1 1 随机型典范差分方程随机型典范差分方程44 2 2 最小二乘估计方法最小二乘估计方法44 3 3 加权最小二乘法加权最小二乘法44 4 4 最小二乘参数估计的统计特征最小二乘参数估计的统计特征 44 5 5 广义最小二乘法广义最小二乘法 44 6 6 辅助变量法辅助变量法 44 7 7 增广矩阵法（增广最小二乘法）增广矩阵法（增广最小二乘法）44 8 8 相关分析相关分析最小二乘两步法最小二乘两步法 44 9 9 阶的辨识阶的辨识4 1 随机型典范差分方程随机型典范差分方程第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法令：引入延迟算子 z-1：157158CARMA模型（可控自回归滑动平均模型）1、CARMA：第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法（Controlled Auto-Regression Moving Average）对于SISO系统：2、CAR（可控自回归）：3、ARMA（自回归滑动平均）：159第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法6、静态自回归：n=0 （回归分析）5、MA（滑动平均）：4、AR（自回归）：1604 2 最小二乘估计方法最小二乘估计方法 第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法一、最小二乘法（L S）SISO的随机差分方程描述（CAR模型可控自回归）：其中 u(k)和 y(k)为实际测量的 I/O 序列，e(k)为过程噪声（观测噪声）。假设 e(k)为独立同分布的随机变量序列，具有零均值和方差2。上述方程可写成：待估未知参数 2n 个：161第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法 为了估计 2n 个参数，必须观测 N+n 次，N 2n，从而得到 N 个方程组。定义：每一个观测方程：162第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法每一个观测方程：可得观测方程组的向量矩阵方程：最小二乘的标准格式 特点：输出关于参数是线性的。最小二乘估计准则：在最小二乘模型类（CAR模型）中，找出这样一个模型，在这个模型中，系统参数向量 的估计量 ，使得性能指标函数（标量函数）：因为 J 是 的二次函数，所以 J 存在极值。min163第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法 极小化估计准则 J 的必要条件：正规方程式 从而得：解的表达式 a估计量 的解：164第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法 极小化估计准则 J 的充分条件：为正定的。若T是正则的(非奇异)，则T是准正定的T是正定的满足 J 极小的充分条件。165第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法 因为 T 与 无关（为常矩阵），所以 J 只有一个局部极小值存在，当然也是全局极小值。故最小二乘估计量 是唯一的。LS 的估计准则实际上是:使得残差平方和为观测误差平方和的极小值。由于在 中，是在取好足够数据后一次计算出来的，所以称之为一次完成估计式。166第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法二、递推最小二乘法 递推算法可以减少内存存贮量和计算量，同时还可以实现在线辨识。在一次完成法中：I/O数据越多 结果精度越高 存贮量增大，计算量增大 设观测 N+n 对 I/O 数据后，获得参数最小二乘估计为其中：167第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法当增加一对新的观测数据 u(n+N+1)和 y(n+N+1)后，第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法根据矩阵求逆引理：168169第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法170第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法171第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法可得递推最小二乘估计公式：可得估计值的递推公式：b172第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法特点：1、递推公式中包含着反馈的概念，具有明显的直观意义。是用前N步的数据和估计值 来预报第N+1步的y(n+N+1)。表示在n+N+1时刻输出实测值与预报值之差，即用第N步结果预测第N+1步的残差。它是在n+N+1时刻的观测y(n+N+1)带来的新息，是修正参数估计值的 信息来源。173第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法 所以第N+1步的估计 是在第N步估计 的基础上，利用新的观测y(n+N+1)带来的新息对其加以修正后得来的,修正项与 成正比。K(N)表示增益因子，它是一个时变增益矩阵。2、是个标量，它的求逆只是一个简单的除法，从而避免了矩阵求逆运算，计算效率大大提高。174第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法3、P(N)和 的初值设定：利用一次完成法计算初值 :为了使得T是正定矩阵，观测次数N0+n中必须取N0 2 n 。人为地设定初值 :极小化的充分条件为:2 为数值很大的标量，一般 取计算机的最大字长。可以证明，按上述设定初值 后，从第n+1组数据开始进行递推，经过N次递推计算后所得到的递推估计 。在数值上基本与所有N+n组数据的一次完成估计 相同。人为设置法选定初值比利用一次完成法设置初值的优点是避免了在求初值时求 的矩阵求逆运算。175第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法依次可递推得：176第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法177当 N 2n 时，可得：依次递推可得第 N 次递推结果：第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法178递推最小二乘运算框图：第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法 其中 表示：中的第 i 个分量。（i=1,2,2n)4、估计过程中，显然“历史”数据没有保存下来，但是“历史”数据的影响却一直在起作用。故称之为“无限增长记忆”的最小二乘递推算法。6第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法三、数据饱和现象及实时估计1、数据饱和现象：理论上：N 的精度实际上可能出现：N （结果相反）P(N)0故 P(N)是递减的，当 N 时，可能会出现 P(N)0。P(N)0 意味着新的观测值对参数估计量的修正已不再起作用了，这种现象称为“数据饱和”现象。179为实对称矩阵，且 P(N)可逆180第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法 当出现“数据饱和”时，由于计算机的字长有限，所以存在舍入误差，因此，新的观测数据不但对参数估计不起改进作用，反而会使得 P(N)失去正定性，甚至失去对称性，造成参数的估计量与真实值之间的偏差越来越大。2、实时估计算法：无限增长记忆最小二乘递推算法的缺陷：对所有观测数据的加权相同，可能出现“数据饱和”现象。此时，递推算法就有可能不能反映出系统参数的时变性。参数随时间变化的信息含于新数据中，如果不采用降低旧数据影响的递推算法，新数据就会被旧数据淹没掉，因此，需要一种能跟踪参数变化的递推算法，称为实时估计算法。可以用降低旧数据影响的办法克服数据饱和现象。181第四章第四章 线性系统参数估计的最小二乘法线性系统参数估计的最小二乘法1）渐消记忆法（带遗忘因子的LS递推法）思路：对每次观测的数据按指数加权，旧数据所加的权按指数衰减，从而人为地强调当前的新数据，降低旧数据的影响。182第四章第四章 线性系统参数估计的最小二乘法线性系统参