递推最小二乘法市公开课一等奖省赛课微课金奖课件.pptx

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,1,2025/10/24 周五,第1页,2,考虑系统模型：,回顾,最小二乘法辨识,第2页,3,则可写为,N,维输出向量,2n+1,维,参数向量,N,维噪声向量,N,(,2n+1),维,测量矩阵,最小二乘法：,第3页,4,最小二乘预计要求残差平方和为最小，即按照指标函数,为最小来确定估值 。求,J,对 偏导数并令其等于,0,可得 最小二乘预计,J,为极小值充分条件是,即矩阵 为,正定矩阵,。,第4页,5,2025/10/24 周五,图,4.1,动态系统递推最小二乘在线辨识过程原理图,第5页,6,2025/10/24 周五,令 ，则递推最小二乘算法,递推最小二乘法,第6页,7,2025/10/24 周五,该递推公式有显著,物理意义：,称 为新息，表示实测值与预报值之差，,而 为新息校正增益。,第7页,8,数据饱和现象,在实际应用中，递推最小二乘法经常会出现数据饱和现象。,所谓数据饱和现象是指伴随时间推移，采集数据越来越多，新数据提供信息被旧数据所淹没。,第8页,9,数据饱和现象,可见，伴随递推次数增加，,P(N),将越来越小,最终可能趋于零。,所以依据上式，新采样值对参数预计改进，已不再起作用了。,为了克服数据饱和现象，能够用降低旧数据影响方法来修改算法。,第9页,10,4.6,渐消记忆递推算法,渐消记忆法是对每个数据按指数加权，老数据作用逐步减弱。,假如再取得一对新观察值 ，,则有,由,n+N,个观察数据取得 最小二乘预计为,第10页,此时，由,n+N+1,个观察数据取得 最小二乘预计为,（,*,）,第11页,将上面结果带入,（,*,）,式，并展开得,第12页,又因为 ，则上式变为,令 ，,则得,渐消记忆,递推最小二乘算法,第13页,渐消记忆,递推最小二乘算法,第14页,渐消记忆,递推最小二乘算法,其中，,称为“遗忘因子”。选择不一样,就得到不一样遗忘效果。,越小，遗忘速度越快。,=1,：无遗忘；,=0,：全遗忘,普通来说，,必须选择靠近于,1,正数，对于线性系统，应选择,0.95,1,。,第15页,限定记忆法,思绪,：限定每次预计都用最新,n+N,个数据，增加一个新数据就去掉一个老数据。,第16页,17,2025/10/24 周五,4.7.1,最小二乘预计特点,1,）唯一性,3,）应用简单，鲁棒性好,4.7,最小二乘预计性质,2,）适用范围广,第17页,18,2025/10/24 周五,4.7.2,最小二乘预计概率性质,假如,(k),是不相关随机序列，且均值为,0,。,1,）无偏性,2,）一致性,4,）渐进正态性,辅助变量法、广义最小二乘法、增广矩阵法,假如,是均值为,0,且服从正态分布白噪声向量，则最小二乘参数预计值服从正态分布。,3,）有效性,在众多无偏预计中，方差最小。,第18页,最小二乘预计法缺点,最小二乘预计无偏性、一致性等概率性质，都是在,(k),为零均值、不相关随机序列前提下得到。,但实际系统中,(k),往往是相关，有些系统即使外加干扰为不相关随机序列，但在参数预计过程中，也变成相关随机序列了。,第19页,最小二乘预计法缺点,系统,B(z,-1,)/A(z,-1,),u(k),x(k),(k),y(k),+,第20页,最小二乘预计法缺点,可见,(k),是相关序列，进而得到最小二乘参数预计不是无偏、一致预计。,因而，,LS,预计方法应用受到一定限制，下面介绍在,LS,基础上加以改进方法。,第21页,22,4.8,辅助变量法,现在开始讨论怎样克服最小二乘法有偏预计问题。,对于原辨识方程,（,4.8.1,）,当 是不相关随机序列时，最小二乘法能够得到参数向量 一致性无偏预计。不过，在实际应用中 往往是相关随机序列。,第22页,23,式中,Q,是非奇异。,假定存在着一个 矩阵,Z,（与 同阶数）,满足约束条件,（,4.8.2,）,用 乘以式（,4.8.1,）等号两边得,（,4.8.3,）,由上式可得,（,4.8.4,）,第23页,24,假如取,（,4.8.5,）,作为 估值，则称估值 为辅助变量估值，矩阵,Z,称为辅助变量矩阵，,Z,中元素称为辅助变量。,从式（,4.8.5,）能够看到，与最小二乘法估值 计算公式含有相同形式，所以计算比较简单。,依据式（,4.8.1,）和式（,4.8.5,）可得,（,4.8.6,）,第24页,25,（,4.8.7,）,当,N,很大时，对上式等号两边取极限得,（,4.8.8,）,依据式（,4.8.2,）所假定约束条件，可得,所以辅助变量预计是无偏预计。,第25页,26,剩下问题是怎样选择辅助变量，即怎样确定辅助变量矩阵,Z,各个元素。选择辅助变量基本标准是式（,4.8.2,）所给出两个条件必须得到满足。,这能够简单地了解为所选择辅助变量应与 不相关，但与 中 和 强烈相关。,第26页,27,Z,能够有各种选择方法，下面介绍两种惯用选择方法。,1,）迭代辅助变量参数预计法,辅助变量取作,是辅助模型,（,4.8.9,）,输出向量 元素，辅助变量矩阵,Z,为,第27页,28,第28页,29,迭代辅助变量参数预计法,计算步骤：,第29页,30,2,）自适应滤波法,这种方法所选择辅助变量 和辅助变量矩阵,Z,形式与上一个方法完全相同，只是辅助模型中参数向量 预计方法与上一个方法有所不一样。取,式中：取 ；,d,取 ；为,k,时刻所得到参数向量预计值。当 是连续激励信号时，所选辅助变量能够满足式（,4.8.2,）所给出,2,个约束条件。,第30页,31,2025/10/24 周五,此次课内容总结,递推最小二乘法带来数据饱和问题,最小二乘预计法缺点,辅助变量法,渐消记忆递推最小二乘法,第31页,