基于神经网络的系统辨识课件.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,基于神经网络的系统辨识,*,基于神经网络的系统辨识,主要内容,1,、,智能控制的产生和基本特征,2,、基于神经网络的系统辨识,3,、基于神经网络的系统辨识示例,4,、基于神经网络的系统控制,5,、基于神经网络的系统控制示例,2,基于神经网络的系统辨识,13.1,智能控制的产生和基本特征,寻找不需要建立（精确）数学模型的控制方案，研究能够按照操作人员的智力、经验及意识发布指令的控制器。（含辨识器）。,凡是具备两个条件的智能学科都可以在智能控制上占一席之地：能够模拟人脑的智力行为处理复杂性、不确定性、非线性对象。,不需要对象的精确数学模型便能逼近满意控制。,智能控制阶段的研究对象是控制器，而传统控制理论的研究对象是被控对象，两者都是闭环负反馈形式。,3,基于神经网络的系统辨识,1,）辨识系统的基本结构,系统辨识的主要任务就是选择辨识模型，确定输入信号和误差信号及其差值。,2,）辨识模型,静态模型、动态模型、参数模型、非参数模型（阶跃响应、脉冲响应）、神经网络模型,3,）辨识系统中的误差准则,其中，有各种选择，最多的是平方函数,其中，是误差函数，定义区间为,0,M,被测系统,+,干扰,+,辨识模型,+,e,13.2,基于神经网络的系统辨识,4,基于神经网络的系统辨识,4,）神经网络辨识原理,由误差准则可知，系统辨识本质上是一个优化问题。辨识的方法大体上分两种：,基于算法的辨识方法,要求建立一个模型，该模型依赖于某个参数 ，把辨识转化成为对模型参数的估计。估计方法有：最小二乘法（快，线性），梯度下降法，极大似然法。,基于神经网络的辨识方法,在遇到不能线性化的非线性系统时，对应的模型难于转化成关于参数空间的线型模型。基于算法的辨识方法将束手无策。,13.2,基于神经网络的系统辨识,5,基于神经网络的系统辨识,基于神经网络的辨识系统结构图如下图所示。辨识不在意神经网络以什么形式去逼近实际系统，只关心神经网络的输出与被辨识系统的输出相差多少，可否为零。,被辨识系统,+,V(k),+,辨识模型,+,y(k),-,延时,u(k),e(k),13.2,基于神经网络的系统辨识,6,基于神经网络的系统辨识,5,）辨识系统中的非线性模型,神经网络作系统辨识，主要用于非线性辨识和自适应。由于非线性系统在能控性、能观性、负反馈调节、状态观测器设计等方面还没有成熟的作法。难度是非线性系统的辨识模型和控制模型不易选取，为此，用神经网络辨识非线性系统必须作一些假设限制：,被控对象具有能控性、能观性。,对所有可能的输入控制量,u,，被控对象的输出,y,存在并有界。,在辨识模型中的神经网络允许一个或几个不同的神经网络结构用于被控对象。,辨识模型的基本结构为包含神经网络的串,并联结构。,13.2,基于神经网络的系统辨识,7,基于神经网络的系统辨识,前两条为保证系统的稳定性和可辨性，第三条为了方便选择模型，简化处理过程，第四条限制主要是为了易于达到以下目的：,由于输出,y,存在并有界，那么串,并联模型中的所有信号均有界，辨识模型易于稳定。,串,并联模型间无反馈，使从后向前的静态反向传输算法成为可能。,当误差足够小时，不使用串,并联结构，只用并联结构也能有好的效果。,在前述四种假设限制下，能够写出常用的一些非线性典型模型，现举例如下：,13.2,基于神经网络的系统辨识,8,基于神经网络的系统辨识,n=2,m=0,时的并联结构如图,3,所示。,u(k),-,e(k+1),+,+,Z,-1,a,0,a,1,Z,-1,+,+,N,+,Z,-1,a,0,a,1,Z,-1,+,+,g,+,+,y(k+1),图,3,并联结构,13.2,基于神经网络的系统辨识,9,基于神经网络的系统辨识,n=2,m=0,时的串联结构如图,4,所示。,u(k),-,e(k+1),+,+,Z,-1,a,0,a,1,Z,-1,+,+,N,+,Z,-1,a,0,a,1,Z,-1,+,+,g,+,+,y(k+1),图,4,串,-,并联结构,13.2,基于神经网络的系统辨识,10,基于神经网络的系统辨识,结构同图,3,、图,4,，将,g,换为,f.,后两种用神经网络实现起来较难。,13.2,基于神经网络的系统辨识,11,基于神经网络的系统辨识,6,）非线性系统逆模型的神经网络辨识,什么叫系统的逆模型,在正常情况下，对系统进行分析的主要任务就是：系统在一个控制信号的作用下，将会产生什么样的输出；产生什么样的运动轨迹。,例如：,y =f (x,u,T),输出,状态,输入,系统的控制作用,当输入,u,一定时，正常的系统分析过程是：已知,T(t),，确定,y(t),和,x(t).,系统,T(t),y(t),x(t),13.2,基于神经网络的系统辨识,12,基于神经网络的系统辨识,逆系统是：由,y(t),和,x(t),寻找控制信号,T(t).,系统,寻求,T(t),y(t),x(t),已知,T(t),y(t),x(t),或者是：由理想的,y(t),和,x(t),，如何寻找理想的,T(t).,13.2,基于神经网络的系统辨识,13,基于神经网络的系统辨识,系统分析逆模型的存在性,在一个控制系统中，如果已知了运动的轨迹,y(t),、,x(t),要想求出它的控制信号,T(t),，首先必然要知道这个控制信号是否存在？系统是否可逆？,线型系统的可逆性问题实际上是一个能控性问题，即线性可控系统即是可逆系统。非线性则未必。但有如下定理存在：,定理：如果对于,u(k),f y(k)y(k-n),u(k)u(k-m),严格单调，那么系统在点,y(k)y(k-n),u(k)u(k-m),T,处可逆。只有在所有点处可逆都成立，系统才是可逆的。,非线性系统的逆模型,非线性系统的逆模型研究包括逆系统建模和逆模型辨识两部分内容。逆系统建模是对非线性系统的逆运行过程建立一数学模型。逆模型辨识是对非线性系统的逆运行进行辨识识别，看其与哪种已知模型更接近。,13.2,基于神经网络的系统辨识,14,基于神经网络的系统辨识,通常认为，神经网络辨识是逆模型建立和辨识的有效和常用方法。下面仅介绍三种常用方法：,非线性系统逆模型的直接建立,该方法又称为泛化学习方法。泛化学习的本意是网络训练所覆盖的范围要比未知的逆系统所可能涉及的范围大一些。这样有利于获得更佳的逆动力学特性。,被控对象,-,ANN,+,e,u,y,这里的,ANN,常用,BP,RBF,CMAC,13.2,基于神经网络的系统辨识,15,基于神经网络的系统辨识,正,逆系统建模,这种方法的要点是在非线性系统的正模型（未知对象的动力学模型）基础上，获得逆动力学模型，共有三种方案。,a),被控对象,逆模型建模,这种方案的严重缺陷是：要求知道未知对象的模型。但恰恰在实际系统中，它是未知的，因此基本上是不实用的。,未知被控对象,-,ANN,+,e,u,y,13.2,基于神经网络的系统辨识,16,基于神经网络的系统辨识,b),正模型,逆系统建模,其中的正模型是指,xy,之间的映射（整个系统是单位反馈时才可用）。,这种方案的优点是：正模型建立之后就成为已知条件，未知被控对象的各种运算都能从正模型中计算出来。,不足之处在于逆模型的精度完全取决于正模型的精度。且这种缺陷是这种辨识结构所设。,正模型,-,ANN,+,e,u,y,被控对象,x,13.2,基于神经网络的系统辨识,17,基于神经网络的系统辨识,c),被控对象,-,正模型,逆模型建模,正模型,-,ANN,+,e,u,y,被控对象,y,0,13.2,基于神经网络的系统辨识,18,基于神经网络的系统辨识,例,1,线性离散系统辨识示例,仿真系统为二阶,SISO,系统，表示为,y(k)-1.5y(k-1)+0.7y(k-2)=u(k-1)+0.5u(k-2),。辨识器,NNI,选择串,-,并联结构，采用自适应线性神经元的,DTNN,网络。,这里的学习算法可采用一次性,LS,（离线）和递推,LS,及梯度下降法（在线）。,系统输入采用,M,序列，,M,序列选用周期,Np=15,的四阶,M,序列。,M,序列的图形可见仿真结果。,13.3,基于神经网络的系统辨识示例,19,基于神经网络的系统辨识,例,1,线性离散系统辨识示例,其中,function.prbs(n1,n,k1,k2,k3,k4),是产生,M,序列的函数,n1-n1,阶,M,序列,Np=(2,p,-1),n-M,序列的总长度,K,i,(i=1,4)-M,序列参数,K,3,一般取,0,，,K,4,一般取,0,，,K,1,K,2,选择使,Np,达到最大值,程序,Bianshi_ADLINE_L.M,采用的是离线辨识方法,Bianshi_ADLINE_Z.M,采用的是在线辨识方法,函数,prbs.M,是产生,M,序列的函数,13.3,基于神经网络的系统辨识示例,20,基于神经网络的系统辨识,例,2,具有输出量测噪声的一阶,SISO,系统的辨识,仿真系统模型为,y(k)-0.2y(k-1)=0.5u(k-1),。具有输出量测噪声,v(k)(,零均值,),的系统输出为：,z(k)=y(k)+v(k),该例为有输出噪声的随机系统的第一类问题。辨识器,ANNI,选串,并联结构。仍用自适应线性神经元（事先要已知被辨识系统的数学模型的结构，而且线性自适应神经元主要适应于线性系统。优点是结构简单，稳定性、收敛性无问题。非线性原则上可构造多个线性自适应神经元）,仿真系统,y(k),v(k),z(k),u(k),13.3,基于神经网络的系统辨识示例,21,基于神经网络的系统辨识,例,2,具有输出量测噪声的一阶,SISO,系统的辨识,训练采用的是,规则。,含输入输出噪声的随机模型的辨识问题的一般化描述为：,设随机系统为：,求得系统参数,的估计值。,13.3,基于神经网络的系统辨识示例,22,基于神经网络的系统辨识,例,3,基于高斯,RBF,网络的非线性动态系统辨识,仿真模型为：,系统输入信号为：,辨识器取串,-,并联结构，其中的,NN,取二维高斯,RBF,网络。,其中散布系数,SC=1,，中心参数是程序内部自设的。,13.3,基于神经网络的系统辨识示例,23,基于神经网络的系统辨识,例,4,基于,CMAC,的非线性动态系统辨识,仿真系统模型为：,系统输入信号为：,辨识器由,CMAC,与一个,Z,-1,组成。但这里选的是并联结构。全知权值依据,学习规则调整。这里设,y=1.8,（学习率）,C=5,（泛化常数,)N=5,，量化级,q=100.,系统输入范围,UminUmax=-11.,13.3,基于神经网络的系统辨识示例,24,基于神经网络的系统辨识,例,5,基于,PID,网络的非线性动态系统辨识,仿真系统模型：,系统输入信号为：,辨识器的输入,/,输出为：,PID,神经网络的输入,/,输出为：,PID,神经网络输出层用线性节点，准则函数取,设,1=0.15,，,2=0.08.,13.3,基于神经网络的系统辨识示例,25,基于神经网络的系统辨识,例,5,基于,PID,网络的非线性动态系统辨识,辨识器,ANNI,采用,PID,神经网络与按拍延迟线（两个,Z,-1,）组成，选用串,-,并联辨识结构，如下图所示：,13.3,基于神经网络的系统辨识示例,26,基于神经网络的系统辨识,以上例子中这类问题的一般化描述为：,非线性系统的差分方程形式包含有：,仿射型离散状态空间表达式：,一般型离散状态空间表达式：,13.3,基于神经网络的系统辨识示例,27,基于神经网络的系统辨识,对于前,5,个,SISO,系统而言，假设：,1,，模型结构已知，而,n m,已知。,2,，,u(k),，,y(k),可测量。,3,，对所有,u(k),而言，,y(k),是一致有界的，即系统稳定。,对于后面两个,MIMO,系统而言，假设,1,，系统具有能控性，能观性。,2,，输入,m,维，输出,p,维，状态,n,维。,在一般情况下多用传,-,并联辨识结构，这种结构下,ANNI,更容易保证其稳定性。,13.3,基于神经网络的系统辨识示例,28,基于神经网络的系统辨识,13.3,基于神经网络的系统辨识示例,29,基于神经网络的系统辨识,例,6,用线性自适应神经元进行线性系统逆模型辨识,仿真系统模型为：,由于,P(z),的零点,p=-0.5,极点为,0.75,与,j0.37,的和或者差，均在,Z,平面单位圆内，因此,P(z),是稳定的且具有一阶时延的系统,（,2,）系统逆模型，由于其极点在,Z,平面单位圆内，因此其是稳定的：,（,1,）求系统的,Z,传递函数,13.3,基于神经网络的系统辨识示例,30,基于神经网络的系统辨识,例,6,用线性自适应神经元进行线性系统逆模型辨识,（,3,）逆模型辨识：逆模型,神经网络的输出为,u(k-1).,输入为：,y(k),y(k-1),y(k-2),u(k-2),逆差分方程为：,逆模的参数为：,13.3,基于神经网络的系统辨识示例,31,基于神经网络的系统辨识,（,5,）在线逆模型辨识（模型还是例,6,的模型）,例,6,用线性自适应神经元进行线性系统逆模型辨识,在线逆模型辨识（但是不能用,M,序列，可用正弦和随机数）证明在线难度大,（,4,）离线逆模型辨识：,输入,u(k),循环周期,Np=15,的四阶,M,序列,程序名称,Bianshi_ADLINE_L_O.M,（离线）,13.3,基于神经网络的系统辨识示例,Bianshi_ADLINE_Z_O.M,（在线）,32,基于神经网络的系统辨识,这里主要解决如下的几个问题：,（,1,）神经控制的设计问题,（,2,）神经控制的集中结构及设计,（,3,）再励学习原理，再励学习与神经控制。,1,）神经网络控制系统的设计与实现,（,1,）神经控制系统的一般结构,神经控制器,y(t),-,T,保持器,对象或过程,传感器,u(t),T,e(t),r(t),13.4,基于神经网络的系统控制,(a),闭环确定性系统的,ANN,控制,33,基于神经网络的系统辨识,对于该神经控制的设计，就是神经辨识器、控制器结构（包括动态神经网络种类、结构）的选择，很可能需经多次试探过程，在,L2,意义下，使准则函数：,13.4,基于神经网络的系统控制,(b),不确定、不确知系统的一般结构（这里是单位反馈）,34,基于神经网络的系统辨识,2),神经自校正控制,神经自校正控制包括直接型（直接逆动态控制），间接型（就是常说的自校正控制）。,13.4,基于神经网络的系统控制,（,1,）神经网络直接自校正控制,此种控制结构要求对象可逆，其中,ANNI,和,ANNC,结构相同。学习算法也相同，输出,y,跟踪输入,r,的精度取决于逆模型的精度。另外，这种控制由于是开环控制，因此在实际工业生产应用的很少,35,基于神经网络的系统辨识,(2),神经网络自校正控制结构,由两个回路组成：自校正控制器与被控对象构成的反馈回路，神经网络辨识器与控制器设计，以得到控制器的参数。需要在线设计与实现。,13.4,基于神经网络的系统控制,36,基于神经网络的系统辨识,如果,g,为未知，则通过在线训练神经网络辨识器，使其逐渐逼近被控对象，由辨识器的函数代替这两个函数，则控制器的输出为：,式中，,Ng,N,分别为组成辨识器的非线性动态神经网络,13.4,基于神经网络的系统控制,38,基于神经网络的系统辨识,（,3,）神经网络辨识器,为使问题简化，考虑如下一阶被控对象：,网络辨识器由两个三层非线性,DTNN,实现，网络输入,y(k-1),u(k-1),输出为：,式中,W,V,为权系数。图中,L,表示线性节点,f()=x,。,H,为非线性节点,13.4,基于神经网络的系统控制,39,基于神经网络的系统辨识,因此，我们设定目标函数为,而取值的调整仍可采用,BP,算法,13.4,基于神经网络的系统控制,40,基于神经网络的系统辨识,例,7,被控对象具有非线性时变特性的神经网络自校正控制,仿真模型为：,仿真结果表明控制系统能有效地抑制扰动，且对被控对象的时变性，控制器能及时调整，表现为网络系值的调整，有自适应性,13.4,基于神经网络的系统控制,41,基于神经网络的系统辨识,3,）神经,PID,控制,神经,PID,控制结构中有两个神经网络：在线辨识器,(ANNI),，自适应,PID,控制器（,ANNC),。,原理：由,ANNI,在线辨识被控对象模型（正）的基础上，在线调整,ANNC,权系数，达到自适应控制目的。,13.4,基于神经网络的系统控制,42,基于神经网络的系统辨识,在线辨识器,ANNI,设计与实现,设被动对象为：,g,未知，采用串,-,并联结构由,ANNI,在线辨识。,ANNI,可采用,BP,网或,CAMC,或,RBF,网络。,BP,网络的输入为：,隐层为第,i,个节点的输出为：,13.4,基于神经网络的系统控制,43,基于神经网络的系统辨识,设目标函数为：,网络权值调整算法为：,13.4,基于神经网络的系统控制,44,基于神经网络的系统辨识,+,自适应线性神经元模型为：,其中每个适应性神经元的输入为：,W1,e(t),W2,e(t),W3,13.4,基于神经网络的系统控制,45,基于神经网络的系统辨识,+,自适应线性神经元模型为：,则,ANNC,网络权值调整算法为：,13.4,基于神经网络的系统控制,46,基于神经网络的系统辨识,+,又由,(1)-(6),可得：,13.4,基于神经网络的系统控制,47,基于神经网络的系统辨识,+,例,8,，被控对象具有非线性特性，仿真模型为：,本例的神经网络辨识模型采用例,7,中的辨识模型，即,BP,网络,:,控制器采用,PD,结构，即,:,13.5,基于神经网络的系统控制示例,48,基于神经网络的系统辨识,+,4,）神经内模控制（,IMC,Internal Model Control),内模控制原理,系统由三部分组成：对象、内部模型、内模控制器，内模控制的基本结构如下图所示：,13.5,基于神经网络的系统控制示例,49,基于神经网络的系统辨识,+,由结构图可知：,13.5,基于神经网络的系统控制示例,50,基于神经网络的系统辨识,+,例,9,用,PID,神经网络进行单变量非线性系统的控制,非线性系统模型为：,控制系统结构图为：,13.5,基于神经网络的系统控制示例,51,基于神经网络的系统辨识,从仿真结果可以看到,PIDNN,作为控制器与被控对象一起，作为广义网络，不需要进行系统辨识，它使控制系统即能跟踪输入,r(k),又能有效的抑制扰动,v(k).,对于单位反馈控制系统，取准则函数为：,13.5,基于神经网络的系统控制示例,52,基于神经网络的系统辨识,13.5,基于神经网络的系统控制示例,53,基于神经网络的系统辨识,thank you!,54,基于神经网络的系统辨识,