第8章-神经网络-Hopfield网络.ppt

,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第8章,Hopfield,反馈神经网络,内容安排,8.1 霍普菲尔德网络模型,8.2 状态轨迹,8.3 离散型霍普菲尔德网络（DHNN,）,8.4 连续型霍普菲尔德网络,反馈网络,(Recurrent Network),，又称自联想记忆网络，其目的是为了设计一个网络，储存一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到这个设计的平衡点上。,1982,年，美国加州工学院物理学家霍普菲尔德,(J,Hopfield),发表了一篇对人工神经网络研究颇有影响的论文。,反馈网络能够表现出非线性动力学系统的动态特性。它所具有的主要特性为以下两点：,第一、网络系统具有若干个稳定状态。当网络从某一初始状态开始运动，网络系统总可以收敛到某一个稳定的平衡状态；,第二，系统稳定的平衡状态可以通过设计网络的权值而被存储到网络中。,8,.,1,霍普菲尔德网络模型,图,8,.,1,反馈网络结构图,在反馈网络中，如果其激活函数,f(,),是一个二值型的硬函数，如图,8,.,2,所示，即,a,i,sgn(n,i,),，,i,l,2,r,，则称此网络为离散型反馈网络；,如果,a,i,=f(n,i,),中的,f(,),为一个连续单调上升的有界函数，这类网络被称为连续型反馈网络,。,图,8,.,3,中所示为一个具有饱和线性激活函数，它满足连续单调上升的有界函数的条件，常作为连续型的激活函数。,图,8,.,2 DHNN,中的激活函数,图,8,.,3 CHNN,中的激活函数,图,8,.,4,三维空间中的状态轨迹,对于,DHNN,，因为,N(t),中每个值只可能为,1,，或,0,，,1,，对于确定的权值,w,ij,，其轨迹是跳跃的阶梯式，如图中,A,所示。,对于,CHNN,，因为,f(,),是连续的，因而，其轨迹也是连续的，如图中,B,、,C,所示。,对于不同的连接权值,w,ij,和输入,P,j,(i,j=1,2,r),，反馈网络状态轨迹可能出现以下几种情况。,8,.,2,.,1,状态轨迹为稳定点,状态轨迹从系统在,t,0,时状态的初值,N(t,0,),开始，经过一定的时间,t(t,0),后，到达,N(t,0,+t),。如果,N(t,0,+t+,t)=N(t,0,+t),，,t,0,，则状态,N(t,0,+t),称为网络的稳定点，或平衡点。,即反馈网络从任一初始态P(0)开始运动，若存在某一有限时刻t，从t以后的网络状态不再发生变化：P(t+t)=P(t)，t0，则称该网络是稳定的。,处于稳定时的网络状态叫做稳定状态，又称为定吸引子。,3),网络的解,：如果网络最后稳定到设计人员期望的稳定点，且该稳定点又是渐近稳定点，那么这个点称为网络的解；,4),网络的伪稳定点,：网络最终稳定到一个渐近稳定点上，但这个稳定点不是网络设计所要求的解，这个稳定点为伪稳定点。,8,.,2,.,3,混沌现象,如果状态N(t)的轨迹在某个确定的范围内运动，但既不重复，又不能停下来，状态变化为无穷多个，而轨迹也不能发散到无穷远，这种现象称为混沌(chaos)。,在出现混沌的情况下，系统输出变化为无穷多个，并且随时间推移不能趋向稳定，但又不发散。,8,.,2,.,4,状态轨迹发散,如果状态,N(t),的轨迹随时间一直延伸到无穷远，此时状态发散，系统的输出也发散。,在人工神经网络中，由于输入、输出激活函数是一个有界函数，虽然状态,N(t),是发散的，但其输出,A(t),还是稳定的，而,A,（,t,）的稳定反过来又限制了状态的发散。,一般非线性人工神经网络中发散现象是不会发生的，除非神经元的输入输出激活函数是线性的。,如果把系统的稳定点考虑为一个能量函数的极小点，在状态空间中，从初始状态,N(t,0,),N(t,0,+t),，最后到达,N,*,。若,N,*,为稳定点，则可以看作是,N,*,把,N(t,0,),吸引了过去，在,N(t,0,),时能量比较大，而吸引到,N,*,时能量已为极小了。,根据这个道理，可以把这个能量的极小点作为一个优化目标函数的极小点，把状态变化的过程看成是优化某一个目标函数的过程。,因此反馈网络的状态移动的过程实际上是一种计算联想记忆或优化的过程。它的解并不需要真的去计算，只需要去形成一类反馈神经网络，适当地讨论其权重值,w,ij,，使其初始输入,A(t,0,),向稳定吸引子状态的移动就可以达到这个目的。,霍普菲尔德网络是利用稳定吸引子来对信息进行储存的，利用从初始状态到稳定吸引子的运行过程来实现对信息的联想存取的。,通过对神经元之间的权和阈值的设计，要求单层的反馈网络达到下列目标：,(1)网络系统能够达到稳定收敛；,(2),网络的稳定点,；,(3),吸引域的设计,。,8.3,离散型霍普菲尔德网络（DHNN,）,8,.,3,.,1 DHNN,模型结构,其输出类似于,MP,神经元，可表示为：,在上式中，取b0，权矩阵中有w,ij,w,ji,，且取w,ii,0，即DHNN采用对称联接。,因此，其网络结构可以用一个加权元向量图表示。,图8.5 霍普菲尔德网络图,由图8.5(a)，考虑到DHNN的权值特性w,ij,w,ji,，网络各节点加权输入和分别为：,8.3.2 联想记忆,联想记忆功能是DHNN的一个重要应用范围。要想实现联想记忆，反馈网络必须具有两个基本条件：,网络能收敛到稳定的平衡状态，并以其作为样本的记忆信息；,具有回忆能力，能够从某一残缺的信息回忆起所属的完整的记忆信息。,DHNN,实现联想记忆的过程分为两个阶段：学习记忆阶段和联想回忆阶段。,在学习记忆阶段中，设计者通过某一设计方法确定一组合适的权值，使网络记忆期望的稳定平衡点。联想回忆阶段则是网络的工作过程。,反馈网络有两种基本的工作方式：串行异步和并行同步方式。,1),串行异步方式：,2),并行同步方式：,在状态更新过程中，包括三种情况：由,-1,变为,1,；由,1,变为,-1,及状态保持不变。,在任一时刻，网络中只有一个神经元被选择进行状态更新或保持，所以异步状态更新的网络从某一初态开始需经过多次更新状态后才可以达到某种稳态。,这种更新方式的特点是：,实现上容易，每个神经元有自己的状态更新时刻，不需要同步机制；,功能上的串行状态更新可以限制网络的输出状态，避免不同稳态等概率的出现；,异步状态更新更接近实际的生物神经系统的表现。,离散型霍普菲尔德网络的学习目的：,对具有,q,个不同的输入样本组,P,r,q,P,1,P,2,P,q,，希望通过调节计算有限的权值矩阵,W,，使得当每一组输入样本,P,k,，,k=1,，,2,，,q,，作为系统的初始值，经过网络的工作运行后，系统能够收敛到各自输入样本矢量本身。,当,k,1,时，对于第,i,个神经元，由海布学习规则可得网络权值对输入矢量的学习关系式为：,其中，0，i1，2，r；j=1，2，r。在实际学习规则的运用中，一般取1或1/r。,DHNN的设计目的是使任意输入矢量经过网络循环最终收敛到网络所记忆的某个样本上。,因为霍普菲尔德网络有w,ij,w,ji,，所以完整的霍普菲尔德网络权值设计公式应当为：,用向量形式表示为：,当1时有：,其中，I为单位对角矩阵。,在神经网络工具箱中有关采用海布公式求解网络权矩阵变化的函数为learnh.m和learnhd.m，后者为带有衰减学习速率的函数：,dW1earnh(P，A，lr)；,或 dWlearnhd(W，P，A，lr，dr)；,对于简单的情况，,lr,可以选择,1,；对于复杂的应用，可取,lr,0.10.5,，,dr,lr,3,。,8,.,3,.,4,影响记忆容量的因素,设计DHNN网络的目的，是希望通过所设计的权值矩阵W储存多个期望模式。,从海布学习公式的推导过程中可以看出：当网络只记忆一个稳定模式时，该模式肯定被网络准确无误地记忆住，即所设计的W值一定能够满足正比于输入和输出矢量的乘积关系。,但当需要记忆的模式增多时，情况则发生了变化，主要表现在下面两点上：,(1),权值移动,当k=1时，有：,此时，网络准确的记住了样本T,1,，当k=2时，为了记忆样本T,2,，需要在记忆了样本T,l,的权值上加上对样本T,2,的记忆项T,2,T,2T,-I，将权值在原来值基础上产生了移动。,随着学习样本数k的增加，权值移动现象将进一步发生，当学习了第q个样本T,q,后，权值又在前q-1个样本修正的基础上产生了移动，这也是网络在精确的学习了第一个样本后的第q-1次移动。,对已记忆的样本发生遗忘，这种现象成为“疲劳”。,另一方面，由于在学习样本T,2,时，权矩阵W是在已学习了T,1,的基础上进行修正的。此时，因W起始值不再为零，所以由此调整得出的新的W值，对记忆样本T,2,来说，也未必对所有的s个输出同时满足符号函数的条件，即难以保证网络对T,2,的精确的记忆。,(2),交叉干扰,设输入矢量,P,维数为,r,q,，取,=1/r,，因为对于,DHNN,有,P,k,-1,，,1,，,k=1,，,2,，,，,q,，所以有,p,i,k,*p,j,k,p,j,k,*p,j,k,1,。当网络某个矢量,P,l,，,l,1,q,，作为网络的输入矢量时，可得网络的加权输入和,n,i,l,为：,上式右边中第一项为期望记忆的样本，而第二项则是当网络学习多个样本时，在回忆阶段即验证该记忆样本时，所产生的相互干扰，称为交叉干扰项。,8,.,3,.,5,网络的记忆容量确定,只要满足,r,q,，则有,sgn(N,l,),P,l,，保证,P,l,为网络的稳定解。,DHNN,用于联想记忆有两个突出的特点：即记忆是分布式的，而联想是动态的。,DHNN,局限性，主要表现在以下几点：记忆容量的有限性；伪稳定点的联想与记忆；当记忆样本较接近时，网络不能始终回忆出正确的记忆等。,另外网络的平衡稳定点并不可以任意设置的，也没有一个通用的方式来事先知道平衡稳定点。,所以真正想利用好霍普菲尔德网络并不是一件容易的事情。,8.3.6 DHNN,权值设计的其他方法,(1)学习规则：,(2)伪逆法,WNP,*,其中P,*,为P的伪逆，有P,*,(P,T,P),-1,P,T,，如果样本之间是线性无关的，则P,T,P满秩，其逆存在，则可求出权矩阵W来。由于存在求逆等运算，伪逆法较为繁琐，而海布法则要容易求得多。,(3),正交化的权值设计,这一方法的基本思想和出发点是为了满足下面四个要求：,1),保证系统在异步工作时的稳定性,；,2),保证所有要求记忆的稳定平衡点都能收敛到自己；,3),使伪稳定点的数目尽可能的少；,4),使稳定点的吸引域尽可能的大。,虽然正交化设计方法的数学设计较为复杂，但与外积和法相比较，所设计出的平衡稳定点能够保证收敛到自己并且有较大的稳定域。更主要的是在,MATLAB,工具箱中已将此设计方法写进了函数,solvehop.m,中：,W,，,b,solvehop(T),；,例,8.1,考虑一个具有两个神经元的霍普菲尔德网络，每个神经元具有两个权值和一个偏差。,网络所要存储的目标平衡点为一个列矢量T：,T1 -1；,-1 1；,W,b=solvehop(T);设计Hopfield网络。,用来进行测试的函数为,simuhop.m,；,8.4,连续型霍普菲尔德网络,霍普菲尔德网络可以推广到输入和输出都取连续数值的情形。这时网络的基本结构不变，状态输出方程形式上也相同。若定义网络中第i个神经元的输入总和为n,i,，输出状态为a,i,，则网络的状态转移方程可写为：,其中神经元的激活函数f为S型的函数(或线性饱和函数)：,或,图8.8 连续霍普菲尔德网络激活函数,例8.,2TSP,问题。,所谓TSP(Traveling Salesman Problem)问题，即“旅行商问题”是一个十分有名的难以求解的优化问题，其要求很简单：在n个城市的集合中，找出一条经过每个城市各一次，最终回到起点的最短路径。,如果已知城市A，B，C，D，之间的距离为d,AB,，d,BC,，d,CD,；那么总的距离dd,AB,+d,BC,+d,CD,+，对于这种动态规化问题，要去求其min(d)的解。,因为对于n个城市的全排列共有n!种，而TSP并没有限定路径的方向，即为全组合，所以对于固定的城市数n的条件下，其路径总数S,n,为S,n,n!2n(n4),图8.9 n4时的TSP路径图,表8.2 城市数和对应的旅行方案数,采用连续时间的霍普菲尔德网络模型来求解TSP，开辟了一条解决这一问题的新途径。其基本思想是把TSP映射到CHNN上，通过网络状态的动态演化逐步趋向稳态而自动地搜索出优化解。,TSP,的解是若干城市的有序排列，任何一个城市在最终路径上的位置可用一个,n,维的,0,、,1,矢量表示，对于所有,n,个城市，则需要一个,n,n,维矩阵，例如以,5,个城市为例，一种可能的排列矩阵为：,该矩阵唯一地确定了一条有效的行程路径：,CADBE,若用d,xy,表示从城市x到城市y的距离，则上面路径的总长度为：d,xy,d,CE,+d,AD,+d,DB,+d,BE,TSP的最优解是求长度d,xy,为最短的一条有效的路径。,(1)目标函数f(V),(2)约束条件g(V),约束条件要保证关联矩阵的每一行每一列中只有一个值为1，其他值均为零，用三项表示为：,(3)总的能量函数E,选择使用高增益放大器，这样能量函数中的积分分项可以忽略不计，求解得网络的联接权值为：,式中：,外部输入偏置电流为：,求解TSP的连接神经网络模型的运动方程可表示为：,霍普菲尔德和泰克(Tank)经过实验，认为取初始值为：SQP500，T200，RC1，U,0,0.02时，其求解10个城市的TSP得到良好的效果。,人们后来发现，用连续霍普菲尔德网络求解像TSP这样约束优化问题时，系统S、Q、P、T的取值对求解过程有很大影响。,本章小结,设计Hopfield网络的目的是用来存储一些平衡点集，当给定初始状态后，该网络最终能在设计点上平衡。该网络是递归的，其输出反馈为网络的输入。在理想状态下，网络的输出恰好是原始的设计点。,Hopfield,网络可以作为误差纠正或向量归类网络。从理论上说，,Hopfield,网络有意义，但实际上很少使用。因为即使是最好的,Hopfield,网络，也会有伪平衡点，从而导致错误结果。,作业：,设计一个三元的霍普菲尔德网络，使网络存储的目标平衡点为：,