kohonen神经网络PPT.ppt

,#,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,Kohonen,神经网络,组长：陈永兴,组员：李文采 刘娇 陈爽,1,2,kohonen,神经网络,竞争学习,kohonen,神经网络背景,kohonen,神经网络概念与原理,kohonen,神经网络应用,3,背景,在生物神经系统中，存在着一种侧抑制现象，即一个神经细胞兴奋以后，会对周围其他神经细胞产生抑制作用。这种抑制作用会使神经细胞之间出现竞争，其结果是某些获胜，而另一些则失败。表现形式是获胜神经细胞兴奋，失败神经细胞抑制。,kohonen,神经网络就是模拟上述生物神经系统功能的人工神经网络。,4,kohonen,神经网络是一种无监督学习，具有自组织功能的神经网络。网络通过自身的训练，能自动对输入模式进行分类。自组织竞争型神经网络的结构及其学习规则与其他神经网络相比有自己的特点。,在网络结构上，它一般是由输入层和竞争层构成的两层网络。两层之间各神经元实现双向连接，而且网络没有隐含层。有时竞争层各神经元之间还存在横向连接。,5,在学习算法上，它模拟生物神经元之间的兴奋、协调与抑制、竞争作用的信息处理的动力学原理来指导网络的学习与工作，而不像大多数神经网络那样是以网络的误差或能量函数作为算法的准则。,竞争型神经网络构成的基本思想是网络的竞争层各神经元竞争对输入模式响应的机会，最后仅有一个神经元成为竞争的胜者。这一获胜神经元则表示对输入模式的分类。,6,kohonen,神经网络的典型结构,竞争层,输入层,kohonen,概念与原理,7,分类,分类是在类别知识等导师信号的指,导下，将待识别的输入模式分配到各自的模,式类中去。,聚类,无导师指导的分类称为聚类，聚类,的目的是将相似的模式样本划归一类，而将,不相似的分离开,。,竞争学习的概念,8,相似性度量,欧式距离法,两个模式向量的欧式距离越小，两个向量越接近，因此认为这两个模式越相似，当两个模式完全相同时其欧式距离为零。如果对同一类内各个模式向量间的欧式距离作出规定，不允许超过某一最大值,T,，则最大欧式距离,T,就成为一种聚类判据，同类模式向量的距离小于,T,，两类模式向量的距离大于,T,。,9,相似性测量,余弦法,两个模式向量越接近，其夹角越小，余弦越大。当两个模式向量完全相同时，其余弦夹角为,1,。如果对同一类内各个模式向量间的夹角作出规定，不允许超过某一最大夹角,a,，则最大夹角就成为一种聚类判据。同类模式向量的夹角小于,a,，两类模式向量的夹角大于,a,。余弦法适合模式向量长度相同和模式特征只与向量方向相关的相似性测量。,10,1981,年芬兰,Helsink,大学的,T.Kohonen,教授提出一种自组织特征映射网，简称,SOM,网，又称,Kohonen,网。,Kohonen,认为：一个神经网络接受外界输入模式时，将会分为不同的对应区域，各区域对输入模式具有不同的响应特征，而且这个过程是自动完成的。,自组织特征映射,正是根据这一看法提出来的，其特点与人脑的自组织特性相类似。,kohonen,神经网络,11,(,1),初始化 对输出层各权向量赋小随机数并进行归一化处理，得到 ，,j=1,2,m,；建立初始优胜邻域,N,j*,(0),；学习率,赋初始值。,(2),接受输入 从训练集中随机选取一个输入模式并进行归一化处理，得到 ，,p,1,2,P,。,(3),寻找获胜节点 计算 与 的点积，,j=1,2,m,，从中选出点积最大的获胜,节点,j*,。,Kohonen,学习算法（胜者全取）,12,(4),定义优胜邻域,Nj*,(,t,),以,j*,为中心确定,t,时刻的权值调整域，一般初始邻域,Nj*,(0),较大，训练过程中,Nj*,(,t,),随训练时间逐渐收缩。,13,(5),调整权值,对优胜邻域,N,j*,(,t,),内的所有节点调整权值：,i=1,2,n,j,N,j*,(,t,),式中，是训练时间,t,和邻域内第,j,个神经元与获胜经,元,j*,之间的拓扑距离,N,的函数，该函数一般有以下规律：,(,6,)输出结果 获胜节点为,1,，其他节点为,0,；,14,(7),结束检查,学习率是否衰减到零或某个预定的正小数,15,16,Kohonen,学习算法程序流程,kohonen神经网络应用,17,18,谢谢大家,19,