自组织竞争型神经网络概述.pptx

第四章第四章 自组织竞争型神经网络自组织竞争型神经网络本章主要介绍自组织竞争型神经网络结构、本章主要介绍自组织竞争型神经网络结构、学习算法，及相关理论。学习算法，及相关理论。1自组织竞争型神经网络概述第1页第四章自组织竞争型神经网络第四章自组织竞争型神经网络4.1 序言序言4.2 竞竞争学争学习习概念和原理概念和原理4.3自组织特征映射神经网络自组织特征映射神经网络4.4自组织特征映射神经网络自组织特征映射神经网络设计设计4.5 对偶传输神经网络对偶传输神经网络4.6小结小结2自组织竞争型神经网络概述第2页4.1 序言序言n在生物神经系统中，存在着一个侧抑制现象，即在生物神经系统中，存在着一个侧抑制现象，即一个神经细胞兴奋以后，会对周围其它神经细胞一个神经细胞兴奋以后，会对周围其它神经细胞产生抑制作用。这种抑制作用会使神经细胞之间产生抑制作用。这种抑制作用会使神经细胞之间出现竞争，其结果是一些获胜，而另一些则失败。出现竞争，其结果是一些获胜，而另一些则失败。表现形式是获胜神经细胞兴奋，失败神经细胞抑表现形式是获胜神经细胞兴奋，失败神经细胞抑制。制。n自组织竞争型神经网络就是模拟上述生物神经系自组织竞争型神经网络就是模拟上述生物神经系统功效人工神经网络。统功效人工神经网络。3自组织竞争型神经网络概述第3页n自组织竞争型神经网络是一个无教师监督学习，自组织竞争型神经网络是一个无教师监督学习，含有自组织功效神经网络。网络经过本身训练，含有自组织功效神经网络。网络经过本身训练，能自动对输入模式进行分类。这一点与能自动对输入模式进行分类。这一点与Hopfield网络模拟人类功效十分相同，自组织竞争型神经网络模拟人类功效十分相同，自组织竞争型神经网络结构及其学习规则与其它神经网络相比有自网络结构及其学习规则与其它神经网络相比有自己特点。己特点。n在网络结构上，它普通是由输入层和竞争层组成在网络结构上，它普通是由输入层和竞争层组成两层网络。两层之间各神经元实现双向连接，而两层网络。两层之间各神经元实现双向连接，而且网络没有隐含层。有时竞争层各神经元之间还且网络没有隐含层。有时竞争层各神经元之间还存在横向连接。存在横向连接。4自组织竞争型神经网络概述第4页n在学习算法上，它模拟生物神经元之间兴奋、协在学习算法上，它模拟生物神经元之间兴奋、协调与抑制、竞争作用信息处理动力学原理来指导调与抑制、竞争作用信息处理动力学原理来指导网络学习与工作，而不像大多数神经网络那样是网络学习与工作，而不像大多数神经网络那样是以网络误差或能量函数作为算法准则。以网络误差或能量函数作为算法准则。n竞争型神经网络组成基本思想是网络竞争层各神竞争型神经网络组成基本思想是网络竞争层各神经元竞争对输入模式响应机会，最终仅有一个神经元竞争对输入模式响应机会，最终仅有一个神经元成为竞争胜者。这一获胜神经元则表示对输经元成为竞争胜者。这一获胜神经元则表示对输入模式分类。入模式分类。5自组织竞争型神经网络概述第5页n自组织竞争人工神经网络是基于上述生物结构自组织竞争人工神经网络是基于上述生物结构和现象形成。它能够对输入模式进行自组织训和现象形成。它能够对输入模式进行自组织训练和判断，并将其最终分为不一样类型。练和判断，并将其最终分为不一样类型。n与与BP网络相比，这种自组织自适应学习能力深网络相比，这种自组织自适应学习能力深入拓宽了人工神经网络在模式识别、分类方面入拓宽了人工神经网络在模式识别、分类方面应用，另首先，竞争学习网络关键应用，另首先，竞争学习网络关键竞争层，竞争层，又是许各种其它神经网络模型主要组成部分。又是许各种其它神经网络模型主要组成部分。6自组织竞争型神经网络概述第6页惯用自组织网络惯用自组织网络n自组织特征映射自组织特征映射(Self-Organizing Feature Map)网络网络n对偶传输对偶传输(Counter propagation)网络网络 返回返回 7自组织竞争型神经网络概述第7页自组织神经网络经典结构自组织神经网络经典结构竞争层竞争层输入层输入层4.2 竞争学习概念与原理竞争学习概念与原理8自组织竞争型神经网络概述第8页分类分类分类是在类别知识等导师信号指分类是在类别知识等导师信号指导下，将待识别输入模式分配到各自模导下，将待识别输入模式分配到各自模式类中去。式类中去。聚类聚类无导师指导分类称为聚类，聚类无导师指导分类称为聚类，聚类目标是将相同模式样本划归一类，而将目标是将相同模式样本划归一类，而将不相同分离开不相同分离开。4.2 竞争学习概念与原理竞争学习概念与原理竞争学习概念竞争学习概念9自组织竞争型神经网络概述第9页 相同性测量相同性测量欧式距离法欧式距离法两个模式向量欧式距离越小，两两个模式向量欧式距离越小，两个向量越靠近，所以认为这两个个向量越靠近，所以认为这两个模式越相同，当两个模式完全相模式越相同，当两个模式完全相同时其欧式距离为零。假如对同同时其欧式距离为零。假如对同一类内各个模式向量间欧式距离一类内各个模式向量间欧式距离作出要求，不允许超出某一最大作出要求，不允许超出某一最大值值T T，则最大欧式距离，则最大欧式距离T T就成为一就成为一个聚类判据，同类模式向量距离个聚类判据，同类模式向量距离小于小于T T，两类模式向量距离大于，两类模式向量距离大于T T。10自组织竞争型神经网络概述第10页 相同性测量相同性测量余弦法余弦法两个模式向量越靠近，其夹角越两个模式向量越靠近，其夹角越小，余弦越大。当两个模式向量小，余弦越大。当两个模式向量完全相同时，其余弦夹角为完全相同时，其余弦夹角为1 1。假如对同一类内各个模式向量间假如对同一类内各个模式向量间夹角作出要求，不允许超出某一夹角作出要求，不允许超出某一最大夹角最大夹角a a，则最大夹角就成为，则最大夹角就成为一个聚类判据。同类模式向量夹一个聚类判据。同类模式向量夹角小于角小于a a，两类模式向量夹角大，两类模式向量夹角大于于a a。余弦法适合模式向量长度。余弦法适合模式向量长度相同和模式特征只与向量方向相相同和模式特征只与向量方向相关相同性测量。关相同性测量。11自组织竞争型神经网络概述第11页竞争学习原理竞争学习原理竞争学习规则竞争学习规则Winner-Take-AllWinner-Take-All网络输出神经元之间相互竞争以求被激活，结网络输出神经元之间相互竞争以求被激活，结果在每一时刻只有一个输出神经元被激活。这果在每一时刻只有一个输出神经元被激活。这个被激活神经元称为竞争获胜神经元，而其它个被激活神经元称为竞争获胜神经元，而其它神经元状态被抑制，故称为神经元状态被抑制，故称为Winner Take Winner Take AllAll。4.2 竞争学习概念与原理竞争学习概念与原理12自组织竞争型神经网络概述第12页1.1.向量归一化向量归一化 首先将当前输入模式向量首先将当前输入模式向量X X和竞争层中各神经元对应内星向量和竞争层中各神经元对应内星向量W Wj j 全部全部进行归一化处理；进行归一化处理；(j=1,2,m)(j=1,2,m)13自组织竞争型神经网络概述第13页向量归一化之向量归一化之前前14自组织竞争型神经网络概述第14页向量归一化之向量归一化之后后15自组织竞争型神经网络概述第15页竞争学习原理竞争学习原理竞争学习规则竞争学习规则Winner-Take-All2.2.寻找获胜神经元寻找获胜神经元 当网络得到一个输入模式向当网络得到一个输入模式向量时，竞争层全部神经元对应内星权向量均与其量时，竞争层全部神经元对应内星权向量均与其进行相同性比较，并将最相同内星权向量判为竞进行相同性比较，并将最相同内星权向量判为竞争获胜神经元。争获胜神经元。欲使两单位向量最相同，须使其点积最大。即：欲使两单位向量最相同，须使其点积最大。即：16自组织竞争型神经网络概述第16页从上式能够看出，欲使两单位向量欧式距离最小，须使两向量从上式能够看出，欲使两单位向量欧式距离最小，须使两向量点积最大。即：点积最大。即：竞争学习规则竞争学习规则Winner-Take-All17自组织竞争型神经网络概述第17页3.3.网络输出与权值调整网络输出与权值调整 j j j*j*步骤步骤3 3完成后回到步骤完成后回到步骤1 1继续训练，直到学习率衰减到继续训练，直到学习率衰减到0 0。竞争学习规则竞争学习规则Winner-Take-All18自组织竞争型神经网络概述第18页竞争学习几何意义竞争学习几何意义19自组织竞争型神经网络概述第19页 *1W *jW *)()()()(*ttttjpWXW-=hD *)(*1tj+W )(tpX jW mW *竞争学习几何意义竞争学习几何意义20自组织竞争型神经网络概述第20页例例4.1 4.1 用竞争学习算法将以下各模式分为用竞争学习算法将以下各模式分为2 2类类：解：为作图方便，将上述模式转换成极坐标形式解：为作图方便，将上述模式转换成极坐标形式 ：竞争层设两个权向量，随机初始化为单位向量：竞争层设两个权向量，随机初始化为单位向量：21自组织竞争型神经网络概述第21页22自组织竞争型神经网络概述第22页23自组织竞争型神经网络概述第23页24自组织竞争型神经网络概述第24页25自组织竞争型神经网络概述第25页26自组织竞争型神经网络概述第26页27自组织竞争型神经网络概述第27页28自组织竞争型神经网络概述第28页29自组织竞争型神经网络概述第29页30自组织竞争型神经网络概述第30页31自组织竞争型神经网络概述第31页32自组织竞争型神经网络概述第32页n1981年芬兰年芬兰Helsink大学大学T.Kohonen教授提出一教授提出一个自组织特征映射网，简称个自组织特征映射网，简称SOM网，又称网，又称Kohonen网。网。nKohonen认为：一个神经网络接收外界输入模认为：一个神经网络接收外界输入模式时，将会分为不一样对应区域，各区域对输式时，将会分为不一样对应区域，各区域对输入模式含有不一样响应特征，而且这个过程是入模式含有不一样响应特征，而且这个过程是自动完成。自组织特征映射正是依据这一看法自动完成。自组织特征映射正是依据这一看法提出来，其特点与人脑自组织特征相类似。提出来，其特点与人脑自组织特征相类似。4.3自组织特征映射神经网络自组织特征映射神经网络33自组织竞争型神经网络概述第33页SOMSOM网生物学基础网生物学基础生物学研究事实表明，在人脑感觉通道上，神经元生物学研究事实表明，在人脑感觉通道上，神经元组织原理是有序排列。所以当人脑经过感官接收外界组织原理是有序排列。所以当人脑经过感官接收外界特定时空信息时，大脑皮层特定区域兴奋，而且类特定时空信息时，大脑皮层特定区域兴奋，而且类似外界信息在对应区域是连续映象。似外界信息在对应区域是连续映象。对于某一图形或某一频率特定兴奋过程，神经元有对于某一图形或某一频率特定兴奋过程，神经元有序排列以及对外界信息连续映象是自组织特征映射网序排列以及对外界信息连续映象是自组织特征映射网中竞争机制生物学基础。中竞争机制生物学基础。34自组织竞争型神经网络概述第34页SOMSOM网拓扑结构网拓扑结构SOMSOM网共有两层，输入层模拟感知外界输入信息视网共有两层，输入层模拟感知外界输入信息视网膜，输出层模拟做出响应大脑皮层。网膜，输出层模拟做出响应大脑皮层。35自组织竞争型神经网络概述第35页SOMSOM网权值调整域网权值调整域 SOM网获胜神经元对其邻近神经元影响是由近及网获胜神经元对其邻近神经元影响是由近及远，由兴奋逐步转变为抑制，所以其学习算法中远，由兴奋逐步转变为抑制，所以其学习算法中不但获胜神经元本身要调整权向量，它周围神经不但获胜神经元本身要调整权向量，它周围神经元在其影响下也要程度不一样地调整权向量。这元在其影响下也要程度不一样地调整权向量。这种调整可用三种函数表示：种调整可用三种函数表示：36自组织竞争型神经网络概述第36页37自组织竞争型神经网络概述第37页SOMSOM网权值调整域网权值调整域以获胜神经元为中心设定一个邻域半径，该半径圈以获胜神经元为中心设定一个邻域半径，该半径圈定范围称为优胜邻域。在定范围称为优胜邻域。在SOM网学习算法中，优网学习算法中，优胜邻域内全部神经元均按其离开获胜神经元距胜邻域内全部神经元均按其离开获胜神经元距离远近不一样程度地调整权值。离远近不一样程度地调整权值。优胜邻域开始定得很大，但其大小伴随训练次数优胜邻域开始定得很大，但其大小伴随训练次数增加不停收缩，最终收缩到半径为零。增加不停收缩，最终收缩到半径为零。38自组织竞争型神经网络概述第38页SOMSOM网运行原理网运行原理n训练阶段训练阶段 w1 w2 w3 w4 w539自组织竞争型神经网络概述第39页SOM网运行原理网运行原理n工作阶段工作阶段40自组织竞争型神经网络概述第40页SOM网学习算法网学习算法(1)初始化初始化 对输出层各权向量赋小随机数并进行归一化对输出层各权向量赋小随机数并进行归一化处理，得到处理，得到 ，j=1,2,m；建立初始优胜邻域；建立初始优胜邻域Nj*(0)；学；学习率习率 赋初始值。赋初始值。(2)接收输入接收输入 从训练集中随机选取一个输入模式并进行从训练集中随机选取一个输入模式并进行归一化处理，得到归一化处理，得到 ，p 1,2,P。(3)寻找获胜节点寻找获胜节点 计算计算 与与 点积，点积，j=1,2,m，从中，从中选出点积最大获胜节点选出点积最大获胜节点j*。(4)定义优胜邻域定义优胜邻域Nj*(t)以以j*为中心确定为中心确定t 时刻权值调整域，时刻权值调整域，普通初始邻域普通初始邻域Nj*(0)较大，训练过程中较大，训练过程中Nj*(t)随训练时间逐随训练时间逐步收缩。步收缩。Kohonen 学习算法学习算法41自组织竞争型神经网络概述第41页42自组织竞争型神经网络概述第42页(5)调整权值调整权值 对优胜邻域对优胜邻域Nj*(t)内全部节点调整权值：内全部节点调整权值：i=1,2,n j Nj*(t)式中，式中，是训练时间是训练时间t 和邻域内第和邻域内第j 个神经元与获胜经个神经元与获胜经元元 j*之间拓扑距离之间拓扑距离N 函数，该函数普通有以下规律：函数，该函数普通有以下规律：43自组织竞争型神经网络概述第43页(6)结束检验结束检验 学习率是否衰减到零或某个预定正小数？学习率是否衰减到零或某个预定正小数？44自组织竞争型神经网络概述第44页Kohonen学学 习习 算算 法法 程程 序序 流流 程程45自组织竞争型神经网络概述第45页功 能 分 析(1)保序映射保序映射将输入空间样本模式类有序地映射在输出层上。将输入空间样本模式类有序地映射在输出层上。例例1：动物属性特征映射。：动物属性特征映射。46自组织竞争型神经网络概述第46页功效分析功效分析47自组织竞争型神经网络概述第47页功功 能能 分分 析析(2)数据压缩数据压缩-将高维空间样本在保持拓扑结将高维空间样本在保持拓扑结构不变条件下投影到低维空间，在这方面构不变条件下投影到低维空间，在这方面SOM网含有显著优势。不论输入样本空间是网含有显著优势。不论输入样本空间是多少维，其模式都能够在多少维，其模式都能够在SOM网输出层某个网输出层某个区域得到对应。区域得到对应。SOM网经过训练以后，在高网经过训练以后，在高维空间输入相近样本，其输出对应位置也相维空间输入相近样本，其输出对应位置也相近。近。(3)特征提取特征提取-从高维空间样本向低维空间映从高维空间样本向低维空间映射，射，SOM网输出层相当于低维特征空间。网输出层相当于低维特征空间。48自组织竞争型神经网络概述第48页4.4 自组织特征映射网络设计自组织特征映射网络设计1.输出层设计输出层设计a.节点数设计节点数设计节点数与训练集样本有多少模式类相关。假如节点数少于模式节点数与训练集样本有多少模式类相关。假如节点数少于模式类数，则不足以区分全部模式类，训练结果势必将相近模式类类数，则不足以区分全部模式类，训练结果势必将相近模式类合并为一类。这种情况相当于对输入样本进行合并为一类。这种情况相当于对输入样本进行“粗分粗分”。假如节。假如节点数多于模式类数，一个可能是将类别分得过细，而另一个可点数多于模式类数，一个可能是将类别分得过细，而另一个可能是出现能是出现“死节点死节点”，即在训练过程中，某个节点从未获胜过且，即在训练过程中，某个节点从未获胜过且远离其它获胜节点，所以它们权值从未得到过调整。在处理分远离其它获胜节点，所以它们权值从未得到过调整。在处理分类问题时，假如对类别数没有确切信息，宁可先设定较多节点类问题时，假如对类别数没有确切信息，宁可先设定较多节点数，方便很好映射样本拓扑结构，假如分类过细再酌情降低输数，方便很好映射样本拓扑结构，假如分类过细再酌情降低输出节点。出节点。“死节点死节点”问题普通可经过重新初始化权值得到处理。问题普通可经过重新初始化权值得到处理。49自组织竞争型神经网络概述第49页1.输出层设计输出层设计b.节点排列设计节点排列设计输出层节点排列成哪种形式取决于实际应用需要，排列形输出层节点排列成哪种形式取决于实际应用需要，排列形式应尽可能直观反应出实际问题物理意义。比如，对于旅式应尽可能直观反应出实际问题物理意义。比如，对于旅行路径类问题，二维平面比较直观；对于普通分类问题，行路径类问题，二维平面比较直观；对于普通分类问题，一个输出节点节能代表一个模式类，用一维线阵意义明确一个输出节点节能代表一个模式类，用一维线阵意义明确结构简单。结构简单。50自组织竞争型神经网络概述第50页2.权值初始化问题权值初始化问题SOM网权值普通初始化为较小随机数，这么做目标是使权向网权值普通初始化为较小随机数，这么做目标是使权向量充分分散在样本空间。但在一些应用中，样本整体上相对量充分分散在样本空间。但在一些应用中，样本整体上相对集中于高维空间某个局部区域，全向量初始位置却随机地分集中于高维空间某个局部区域，全向量初始位置却随机地分散于样本空间辽阔区域，训练时必定是离整个样本群最近全散于样本空间辽阔区域，训练时必定是离整个样本群最近全向量被不停调整，并逐步进入全体样本中心位置，而其它权向量被不停调整，并逐步进入全体样本中心位置，而其它权向量因初始位置远离样本群而永远得不到调整。如此训练结向量因初始位置远离样本群而永远得不到调整。如此训练结果可能使全部样本聚为一类。处理这类问题思绪是尽可能使果可能使全部样本聚为一类。处理这类问题思绪是尽可能使权值初始位置与输入样本大约分布区域充分重合。权值初始位置与输入样本大约分布区域充分重合。51自组织竞争型神经网络概述第51页2.权值初始化问题权值初始化问题一个简单易行方法是从训练集中随机抽取一个简单易行方法是从训练集中随机抽取m m个输入样本作为初个输入样本作为初始权值，即始权值，即 其中其中 是输入样本次序随机数，是输入样本次序随机数，。因为任。因为任何一定是输入空间某个模式类组员，各个权向量按上式初始何一定是输入空间某个模式类组员，各个权向量按上式初始化后从训练一开始就分别靠近了输入空间各模式类，占据了化后从训练一开始就分别靠近了输入空间各模式类，占据了十分有利十分有利“地形地形”。另一个可行方法是先计算出全体样本中心。另一个可行方法是先计算出全体样本中心向量向量在该中心向量基础上迭加小随机数作为权向量初始值，也可在该中心向量基础上迭加小随机数作为权向量初始值，也可将权向量初始位置确定在样本群中。将权向量初始位置确定在样本群中。52自组织竞争型神经网络概述第52页3.优胜邻域设计优胜邻域设计优胜领域设计标准是使领域不停缩小，这么输出平面上相邻优胜领域设计标准是使领域不停缩小，这么输出平面上相邻神经元对应权向量之间现有区分又有相当相同性，从而确保神经元对应权向量之间现有区分又有相当相同性，从而确保当获胜节点对某一类模式产生最大响应时，其领域节点也能当获胜节点对某一类模式产生最大响应时，其领域节点也能产生较大响应。领域形状能够是正方形、六边形或者菱形。产生较大响应。领域形状能够是正方形、六边形或者菱形。优势领域大小用领域半径表示，优势领域大小用领域半径表示，r r(t t)设计当前没有普通化数设计当前没有普通化数学方法，通常凭借经验来选择学方法，通常凭借经验来选择 为于输出层节点数为于输出层节点数m m相关正常数，相关正常数，为大于为大于1 1常数，为预常数，为预先选定最大训练次数。先选定最大训练次数。53自组织竞争型神经网络概述第53页4.学习率设计学习率设计在训练开始时，学习率能够选取较大值，之后以较快速在训练开始时，学习率能够选取较大值，之后以较快速度下降，这么有利于很快捕捉到输入向量大致结构，然度下降，这么有利于很快捕捉到输入向量大致结构，然后学习率在较小值上缓降至后学习率在较小值上缓降至0 0值，这么能够精细地调整值，这么能够精细地调整权值使之符合输入空间样本分布结构。权值使之符合输入空间样本分布结构。54自组织竞争型神经网络概述第54页 4.5 对偶传输神经网络对偶传输神经网络对偶传输网络对偶传输网络55自组织竞争型神经网络概述第55页 X X(x x1 1,x x2 2,x xn n)T T Y Y(y y1 1,y y2 2,y ym m)T T，y yi i 0 0,1 1，i i=1,2,=1,2,m,m O O(o o1 1,o o2 2,o ol l)T T d d(d d1 1,d d2 2,d dl l)T T V=V=(V V1 1,V V2 2,V Vj j,V Vm m)W=W=(W W1 1,W W2 2,W Wk k,W Wl l)网络各层数学描述以下：网络各层数学描述以下：56自组织竞争型神经网络概述第56页CPNCPN网运行过程网运行过程57自组织竞争型神经网络概述第57页CPNCPN学习算法学习算法第一阶段用竞争学习算法对输入层至隐层内星权向量进行训第一阶段用竞争学习算法对输入层至隐层内星权向量进行训练，步骤以下：练，步骤以下：(1)(1)将将全全部部内内星星权权随随机机地地赋赋以以0 01 1之之间间初初始始值值，并并归归一一化化为为单位长度，训练集内全部输入模式也要进行归一化。单位长度，训练集内全部输入模式也要进行归一化。(2)(2)输入一个模式输入一个模式X Xp p，计算净输入，计算净输入netnetj j=，j j=1,2,=1,2,m m。(3)(3)确定竞争获胜神经元。确定竞争获胜神经元。(4)CPN(4)CPN网网络络竞竞争争算算法法不不设设优优胜胜邻邻域域，所所以以只只调调整整获获胜胜神神经经元元内星权向量，调整规则为内星权向量，调整规则为(5)(5)重重复复步步骤骤(2)(2)至至步步骤骤(4)(4)直直到到下下降降至至0 0。需需要要注注意意是是，权权向向量经过调整后必须重新作归一化处理。量经过调整后必须重新作归一化处理。58自组织竞争型神经网络概述第58页第第二二阶阶段段采采取取外外星星学学习习算算法法对对隐隐层层至至输输出出层层外外星星权权向向量量进进行训练，步骤以下：行训练，步骤以下：(1)(1)输输 入入 一一 个个 模模 式式 对对X Xp p,d,dp p，计计 算算 净净 输输 入入netnetj j=，j=1,2,mj=1,2,m，(2)(2)确定竞争获胜神经元，使确定竞争获胜神经元，使 (3)(3)调整隐层到输出层外星权向量，调整规则为调整隐层到输出层外星权向量，调整规则为 o ok k由下式计算由下式计算 CPNCPN学习算法学习算法59自组织竞争型神经网络概述第59页权向量调整规则权向量调整规则:(4)(4)重复步骤重复步骤(1)(1)至步骤至步骤(3)(3)直到下降至直到下降至0 0。CPNCPN学习算法学习算法60自组织竞争型神经网络概述第60页双获胜节点双获胜节点CPNCPN网网4.4 对偶传输神经网络对偶传输神经网络61自组织竞争型神经网络概述第61页Y Y=f(X X)X X =f(Y Y )当向网络输入当向网络输入(X X,0 0)时，网络输出为时，网络输出为(Y Y,0 0)；当向网络输；当向网络输入入(0 0,Y Y )时，网络输出为时，网络输出为(0 0,X X)，当向网络输入，当向网络输入(X X,Y Y)时，网络输出为时，网络输出为(Y Y,X X )。双向双向CPNCPN网网62自组织竞争型神经网络概述第62页CPNCPN网络应用网络应用63自组织竞争型神经网络概述第63页4.6小结小结 本章介绍了无教师学习方式自组织神经网本章介绍了无教师学习方式自组织神经网络，包含以下主要内容络，包含以下主要内容竞争学习原理竞争学习原理自组织特征映射神经网络自组织特征映射神经网络对偶传输神经网络对偶传输神经网络返回返回64自组织竞争型神经网络概述第64页