机器学习导论-局部模型.doc

1.自适应共鸣理论是由美国Boston大学的S.Grossberg和A.Carpentet提出的。主要用于模式识别。
这一理论包括：
ART1模型，用于二进制输入；
ART2模型，用于连续信号输入；
2.ART的主要优点为：
可完成实时学习，且可适应非平稳的环境；
对已学习的对象具有稳定的快速识别能力，同时又能迅速适应未学习的新对象；
是非监督学习；
容量不受输入通道数的限制，存贮对象也不要求是正交的。
3.基本构造
ART网络将系统分成“注意子系统”和“定向子系统”。注意子系统由高层网（识别层）和低层网（比较层）组成。
外界输入模式进入低层网后，经自适应滤波，再进入高层网，对比度增强缓解，若高层网络中有模式能与输入模式产生良好共鸣，则判定该模式为曾记忆或熟悉的；否则认为是心的模式，通过定向子系统在高层网另外建立一个新的模式记忆。这就防止了在学习新模式时改变已存储的模式。
自组织映射SOM
在生物学中，自组织现象是指人脑在许多区域是有组织的，不同区域的作用各不相同，不同的感官输入被传递给不同位置的脑细胞群，这种神经元所具有的特性并不是完全来自生物遗传，而是在很大程度上依赖于后天的学习过程。
基于生物神经元的这一特性，芬兰人Kohonen于1982年提出SOM，即自组织映射网络，它是一种无指导训练的神经网络，自组织的过程实际上就是一种无指导的学习。它通过自身训练，自动对输入模式进行聚类。它的拓扑结构图如图所示。

在该图中，网络上层为输出结点(m个)，按照二维形式排成一个结点矩阵；输入结点处于下方，若输入向量有n个元素，则输入端共有n个结点；所有的输入结点到所有的输出结点都有权值连接。
径向基函数

(12.1)
(12.2)
(12.3)
(12.4)
(12.5)
(12.6)
(12.7)
(12.8)
(12.9)

(12.10)
(12.11)
(12.12)
(12.13)
(12.14)
(12.15)
(12.16)
(12.17)
(12.18)
(12.19)
(12.20)
(12.21)
(12.22)
(12.23)

(12.24)
(12.25)
(12.26)
(12.27)
(12.28)
(12.29)
(12.30)
(12.31)
(12.32)
(12.33)
(12.34)
(12.35)
(12.36)
(12.37)(12.38)
(12.39)
(12.40)
(12.41)
(12.42)
(12.43)
(12.44)
(12.45)
(12.46)
(12.47)
(12.48)
(12.49)

(12.50)
(12.51)
(12.52)
(12.53)
(12.54)
(12.55)
(12.56)
(12.57)(12.58)
(12.59)