第1章-绪论-人工神经网络.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,人工神经网络,1,课程简介,授 课 班 级：B智能0701,讲 课：40 实践：8,考试形式：,开卷,成绩比例：,平时20%实践10%期末70%,使用教材：,人工神经网络理论、设计及应用（第2 版）韩力群，化学工业出版社，2007年9月,2,1 绪 论,3,人类具有高度发达的大脑，大脑是人类思维活动的物质基础，而思维是人类智能的集中体现。,人脑的思维有,逻辑思维,、,形象思维,和,灵感思维,三种基本方式。,逻辑思维的基础是概念、判断与推理，即将信息抽象为概念，再根据逻辑规则进行逻辑推理。由于概念可用符号表示，而逻辑推理可按串行模式进行，这一过程可以事先写成串行的指令由机器来完成。计算机就是这样一种用机器模拟人脑逻辑思维的人工智能系统。,4,1.1 概述,人脑的结构、机制和功能中凝聚着无比的奥秘和智慧。,地球是宇宙的骄子,，,人类是地球的宠儿,，,大脑是人的主宰,。,现在是探索脑的奥秘，从中获得智慧，在其启发下构造为人类文明服务的高级智能系统的时候了！,6,(一),记忆与联想能力,(二)学习与认知能力,(三)信息加工能力,(四)信息综合能力,(五)信息处理速度,一、人脑与计算机信息处理能力的比较,7,人脑有大约,1.4,10,11,个神经细胞并广泛互连，因而能够存贮大量的信息，并具有对信息进行筛选、回忆和巩固的联想记忆能力。人脑不仅能对已学习的知识进行记忆，而且能在外界输入的部分信息刺激下，联想到一系列相关的存贮信息，从而实现对,不完整信息的自联想恢复，或关联信息的互联想,，而这种互联想能力在人脑的,创造性思维,中起着非常重要的作用。,计算机是一种基于算法的,程序存取式,机器，它对程序指令和数据等信息的记忆由,存贮器,完成。存贮器内信息的存取采用按顺序寻址的方式。若要从大量存贮数据中随机访问某一数据，必须先确定数据的存贮单元地址，再取出相应数据。信息一旦存入便保持不变，因此不存在遗忘问题；,在某存贮单元地址存入新的信息后会覆盖原有信息，因此不可能对其进行回忆；相邻存储单元之间互不相干，“老死不相往来”，因此没有联想能力。,(一)记忆与联想能力,8,人脑具有复杂的,非逻辑加工,功能，能产生直觉判断或灵感一类的思维活动。在信息的逻辑加工方面，人脑的功能不仅局限于数值或逻辑运算，而且可以上升到具有语言文字的,符号思维和辨证思维,。这种高层次的信息加工能力使人能够深入事物内部去认识事物的本质与规律。,计算机没有非逻辑加工功能,，其逻辑加工能力也仅限于二值逻辑。,(三)信息加工能力,10,(四)信息综合能力,人脑善于对客观世界千变万化的,信息和知识,进行归纳、类比和概括，综合起来解决问题。这种综合判断过程是一种对信息的逻辑加工和非逻辑加工相结合的过程。它不仅遵循确定性的逻辑思维原则，而且可以经验地、模糊地甚至是直觉地做出一个判断。,计算机的信息综合能力取决于它所执行的程序。由于不存在能完全描述人的经验和直觉的数学模型，也不存在能完全正确模拟人脑综合判断过程的有效算法，因此计算机难以达到人脑所具有的融会贯通的信息综合能力。,11,二、人脑与计算机信息处理机制的比较,(一)系统结构,(二)信号形式,(三)信息存储,(四)信息处理机制,13,(二)信号形式,人脑中的信号形式具有,模拟量和离散脉冲,两种形式。模拟量信号具有模糊性特点，有利于信息的整合和非逻辑加工，这类信息处理方式,难以用现有数学方法进行充分描述，因而很难用计算机进行模拟,。,计算机中信息的表达采用离散的二进制数和,二值逻辑,形式，二值逻辑必须用确定的逻辑表达式来表示。许多逻辑关系确定的信息加工过程可以分解为若干二值逻辑表达式，由计算机来完成。然而，,客观世界存在的事物关系并非都是可以分解为二值逻辑的关系，还存在着各种模糊逻辑关系和非逻辑关系。,对这类信息的处理计算机是难以胜任的。,15,(三)信息存储方式,与计算机不同的是，人脑中的信息不是集中存储于一个特定的区域，而是,分布地存储,于整个系统中。此外，人脑中存储的信息不是相互孤立的，而是联想式的。人脑这种分布式联想式的信息存储方式使人类非常擅长于,从失真和缺省的模式中恢复出正确的模式,，或利用给定信息寻找期望信息。,16,三、什么是人工神经网络,生物神经网络,人类的大脑大约有1.4,10,11,个神经细胞，亦称为神经元。每个神经元有数以千计的通道同其它神经元广泛相互连接，形成复杂的生物神经网络。,人工神经网络,以数学和物理方法以及信息处理的角度对人脑神经网络进行抽象，并建立某种简化模型，就称为人工神经网络（Artificial Neural Network，缩写 ANN）。,18,人工神经网络定义,神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，该系统是靠其状态对外部输入信息的动态响应来处理信息的。,人工神经网络是一个由许多简单的并行工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及各单元的处理方式。,人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。,19,1.2神经网络的基本特征,结构特征：,并行式处理,分布式存储,容错性,能力特征：,自学习,自组织,自适应性,20,并行式处理,人工神经网络是由大量简单处理元件相互连接构成的高度并行的非线性系统，具有大规模并行性处理特征。,分布式存储,结构上的并行性使神经网络的信息存储必然采用分布式方式，即信息不是存储在网络的某个局部，而是分布在网络所有的连接权中。一个神经网络可存储多种信息，其中每个神经元的连接权中存储的是多种信息的一部分。当需要获得已存储的知识时，神经网络在输入信息激励下采用“联想”的办法进行回忆。,容错性,以上特点必然使神经网络在两个方面表现出良好的容错性：一方面，由于,信息的分布式存储,，当网络中部分神经元损坏时不会对系统的整体性能造成影响，这一点就像人脑中每天都有神经细胞正常死亡而不会影响大脑的功能一样；另一方面，当,输入模糊、残缺或变形的信息,时，神经网络能通过联想恢复完整的记忆，从而实现对不完整输入信的正确识别，这一特点就像人可以对不规范的手写字进行正确识别一样。,21,自适应性,是指一个系统能改变自身的性能以适应环境变化的能力，它是神经网络的一个重要特征。自适应性包含自学习与自组织两层含义。,自学习,神经网络的自学习是指当外界环境发生变化时，经过一段时间的训练或感知，神经网络能通过自动调整网络结构参数，使得对于给定输入能产生期望的输出，训练是神经网络学习的途径，因此经常将学习与训练两个词混用。,自组织,神经系统能在外部刺激下按一定规则调整神经元之间的连接强度，逐渐构建起神经网络，这一构建过程称为网络的自组织（重构）。,22,1.3 神经网络的基本功能,非线性映射功能,24,1.3 神经网络的基本功能,分类与识别功能,25,1.3 神经网络的基本功能,优化计算功能,某些类型的神经网络可以把待求解问题的可变参数设计为网络的状态，将目标函数设计为网络的能量函数。,神经网络经过动态演变过程达到稳定状态时对应的能量函数最小，从而其稳定状态就是问题的最优解。,这种优化计算不需要对目标函数求导，其结果是网络自动给出的。,26,