浅析模糊神经网络专家讲座.pptx

“当系统复杂性增加时，我们使它准确化能力将减小。直到抵达一个阈值，一旦超越它，复杂性和准确性将相互排斥。”含糊数学创始人L.A.Zadeh教授引言引言浅析模糊神经网络专家讲座第1页雨大小风强弱人胖瘦年纪大小个子高低天气冷热浅析模糊神经网络专家讲座第2页 客观世界含糊性反应在人脑中，便产生了概念上含糊性；人巧妙地利用自已建立含糊概念来进行判断、推理和控制，完成那些当代先进设备所不能完成工作：人们几乎能够一样地识别胖子和瘦子，漂亮和丑陋；人们无须测量车速便可明智地躲过川流不息车队；一行草书即使大异于整齐印刷字体，却照样能够被人看懂。浅析模糊神经网络专家讲座第3页在科学发展今天，尤其在工程研究设计领域，含糊问题无法回避，要求对数据进行定量分析。含糊概念定量分析浅析模糊神经网络专家讲座第4页一.含糊理论1、含糊理论 1965年，Zadeh教授发表论文“含糊集合”（Fuzzy set），标志含糊数学诞生。含糊集合基本思想是把经典集合中绝对隶属关系灵活化，即元素对“集合”隶属度不再是局限于取0或1，而是能够取从0到1间任一数值。用隶属函数(Membership Function)来刻画处于中间过渡事物对差异双方所含有倾向性。隶属度（Membership Degree）就表示元素隶属于集合程度。浅析模糊神经网络专家讲座第5页设X是论域，映射A(x)：X0,1确定了一个X上含糊子集A，A(x)称为A隶属函数。浅析模糊神经网络专家讲座第6页例1浅析模糊神经网络专家讲座第7页例2浅析模糊神经网络专家讲座第8页 含糊理论基础知识含糊理论基础知识常见隶属度函数常见隶属度函数常见隶属度函数常见隶属度函数含糊隶属度函数在含糊数学中地位是非常突出，在对客观事物进行描述和度量过程中，通常是用隶属度函数来表示该事物含糊程度。在在结结构构隶隶属属函函过过程程中中，应应该该充充分分考考虑虑主主观观原原因因和和客客观观原原因因，使使隶隶属属函函数数能能全全方方面面反反应应事事物物本本质。质。经常使用含糊隶属函数主要有三类，分别为三角函数三角函数、梯形函数梯形函数和高斯函数。高斯函数。浅析模糊神经网络专家讲座第9页三角形隶属函数三角形隶属函数梯形隶属函数梯形隶属函数高斯形隶属函数高斯形隶属函数钟型隶属函数钟型隶属函数浅析模糊神经网络专家讲座第10页隶属函数是含糊理论中主要概念，实际应用中经惯用到以下三类隶属函数：（1）S函数（偏大型隶属函数）注：(a、b为待定参数)浅析模糊神经网络专家讲座第11页（2）Z函数（偏小型隶属函数）这种隶属函数可用于表示像年轻、冷、矮、淡等偏向小一方含糊现象。图：图：Z函数函数浅析模糊神经网络专家讲座第12页（3）函数（中间型隶属函数）这种隶属函数可用于表示像中年、适中、平均等趋于中间含糊现象。图：图：函数函数浅析模糊神经网络专家讲座第13页2 2、含糊系统（、含糊系统（Fussy SystemFussy System，简称，简称FSFS）许多实际应用系统极难用准确术语来描述。如化学过程中“温度很高”、“反应骤然加紧”等。含糊系统（也称含糊逻辑系统）就是以含糊规则为基础而含有含糊信息处理能力动态模型。浅析模糊神经网络专家讲座第14页2.1 2.1 含糊系统组成含糊系统组成 含糊系统（也称含糊逻辑系统）就是以含糊规则为基础而含有含糊信息处理能力动态模型。它由四部分组成，以下列图：浅析模糊神经网络专家讲座第15页（1 1）含糊化接口（）含糊化接口（FuzzificationFuzzification）含糊化接口主要将检测输入变量准确值依据其含糊度划分和隶属度函数转换成适当含糊值。为了尽可能降低含糊规则数，可对于检测和控制精度要求高变量划分多(普通5一7个)含糊度，反之则划分少(普通3个)含糊度。当完成变量含糊度划分后，需定义变量各含糊集隶属函数。浅析模糊神经网络专家讲座第16页浅析模糊神经网络专家讲座第17页（2）知识库（）知识库（knowledge base）u知识库中存贮着相关含糊控制器一切知识，包含了详细应用领域中知识和要求控制目标，它们决定着含糊控制器性能，是含糊控制器关键。u如教授经验等。比如：If浑浊度 清，改变率 零，then洗涤时间 短 If浑浊度 较浊，改变率 小，then洗涤时间 标准浅析模糊神经网络专家讲座第18页（3）含糊推理机（）含糊推理机（Fuzzy Inference Engine）依据含糊逻辑法则把含糊规则库中含糊“if-then”规则转换成某种映射。含糊推理，这是含糊控制器关键，模拟人基于含糊概念推理能力。浅析模糊神经网络专家讲座第19页（4）反含糊化器（）反含糊化器（Defuzzification）把输出含糊量转化为实际用于控制清楚量。把输出含糊量转化为实际用于控制清楚量。浅析模糊神经网络专家讲座第20页按照常见形式，含糊推理系统可分为按照常见形式，含糊推理系统可分为:纯含糊逻辑系统 高木-关野(Takagi-Sugeno)含糊逻辑系统 其它含糊逻辑系统2.2 2.2 含糊系统分类含糊系统分类浅析模糊神经网络专家讲座第21页2.2.1 2.2.1 纯含糊逻辑系统纯含糊逻辑系统纯含糊逻辑系统仅由知识库和含糊推理机组成。其输入输出均是含糊集合。浅析模糊神经网络专家讲座第22页纯含糊逻辑系统结构图纯含糊逻辑系统结构图浅析模糊神经网络专家讲座第23页纯含糊逻辑系统纯含糊逻辑系统优点优点：提供了一个量化专辑语言信息和在含糊逻辑标准下系统地利用这类语言信息普通化模式；缺点缺点：输入输出均为含糊集合，不易为绝大数工程系统所应用。浅析模糊神经网络专家讲座第24页2.2.2 2.2.2 高木高木-关野含糊系统关野含糊系统该系统是由日本学者Takagi和Sugeno提出，系统输出为准确值，也称为T-S含糊系统或Sugeno系统。举例：浅析模糊神经网络专家讲座第25页经典一阶Sugeno型含糊规则形式以下：其中：其中：x x和和y y为为输输入入；A A和和B B为为推推理理前前件件含含糊糊集集合合；z z为为输出；输出；p p、q q、k k为常数。为常数。浅析模糊神经网络专家讲座第26页二、神经网络介绍二、神经网络介绍1.人工神经网络定义27 生物神经网络 人类大脑大约有1.41011个神经细胞，亦称为神经元。每个神经元有数以千计通道同其它神经元广泛相互连接，形成复杂生物神经网络。人工神经网络 以数学和物理方法以及信息处理角度对人脑神经网络进行抽象，并建立某种简化模型，就称为人工神经网络（Artificial Neural Network，缩写 ANN）。浅析模糊神经网络专家讲座第27页281.人工神经网络定义神经网络是由多个非常简单处理单元彼此按某种方式相互连神经网络是由多个非常简单处理单元彼此按某种方式相互连接而形成计算系统，该系统是靠其状态对外部输入信息动态接而形成计算系统，该系统是靠其状态对外部输入信息动态响应来处理信息。响应来处理信息。人工神经网络是一个由许多简单并行工作处理单元组成系统，人工神经网络是一个由许多简单并行工作处理单元组成系统，其功效取决于网络结构、连接强度以及各单元处理方式。其功效取决于网络结构、连接强度以及各单元处理方式。人工神经网络是一个意在模仿人脑结构及其功效信息处理系人工神经网络是一个意在模仿人脑结构及其功效信息处理系统。统。浅析模糊神经网络专家讲座第28页人脑与计算机信息处理能力比较记忆与联想能力记忆与联想能力学习与认知能力学习与认知能力信息加工能力信息加工能力信息综合能力信息综合能力信息处理速度信息处理速度29浅析模糊神经网络专家讲座第29页人脑与计算机信息处理机制比较系统结构信号形式信息存放信息处理机制30浅析模糊神经网络专家讲座第30页2.神经网络基本特征31能力特征：自学习自学习自组织自组织自适应性自适应性结构特征：结构特征：并行式处理并行式处理分布式存放分布式存放容错性容错性浅析模糊神经网络专家讲座第31页32联联想想记记忆忆功功效效3.神经网络基本功效浅析模糊神经网络专家讲座第32页33非线性映射功效非线性映射功效浅析模糊神经网络专家讲座第33页34分类与识别功效分类与识别功效浅析模糊神经网络专家讲座第34页35优化计算功效优化计算功效浅析模糊神经网络专家讲座第35页36知识处理功效知识处理功效浅析模糊神经网络专家讲座第36页神经网络软硬件实现MATLAB推出得到了各个领域教授学者广泛关注，在此基础上，教授们相继推出了MATLAB工具箱，主要包含信号处理、控制系统、神经网络、图像处理、鲁棒控制、非线性系统控制设计、系统辨识、最优化、含糊逻辑、小波等工具箱，这些工具箱给各个领域研究和工程应用提供了有力工具。37浅析模糊神经网络专家讲座第37页4.4.含糊系统与神经网络区分与联络含糊系统与神经网络区分与联络浅析模糊神经网络专家讲座第38页(1)从知识表示方式来看含糊系统能够表示人经验性知识，便于了解，而神经网络只能描述大量数据之间复杂函数关系，难于了解。(2)从知识存放方式来看含糊系统将知识存在规则集中，神经网络将知识存在权系数中，都含有分布存放特点。浅析模糊神经网络专家讲座第39页(3)从知识利用方式来看含糊系统和神经网络都含有并行处理特点，含糊系统同时激活规则不多，计算量小，而神经网络包括神经元很多，计算量大。(4)从知识获取方式来看含糊系统规则靠教授提供或设计，难于自动获取而神经网络权系数可由输入输出样本中学习，无需人来设置。浅析模糊神经网络专家讲座第40页 将二者结合起来，在处理大规模含糊应用问题方将二者结合起来，在处理大规模含糊应用问题方面将表现出优良效果。面将表现出优良效果。浅析模糊神经网络专家讲座第41页浅析模糊神经网络专家讲座第42页1 1、含糊神经网络（、含糊神经网络（FNNFNN）含糊神经网络含糊神经网络（Fuzzy Neural NetworkFuzzy Neural Network，简称，简称FNNFNN）将）将含糊系统和神经网络含糊系统和神经网络相结合，充分考虑了相结合，充分考虑了二者互补性，集逻辑推理、语言计算、非线性动力二者互补性，集逻辑推理、语言计算、非线性动力学于一体，含有学习、联想、识别、自适应和含糊学于一体，含有学习、联想、识别、自适应和含糊信息处理能力等功效。信息处理能力等功效。其本质就是其本质就是将常规神经网络输入含糊输入信号将常规神经网络输入含糊输入信号和含糊权值。和含糊权值。浅析模糊神经网络专家讲座第43页l在在含含糊糊神神经经网网络络中中，神神经经网网络络输输入入、输输出出节节点点用用来来表表示示含含糊糊系系统统输输入入、输输出出信信号号，神神经经网网络络隐隐含含节节点点用用来来表表示示隶隶属属函函数数和和含含糊糊规规则则，利利用用神神经经网网络并行处理能力使得含糊系统推理能力大大提升。络并行处理能力使得含糊系统推理能力大大提升。浅析模糊神经网络专家讲座第44页 含糊神经网络三种形式：含糊神经网络三种形式：基于含糊算子含糊神经网络,主要是指网络输入输出和连接权全部或部分采取含糊实数,计算节点输出权相加采取含糊算子含糊神经网络含糊化神经网络,是指网络输入输出及连接权均为含糊集,能够将其视为一个纯含糊系统，含糊集输入经过系统内部含糊集关系而产生含糊输出。含糊推理网络是含糊模型神经网络一种实现，是一一个个多多层层前前向向网网络络。含糊推理网络可调参数普通是非线性，而且可调参数众多，含含有有强强大大自自学学习习功功效效，能够用作离线辨识有效工具。不过模糊推理网络计算量大，只适适合合离离线线使使用用。自自适适应应性性较较差差。浅析模糊神经网络专家讲座第45页2.2.经典含糊神经网络结构经典含糊神经网络结构含糊系统规则集和隶属度函数等设计参数只能靠设计经验来选择，利用神经网络学习方法，依据输入输出学习样本自动设计和调整含糊系统设计参数，实现含糊系统自学习和自适应功效。结构上像神经网络，功效上是含糊系统，这是当前研究和应用最多一类含糊神经网络。浅析模糊神经网络专家讲座第46页 该网络共分该网络共分5 5层，是依据含糊系统工作过程来设计，是层，是依据含糊系统工作过程来设计，是神经网络实现含糊推理系统。第二层隶属函数参数和三、神经网络实现含糊推理系统。第二层隶属函数参数和三、四层间及四、五层间连接权是能够调整。四层间及四、五层间连接权是能够调整。浅析模糊神经网络专家讲座第47页 含糊神经网络含糊神经网络含糊理论应用普通以含糊系统方式展现出来，含糊神经网络也能够看作是一个含糊系统。含糊系统含糊神经网络网络输入、输出节点网络输入、输出节点训练样本训练样本网络隐含层网络隐含层输入信息含糊化处理和输入信息含糊化处理和输出信息反含糊化处理输出信息反含糊化处理输入输入、输出信号输出信号知识库知识库含糊推理机含糊推理机含糊化接口和反含糊化接口含糊化接口和反含糊化接口浅析模糊神经网络专家讲座第48页经典含糊神经网络结构经典含糊神经网络结构第一层为输入层，为准确值。节点个数为输入变量个数。浅析模糊神经网络专家讲座第49页经典含糊神经网络结构经典含糊神经网络结构第二层为输入变量隶属函数层，实现输入变量含糊化。浅析模糊神经网络专家讲座第50页经典含糊神经网络结构经典含糊神经网络结构第三层也称“与”层，该层节点个数为含糊规则数。该层每个节点只与第二层中m个节点中一个和n个节点中一个相连，共有m n个节点，也就是有m n条规则。浅析模糊神经网络专家讲座第51页经典含糊神经网络结构经典含糊神经网络结构第四层为“或”层，节点数为输出变量含糊度划分个数q。该层与第三层连接为全互连，连接权值为Wkj，其中k=1,2,q;j=1,2,mn.（权值代表了每条规则置信度，训练中可调。）浅析模糊神经网络专家讲座第52页经典含糊神经网络结构经典含糊神经网络结构第五层为清楚化层，节点数为输出变量个数。该层与第四层连接为全互连，该层将第四层各个节点输出，转换为输出变量准确值。浅析模糊神经网络专家讲座第53页3.2 3.2 含糊神经网络学习算法含糊神经网络学习算法含糊神经网络不论作为迫近器，还是模式存放器，都是需要学习和优化权系数。学习算法是含糊神经网络优化权系数关键。含糊神经网络学习算法，大多来自神经网络，如BP算法、RBF算法等。浅析模糊神经网络专家讲座第54页Matlab实现实现自适应含糊神经推理系统，也称为基于神经网络自适应含糊推理系统(Adaptive Network-based Fuzzy Inference System)，简称ANFIS，1993年由学者Jang Roger提出。融合了神经网络学习机制和含糊系统语言推理能力等优点，填补各自不足。同其它含糊神经系统相比，ANFIS含有便捷高效特点。浅析模糊神经网络专家讲座第55页NAHTK浅析模糊神经网络专家讲座第56页