MP模型1解析.pptx

？人脑有多少？人脑有多少个神经元个神经元？860亿！MPMP模型模型神经网络的发展简史1943年美国生理学家W.S Mcculloch和数学家W.A Pitts首次提出了二值神经元模型。他们把神经元视为二值开关，通过不同的组合方式可以实现不同的逻辑运算。这种“逻辑神经元”模型被称为MP模型。开创了人工神经网络研究的时代。1949年，心理学家提出了突触联系强度可变的设想。1960年代，人工神经网络的到了进一步发展，更完善的神经网络模型被提出，其中包括感知器和自适应线性元件等。1969年M.Minsky等出版了Perceptron一书，指出感知器不能解决高阶谓词问题，使人工神经网络的研究处于低潮。1982年，美国加州工学院物理学家J.J.Hopfield提出了Hopfield神经网格模型，引入了“计算能量”概念，给出了网络稳定性判断。1984年，他又提出了连续时间Hopfield神经网络模型。1985年，又有学者提出了波耳兹曼模型。在学习中采用统计热力学模拟退火技术，保证整个系统趋于全局稳定点。1986年进行认知微观结构地研究，提出了并行分布处理的理论。90年代初，又有脉冲耦合神经网络模型被提出。nW.S Mcculloch1898年出身于美国新泽西州，曾在耶鲁大学学习哲学和心理学，并于1923年在哥伦比亚大学获得心理学硕士学位。先后在麻省理工大学，耶鲁大学从事研究。1969年在剑桥逝世。1943年，他试图将图灵机的模型移植到单个神经元上，从而实现“逻辑神经元”的设想。从1952年开始，他一直在麻省理工大学电子研究实验室里从事神经网络模型的研究。1943年发表了论文：A Logical Calculus of the Ideas Immanent in Nervous Activity1945年发表了论文：A Heterarchy of Values Determined by the Topology of Nervous Nets1965年出版了Embodiments of MindnW.A Pitts美国数学家1943年与W.S Mcculloch一同发表了论文：A Logical Calculus of the Ideas Immanent in Nervous ActivityMP模型的数学表示生物神经元数学模型逻辑神经元数学模型（MP模型）n生物神经元&数学模型 输入输出间的突触时延 神经元j的阈值 神经元i到 j 的突触连接系数或称 权重值 神经元传递函数nMP模型(逻辑神经元数学模型)ly的输入输出关系如表：ET，I=0y=1ET，I0y=0ET，I=0y=0E0y=0E：兴奋性输入 I：抑制性输入（否决）nMP模型的逻辑表示l逻辑与（假设w=1）设T=2，I=0，E=x1W+x2W=x1+x2当x1=1，x2=1，E=1+1=2，触发y=1当x1=1，x2=0，E=1+0=1，不触发y=0当x1=0，x2=1，E=0+1=1，不触发y=0当x1=0，x2=0，E=0+0=0，不触发y=0满足y=x1.x2逻辑与关系。l逻辑或：令T=1，I=0，E=x1+x2 （二个兴奋性输入）当x1=1,x2=1,E=1+1=2,触发 y=1当x1=1,x2=0,E=1+0=1,触发 y=1当x1=0,x2=1,E=0+1=1,触发 y=1当x1=0,x2=0,E=0+0=0,不触发 y=0满足y=x1+x2逻辑或关系l逻辑非：令T=0，E=0，I=xW=x（一个抑制性输入）当x=1，I=10,不触发y=0当x=0，I=0，触发y=1满足逻辑非关系感知器模型概念l1958年，美国心理学家Frank Rosenblatt提出一种具有单层计算单元的神经网络，成为Perceptron,即为感知器。l感知器是一种非线性前馈网络，同层内无互连，不同层间无反馈，由下层向上层传递。其输入、输出均为离散值，神经元对输入加权求和后，由阈值函数决定其输出。感知器的数学模型（j=1,2,m）输入：输出：感知器的学习1.权值初始化2.输入样本对3.计算输出4.根据感知器学习规则调整权值5.返回到步骤1输入下一对样本，周而复始直到对所有样本，感知器的实际输出与期望输出相等。什么是前馈？前馈控制系统为前馈控制的一种形式，是控制部分发出指令使受控部分进行某种活动，同时又通过另一快捷途径向受控部分发出前馈信号，受控部分在接受控制部分的指令进行活动时，又及时地受到前馈信号的调控，因此活动可以更加准确。例如：要求将手伸至某一目标物，脑发出神经冲动指令一定的肌群收缩，同时又通过前馈机制，使这些肌肉的收缩活动能适时地受到一定的制约，因而手不会达不到目标物，也不致伸得过远，整个动作能完成的很准确。广义线性判别函数在感知器中线性判别函数可以使响应单元输出1或0输入矢量权重矢量阈值广义线性判别函数为方便研究：令把样本写成广义形式属于类属于类样本规格化，即把第二类样本取负任意设定一个广义权重矢量用已知样本 求 若 0,则分类正确，即权重矢量与样本 相似，将 记忆在网络中，令 =；若 0,则分类错误，修改 ；感知器修改权重的规则为：。用 代替 ，再用另一组样本 ，重复步骤4计算可得 、直到出现四 个相同的 值才终止计算。该值即为所需 要的 从而得到所需要的权重系数 和阈 值 。感知器的应用可实现线性分类、预测等，应用于计算机视觉、图像处理、模式识别、信号处理、智能监控、机器人等不同领域。当前已经有许多成功的基于MP神经元模型的神经网络得到应用，如BP算法，这种算法是实现人脸识别的主要算法之一。“神经元神经元”无人机无人机“神经元”综合运用了自动容错、神经网络、人工智能等先进技术，具有自动捕获和自主识别目标的能力，也可由指挥机控制其飞行或作战。比如一架法国“阵风”战斗机可以同时指挥45架“神经元”无人机，在有人机前方进行侦察或进行攻击。人脸识别人脸识别 一般来说，人脸识别系统包括图像摄取、人脸定位、图像预处理、以及人脸识别。主要识别算法：1.基于人脸特征点的识别算法（Feature-based recognition algorithms）。2.基于整幅人脸图像的识别算法（Appearance-based recognition algorithms）。3.基于模板的识别算法（Template-based recognition algorithms）。4.利用神经网络进行识别的算法（Recognition algorithms using neural network）