智能算法初步----遗传算法.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,*,数学建模中的智能算法,数学建模十大算法,蒙特卡罗算法,数据拟合、参数估计、插值等数据处理算法,线性规划等规划类问题,图论算法,动态规划、回溯搜索、分支定界等计算机算法,模拟退火、神经网络、遗传算法等最优化理论算法,网格算法和穷举法,一些连续离散化方法,数值分析算法,图像处理算法,12/6/2025,3,人工智能优化算法,遗传算法,模拟退火,人工神经网络算法,粒子群算法,蚁群算法,12/6/2025,认识“人工智能”,人工智能,(Artificial Intelligence,AI),概念是,John McCarthy,（约翰,.,麦克斯）,于,1956,年在,Dartmouth,学会上提出的。,美国计算机科学家，因在人工智能领域的重大贡献，被称为“,人工智能之父,”，并因此获得图灵奖,他于,1948,年获得加州理工学院数学学士学位，,1951,年获得普林斯顿大学数学博士学位,John McCarthy,12/6/2025,认识“人工智能”（续）,人工智能,让机器像人一样思考,人工智能是计算机科学的前沿学科，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学,.,计算机编程语言和其它计算机软件都因为有了人工智能的进展而得以存在。,人工智能,涉及学科：,哲学和认知科学，数学，神经生理学，心理学，计算机科学，信息论，控制论，不定性论，仿生学等,12/6/2025,认识“人工智能”（续）,人工智能的目的：通过研究人脑的组成机理和思维方式，企图了解智能的实质，并生产出一种能以人类智能相似的方式做出反应的智能机器,让机器具有智慧，像人一样思考,.,计算机的出现,人类开始真正有了一个可以模拟人类思维的工具,人工智能的领域研究：包括机器人、,语言识别,、图像识别、自然语言处理和专家系统等,.,12/6/2025,意识和人工智能的区别,人工智能就其本质而言，是对人的思维的信息过程的,模拟,.,对于人的思维模拟可以从两条道路进行：,结构模拟：仿照人脑的结构机制，制造出“类人脑”的机器；,功能模拟：暂时撇开人脑的内部结构，而从其功能过程进行模拟。,现代电子计算机的产生便是对人脑思维功能的模拟，是对人脑思维的信息过程的模拟,.,人工智能不是人的智能，更不会超过人的智能,.,12/6/2025,意识和人工智能的区别（续）,“机器思维”同“人类思维”的本质区别：,1.,人工智能纯系无意识的机械的物理的过程，人类智能主要是生理和心理的过程,.,2.,人工智能没有社会性,.,3.,人工智能没有人类的意识所特有的能动的创造能力,.,4.,两者总是人脑的思维在前，电脑的功能在后,.,12/6/2025,经典的人工智能成果,人机对弈,*1996,年,2,月,10-17,日,Garry Kasparov,以,4:2,战胜“深蓝”,(Deep Blue),*,1997,年,5,月,3-11,日,Garry Kasparov,以,3.5:2.5,输于改进后的“深蓝”,*2003,年,2,月,Garry Kasparov 3:3,战平“小深,”(Deep Junior),*2003,年,11,月,Garry Kasparov 2:2,战平“,X3D,德国人”,(X3D-Fritz),模式识别,指纹识别、人脸识别、语音识别、文字识别、图像识别、车牌识别等,12/6/2025,经典的人工智能成果,(,续,),电 影,中文名：人工智能,片 名：,AI,年 代：,2001,国 家：美国,相关著作,视读人工智能,、,人工智能的未来,、,人工智能哲学,、,人工智能：一种现代的方法,12/6/2025,遗传算法,(,Genetic Algorithm,，,GA,),人工神经网络算法,(,Artificical,Neural Network,ANN,),模拟退火,(Simulated Annealing,SA),粒子群优化算法,(,Partical,Swam Optimization Algorithm,PSOA),蚁群优化算法,(Ant Colony Optimization Algorithm,ACOA),人工智能优化算法,12/6/2025,97,年,A,题用模拟退火算法,00,年,B,题用神经网络分类算法,01,年,B,题这种难题也可以使用神经网络,美国,89,年,A,题也和,BP,算法,有关系,美国,03,年,B,题,伽马刀问题也是目前研究的课题，目前,算法最佳的是遗传算法,。,遗传算法,(GA),、模拟退火法,(SA),、神经网络,(NN),、,近几年的赛题越来越复杂，很多问题没有什么很好的,模型可以借鉴，于是这三类算法很多时候可以派上用场。,最优化理论的三大非经典算法,:,12/6/2025,遗传算法,(,Genetic Algorithm,，,GA,),人工神经网络算法,(,Artificical,Neural Network,ANN,),模拟退火,(Simulated Annealing,SA),粒子群优化算法,(,Partical,Swam Optimization Algorithm,PSOA),蚁群优化算法,(Ant Colony Optimization Algorithm,ACOA),人工智能优化算法,12/6/2025,遗传算法,(Genetic Algorithm),进化算法,(,Evolutionary Algorithm,),12/6/2025,遗传算法是一类模拟达尔文生物进化论的自然选择和遗传算法机理的生物进化过程的,计算模型,，借鉴生物界的进化规律（适者生存，优胜劣汰遗传机制）演化而来的,随机化搜索最优化方法,。,遗传算法最初由美国密歇根大学,J.Holland,（霍兰德）教授于,1975,年首先提出来的，并出版了颇有影响的专著,Adaptation in Natural and Artificial Systems,遗传算法这个名称才逐渐为人所知，通常称为“,简单遗传算法,”。,遗传算法,(Genetic Algorithm,GA),12/6/2025,直接对结构对象进行操作，不存在求导和函数连续性的限定；,具有内在的隐并行性和更好的全局寻优能力；,采用概率化的寻优方法，能自动获取和指导优化的搜索空间，自适应地调整搜索方向，不需要确定的规则。,遗传算法的这些性质，已被人们广泛地应用于组合优化、机器学习、信号处理、自适应控制和人工生命等领域。它是现代有关智能计算中的关键技术。,遗传算法的主要特点,12/6/2025,遗传算法的定义,遗传算法是从代表问题可能潜在的解集的一个种群（,population,）开始的，而一个种群则由经过基因（,gene,）编码的一定数目的个体,(individual),组成。,每个个体实际上是染色体,(chromosome),带有特征的实体。,染色体作为遗传物质的主要载体，即多个基因的集合，其内部表现（即基因型）是某种基因组合，它决定了个体的形状的外部表现，如黑头发的特征是由染色体中控制这一特征的某种基因组合决定的。因此，在一开始需要实现从表现型到基因型的映射即编码工作。,12/6/2025,遗传算法的定义（续）,由于仿照基因编码的工作很复杂，我们往往进行简化，如二进制编码，初代种群产生之后，按照适者生存和优胜劣汰的原理，逐代（,generation,）演化产生出越来越好的近似解。,在每一代，根据问题域中个体的,适应度,（,fitness,）大小选择（,selection,）个体，并借助于自然遗传学的,遗传算子,（,genetic operators,）进行组合,交叉,（,crossover,）和,变异,（,mutation,），产生出代表新的解集的种群。这个过程将导致种群像自然进化一样的后生代种群比前代更加适应于环境，末代种群中的最优个体经过解码（,decoding,），可以作为问题近似最优解。,12/6/2025,遗传算法流程图,由于遗传算法的整体搜索策略和优化搜索方法在计算是不依赖于梯度信息或其它辅助知识，而只需要影响搜索方向的目标函数和相应的适应度函数，所以,遗传算法提供了一种求解复杂系统问题的通用框架,，它不依赖于问题的具体领域，对问题的种类有很强的鲁棒性。,12/6/2025,遗传算法的一般算法,遗传算法是由进化论和遗传学机理而产生的搜索算法。,1.,创建一个随机的初始状态：,初始群是从解中随机选择出来的，将这些解比喻为染色体或基因，该种群被称为第一代。,2.,评估适应度：,对每一个解,(,染色体,),指定一个适应度的值，根据问题求解的实际接近程度来指定,(,以便逼近求解问题的答案,),。不要把这些“解”与问题的“答案”混为一谈，可以把它理解成为要得到答案，系统可能需要利用的那些特性。,12/6/2025,遗传算法的一般算法,(,续,),3.,繁殖,(,包括子代突变,),带有较高适应度值的那些染色体更可能产生后代,(,后代产生后也将发生突变,),。后代是父母的产物，他们由来自父母的基因结合而成，这个过程被称为“杂交”。,4.,下一代,如果新的一代包含一个解，能产生一个充分接近或等于期望答案的输出，那么问题就已经解决了。如果情况并非如此，新的一代将重复他们父母所进行的繁衍过程，一代一代演化下去，直到达到期望的解为止。,12/6/2025,遗传算法的一般算法,(,续,),5.,并行计算,*非常容易将遗传算法用到并行计算和群集环境中。,*一种方法是直接把每个节点当成一个并行的种群看待。然后有机体根据不同的繁殖方法从一个节点迁移到另一个节点。,*另一种方法是“农场主,/,劳工”体系结构，指定一个节点为“农场主”节点，负责选择有机体和分派适应度的值，另外的节点作为“劳工”节点，负责重新组合、变异和适应度函数的评估。,12/6/2025,遗传算法模拟自然选择和自然遗传过程中发生,的,繁殖、交叉和基因突变,现象，在每次迭代中,都保留一组候选解，并按某种指标从解群中选,取较优的个体，利用,遗传算子,(,选择、交叉和变,异,),对这些个体进行组合，产生新一代的候选解,群，重复此过程，直到满足某种收敛指标为止。,遗传算法的搜索机制,12/6/2025,局部,全局,遗传算法,(GA),12/6/2025,We have a dream!,I am at the top,Height is.,I am not at the top.,My high is better!,I will continue,遗传算法,(GA),GA-,第,0,代,12/6/2025,Dead one,New one,遗传算法,(GA),GA-,第,1,代,12/6/2025,Not at the top,Come Up!,遗传算法,(GA),GA-,第,?,代,12/6/2025,I am the,BEST,!,遗传算法,(GA),GA-,第,N,代,12/6/2025,生物进化与遗传算法对应关系,生物进化,遗传算法,适者生存,适应函数值最大的解被保留的概率最大,个体,问题的一个解,染色体,解的编码,基因,编码的元素,群体,被选定的一组解,种群,根据适应函数选择的一组解,交叉,以一定的方式由双亲产生后代的过程,变异,编码的某些分量发生变化的过程,环境,适应函数,12/6/2025,遗传算法的基本操作,选择,(selection),:,根据各个个体的适应值，按照一定的规则或方法，从第,t,代群体,P(t),中选择出一些优良的个体遗传到下一代群体,P,(,t,+1),中。,交叉,(crossover),:,将群体,P(t),内的各个个体随机搭配成对，对每一个个体，以某个概率,P,c,(,称为交叉概率，,crossvoer rate),交换它们之间的部分染色体。,变异,(mutation),:,对群体,P(t),中的每一个个体，以某一概率,P,m,(,称为变异概率，,mutation rate),改变某一个或一些基因座上基因值为其它的等位基因。,12/6/2025,如何设计遗传算法,如何进行编码？,如何产生初始种群？,如何定义适应函数？,如何进行遗传操作,(,复制、交叉、变异,),？,如何产生下一代种群？,如何定义停止准则,？,12/6/2025,编码,(Coding),表现型空间,编码,(Coding),解码,(Decoding),基因型空间,=0,1,L,011101001,010001001,10010010,10010001,12/6/2025,编码,设某一参数的取值范围为（,L,，,U,），使用长度为,k,的二进制编码表示该数，则共有 种不同的编码。,12/6/2025,解码,解码的目的是为了将不直观的二进制数据串还原成十进制。,设某一个体的二进制编码为,则对应的解码公式为：,12/6/2025,适应函数,(Fitness Function),GA,在搜索中不依靠外部信息，仅以,适应函数,为依据，利用群体中每个染色体,(,个体,),的适应值来进行搜索。,以染色体适应值的大小来确定该染色体被遗传到下一代群体中的概率,。染色体适应值越大，该染色体被遗传到下一代的概率也越大；反之，染色体的适应值越小，该染色体被遗传到下一代的概率也越小。因此适应函数的选取至关重要，直接影响到,GA,的收敛速度以及能否找到最优解。,群体中的每个染色体都需要计算适应值,适应函数一般由,目标函数,变换而成,12/6/2025,适应函数,(Fitness Function),适应函数常见形式：,直接将目标函数转化为适应函数,若目标函数为最大化问题：,Fitness(f(x)=f(x),若目标函数为最小化问题：,Fitness(f(x)=-f(x),12/6/2025,适应函数,(Fitness Function),界限构造法,目标函数为最大化问题,其中,C,min,为,f(x,),的最小估计值,目标函数为最小化问题,其中,C,maxn,为,f(x,),的最大估计值,12/6/2025,选择,(Selection),选择,(,复制,),操作把当前种群的染色体按与适应值成正比例的概率复制到新的种群中,主要思想,:,适应值较高的染色体体有较大的选择,(,复制,),机会,设种群的规模为,N,x,i,是种群中第,i,个染色体,染色体,x,i,被选概率,12/6/2025,选择,(Selection),实现,1,：”轮盘赌”选择,(Roulette wheel selection),产生一个在,0,与总和之间的的随机数,m,从种群中编号为,1,的染色体开始，将其适应值与后续染色体的适应值相加，直到累加和等于或大于,m,12/6/2025,选择,(Selection),染色体的适应值和所占的比例,轮盘赌选择,12/6/2025,选择,(Selection),随机数,23,49,13,38,6,27,所,选号码,2,6,2,5,1,4,所选染色体,11000,00011,11000,01100,01110,10010,染色体编号,1,2,3,4,5,6,染色体,01110,11000,00100,10010,01100,00011,适应度,8,15,2,5,12,8,被选,概率,0.16,0.3,0.04,0.1,0.24,0.16,适应度累计,8,23,25,30,42,50,染色体被选的概率,被选,的染色体,12/6/2025,选择,(Selection),轮盘上的片分配给群体的染色体，使得每一个片的大小与对于染色体的适应值成比例,从群体中选择一个染色体可视为旋转一个轮盘，当轮盘停止时，指针所指的片对于的染色体就时要选的染色体。,模拟“轮盘赌”算法,：,r=rand(0,1),，,s=0,，,i=0,；,如果,sr,，,则转,(4),；,s=s+p(x,i,),，,i=i+1,转,(2),xi,即为被选中的染色体，输出,I,结束,12/6/2025,选择,(Selection),其他选择法,：,随机遍历抽样,(Stochastic universal sampling),局部选择,(Local selection),截断选择,(Truncation selection),竞标赛选择,(Tournament selection),特点,：,选择操作得到的新的群体称为交配池，交配池是当前代和下一代之间的中间群体，其规模为初始群体规模。选择操作的作用效果是提高了群体的平均适应值,(,低适应值个体趋于淘汰，高适应值个体趋于选择,),，但这也损失了群体的,多样性,。选择操作没有产生新的个体，群体中最好个体的适应值不会改变。,12/6/2025,交叉,(crossover,Recombination),遗传交叉,(,杂交、交配、有性重组,),操作发生在两个染色体之间，由两个被称之为双亲的父代染色体，经杂交以后，产生两个具有双亲的部分基因的新的染色体，从而检测搜索空间中新的点。,选择,(,复制,),操作每次作用在一个染色体上，而交叉操作每次作用在从交配池中随机选取的两个个体上,(,交叉概率,P,c,),。,交叉产生两个子染色体，他们与其父代不同，且彼此不同,每个子染色体都带有双亲染色体的遗传基因。,12/6/2025,单点交叉,(1-point crossover),在双亲的父代染色体中随机产生一个交叉点位置,在交叉点位置分离双亲染色体,互换交叉点位置右边的基因码产生两个子代染色体,交叉概率,P,c,一般范围为,(6,0%,9,0%,),，平均约,80%,1,1,1,1,1,1,1,1,父代,1,1,1,1,0,0,0,0,0,0,0,0,0,0,0,0,子代,1,1,1,1,0,0,0,0,0,0,0,0,0,0,0,0,1,1,1,1,1,1,1,1,交叉点位置,12/6/2025,交叉,(crossover,Recombination),单点交叉操作可以产生与父代染色体完全不同的子代染色体；它不会改变父代染色体中相同的基因。但当双亲染色体相同时，交叉操作是不起作用的。,假如交叉概率,P,c,50%,则交配池中,50%,的染色体,(,一半染色体,),将进行交叉操作，余下的,50%,的染色体进行选择,(,复制,),操作。,GA,利用,选择和交叉操作,可以产生具有,更高平均适应值和更好染色体的群体,12/6/2025,变异,(Mutation),以变异概率,P,m,改变,染色体的某一个基因,当以二进制编码时，变异的基因由,0,变成,1,，或者由,1,变成,0,。,变异概率,P,m,一般介于,1/,种群规模与,1/,染色体长度之间，平均约,1-2%,1,1,0,1,0,1,0,0,父代,0,1,0,1,0,1,0,1,子代,变异基因,变异基因,12/6/2025,变异,(Mutation),比起选择和交叉操作，,变异操作,是,GA,中的次要操作，但它在恢复群体中失去的,多样性,方面具有潜在的作用。,在,GA,执行的开始阶段，染色体中一个特定位上的值,1,可能与好的性,能紧密联系，即搜索空间中某些初始染色体在那个位上的值,1,可能一,致产生高的适应值。因为越高的适应值与染色体中那个位上的值,1,相联,系，选择操作就越会使群体的遗传多样性损失。,等到达一定程度时，值,0,会从整个群体中那个位上消失，然而全局最,优解可能在染色体中那个位上为,0,。如果搜索范围缩小到实际包含全局,最优解的那部分搜索空间，在那个位上的值,0,就可能正好是到达全局最,优解所需要的。,12/6/2025,停止准则,(,Termination,Criteria),种群中个体的,最大适应值,超过预设定值,种群中个体的,平均适应值,超过预设定值,种群中个体的,进化代数,超过预设定值,12/6/2025,基本步骤,(Step by Step),(1),随机产生,初始种群,;,(2),计算种群体中每个个体的,适应度值,判断是否满足停止条件，若不满足，则转第,(3),步,否则转第,(6),步,;,(3),按由个体适应值所决定的某个规则,选择,将进入下一代的个体,;,(4),按交叉概率,P,c,进行,交叉操作,生产新的个体,;,(5),按变异概率,P,m,进行,变异操作,生产新的个体,;,(6),输出种群中适应度值最优的染色体作为问题的,满意解或最优解,。,12/6/2025,流程图,(Flow Chart),12/6/2025,基本遗传算法,基本遗传算法,（,Simple Genetic Algorithms,简称,SGA,）,是一种统一的最基本的遗传算法，它只,使用,选择、交叉、变异,这三种基本遗传算子，其遗传,进化操作过程简单，容易理解，是其他一些遗传算法,的雏形和基础，它不仅给各种遗传算法提供了一个基,本框架，同时也具有一定的应用价值。,12/6/2025,SGA,伪码描述,Procedure Genetic Algorithm,begin,t=0;,%,遗传代数,初始化,P(t,);,%,初始化种群或染色体,计算,P(t,),的适应值,;,while(,不满足停止准则,)do,begin,t=t+1;,从,P(t-1),中选择,P(t,);%selection,重组,P(t,);%crossover and mutation,计算,P(t,),的适应值,;,end,end,12/6/2025,遗传算法的应用,函数优化,函数优化是遗传算法的经典应用领域，也是对遗传算法进行性能测试评价的常用算例。对于一些非线性、多模型、多目标的函数优化问题，用其他优化方法较难求解，而遗传算法却可以方便地得到较好的结果。,遗传算法提供了一种求解复杂系统优化问题的通用框,架，它不依赖于问题的具体领域，对问题的种类有很,强的鲁棒性，所以广泛应用于很多学科。下面列举一,些遗传算法的主要应用领域。,12/6/2025,遗传算法的应用,组合优化,遗传算法是寻求组合优化问题满意解的最佳工具之一，实践证明，遗传算法对于组合优化问题中的,NP,完全问题非常有效。例如，遗传算法已经在求解旅行商问题,(Traveling Salesman Problem,TSP),、背包问题,(Knapsack Problem),、装箱问题,(Bin Packing Problem),等方面得到成功的应用。,生产调度问题,生产调度问题在很多情况下所建立起来的数学模型难以精确求解，即使经过一些简化之后可以进行求解也会因简化得太多而使求解结果与实际相差太远。现在遗传算法已经成为解决复杂调度问题的有效工具。,12/6/2025,遗传算法的应用,自动控制,遗传算法已经在自动控制领域中得到了很好的应用，例如基于遗传算法的模糊控制器的优化设计、基于遗传算法的参数辨识、基于遗传算法的模糊控制规则的学习、利用遗传算法进行人工神经网络的结构优化设计和权值学习等。,机器人智能控制,机器人是一类复杂的难以精确建模的人工系统，而遗传算法的起源就来自于对人工自适应系统的研究，所以机器人智能控制自然成为遗传算法的一个重要应用领域。,12/6/2025,遗传算法的应用,图象处理和模式识别,图像处理和模式识别是计算机视觉中的一个重要研究领域。在图像处理过程中，如扫描、特征提取、图像分割等不可避免地存在一些误差，这些误差会影响图像处理的效果。如何使这些误差最小是使计算机视觉达到实用化的重要要求，遗传算法在这些图像处理中的优化计算方面得到了很好的应用。,人工生命,人工生命是用计算机、机械等人工媒体模拟或构造出的具有自然生物系统特有行为的人造系统。自组织能力和自学习能力是人工生命的两大重要特征。人工生命与遗传算法有着密切的关系，基于遗传算法的进化模型是研究人工生命现象的重要理论基础。,12/6/2025,遗传算法的应用,遗传程序设计,Koza,发展了遗传程序设计的概念，他使用了以,LISP,语言所表示的编码方法，基于对一种树形结构所进行的遗传操作来自动生成计算机程序。,机器学习,基于遗传算法的机器学习，在很多领域中都得到了应用。例如基于遗传算法的机器学习可用来调整人工神经网络的连接权，也可以用于人工神经网络的网络结构优化设计。分类器系统在多机器人路径规划系统中得到了成功的应用。,12/6/2025,SGA,实例,1,：函数最值,SGA,参数,:,编码方式,:,二进制码,e.g.00000,0;,01101,13;11111,31,种群规模,:4,随机初始群体,“,转盘赌”选择,一点杂交,二进制变异,求函数,f(x,)=x,2,的最大值，,x,为自然数且,0 x31.,手工方式完成演示,SGA,过程,12/6/2025,SGA,实例,1 max x,2,:,选择操作,12/6/2025,SGA,实例,1 max x,2,:,交叉操作,12/6/2025,SGA,实例,1 max x,2,:,变异操作,12/6/2025,SGA,实例,2:,连续函数最值,求下列函数的最大值,：,12/6/2025,SGA,实例,2:,编码,高精度,编码,x,y,0,1,L,必须可逆,(,一个表现型对应一个基因型,),解码算子,：,:,0,1,L,x,y,染色体长度,L,决定可行解的最大精度,长染色体,(,慢进化,),实数问题,：,变量,z,为实数，如何把,a,1,a,L,0,1,L,zx,y,12/6/2025,SGA,实例,2:,编码,设定求解精确到,6,位小数，因区间长度位,2-(-1)=3,则需将区,间分为,3X10,6,等份。因,2097152,2,21,3X10,6,2,22,4194304,。故编码的二进制串长,L=22,。,将一个二进制串,(b21b20b0),转化为,10,进制数：,e.g.,-1;,2,1.627 888,1.627888=-1+3x(1110000000111111000101),2,/(2,22,-1),=-1+3x3674053/(222-1),12/6/2025,SGA,实例,2:,初始化种群、适应函数,随机初始化种群,适应函数,本实例目标函数在定义域内均大于,0,，,且是求函数最大值，故直接引用目标函数作为适应函数：,f(s)=f(x),其中二进制串,s,对于变量,x,的值。,e.g.,s,1,=,x,1,=-0.958 973,适应值,:f(s,1,)=f(,x,1,)=1.078 878,s,2,=,x,2,=,1.627 888,适应值,:f(s,2,)=f(,x,2,)=3.250 650,12/6/2025,SGA,实例,2:,遗传操作,选择操作,(“,轮盘赌”选择,),交叉操作,(,单点交叉,),交叉前,(,父,):,s,1,=,s,2,=,交叉后,(,子,):,s,1,=,s,2,=,适应值,:,f(s,1,)=f(-0.998 113)=1.940 865,f(s,2,)=f(1.666 028)=3.459 245,s,2,的适应值比其双亲个体的适应值高。,12/6/2025,SGA,实例,2:,遗传操作,变异操作,变异前,(,父,):,s,2,=,变异后,(,子,),:,s,2,=,适应值,f(s,2,)=f(1.721 638)=0.917 743,比,f(s,2,),小,变异前,(,父,),:,s,2,=,变异后,(,子,),:,s”,2,=,适应值,f(s”,2,)=f(1.630 818)=3.343 555,比,f(s,2,),大,变异操作有”,扰动,”作用，同时具有增加种群多,样性的效果。,12/6/2025,SGA,实例,2:,模拟结果,遗传算法的参数,:,种群规模,:50,染色体长度,:L=22,最大进化代数,:150,交叉概率,:P,c,=0.25,变异概率,:P,m,=0.01,12/6/2025,SGA,实例,2:,模拟结果,(,最佳个体进化情况,),世代数,染色体编码,变量,x,适应值,1,4,11,17,34,40,54,71,89,150,1000111000010110001111,0000011011000101001111,0110101011100111001111,1110101011111101001111,1100001101111011001111,1101001000100011001111,1000110110100011001111,0100110110001011001111,1101001111110011001111,1101001111110011001111,1.831 624,1.842 416,1.854 860,1.847 536,1.853 290,1.848 443,1.848 699,1.850 897,1.850 549,1.850 549,3.534 806,3.790 362,3.833 286,3.842 004,3.843 402,3.846 232,3.847 155,3.850 162,3.850 274,3.850 274,12/6/2025,最优化问题,(Optimization Problem),最优化问题,:,组合优化问题,(Combinatorial Optimization Problem):,最优化问题中的解空间,X,或,S,由离散集合构成。,12/6/2025,最优化问题算法,传统的优化方法,(,局部优化方法,),共轭梯度法、牛顿法、单纯形方法,等,特点,:,1),依赖于初始条件。,2),与求解空间有紧密关系，促使较快地收敛到局部 解，但同时对 解域有约束，如连续性或可微性。利用这些约束，收敛快。,3),有些方法，如,Davison-Fletcher-Powell,直接依赖于至少一阶导数；共轭梯度法隐含地依赖于梯度。,12/6/2025,最优化问题算法,全局优化方法,下降轨线法、,Monte-Carlo,随机试验法、模拟退火法、,GA,等,特点：,1),不依赖于初始条件；,2),不与求解空间有紧密关系,对解域无可微或连续的要求,;,容易实现，求解稳健。,3),但收敛速度慢,能获得全局最优,;,适合于求解空间不知的情况。,4)GA,可应用于大规模、多峰多态函数、含离散变量等全局优化问题,;,求解速度和质量远超过常规方法。,12/6/2025,无约束最优化问题,GA,编码,：,X=(x,1,x,2,x,n,),的各个变量可以按二进制编码方法分别编码。,对于变量,x,i,的上、下限约束,l,i,x,i,u,i,(i=1,2,n),，依据解,的精度要求,(,有效位数,),求得各个变量,X=(x,1,x,2,x,n,),的二进制,码位数,(m,1,m,2,m,n,),(,确定方法类似于,SGA,实例,2),，因此将,n,个二进制位串顺序连接起来，构成一个个体的染色体编码，编,码的总位数,m,m,1,+m,2,+m,n,。,无约束最优化问题,:,12/6/2025,无约束最优化问题,GA,解码,：,解码时仍按各个变量的编码顺序分别实现常规的二进制编码,解码方法。,二进制遗传编码示意图如下：,12/6/2025,约束最优化问题,常规解法,：,(1),把约束问题转化为无约束问题，在用无约束问题方法求解，如罚函数法,(2),改进无约束问题的方法，再用于约束问题，如梯度投影法、广义简约梯度法,约束最优化问题,:,12/6/2025,约束最优化问题,遗传算法求解关键,:,约束条件的处理,等式约束可以包含到适应函数，仅考虑不等式,约束。,假设按无约束问题那样求解，在搜索过程中计算目标函,数值，并检查是否有约束违反。如果没有违反，则表明是,可行解，就根据目标函数指定一适应值；否则，就是不可,行解，因而没有适应值,(,适应值为,0),。这样的处理实际不可,行，因为找到一个可行解几乎与找到最优解一样困难。,12/6/2025,一般解法,：,通过引入罚函数，从不可行解中得到一些信,息。将罚函数包含到适应函数中。,关键是如何设计罚函数；,不同问题需要设计不同的罚函数；,对一般的约束处理，通常很困难。,约束最优化问题,12/6/2025,组合最优化问题,典型问题：,巡回旅行商问题,(Traveling Salesman Problem),作业调度问题,(Job Shop Scheduling Problem),背包问题,(Knapsack Problem),图着色问题,很多组合最优化问题是,NP,难问题,或,NP,完全问题,12/6/2025,巡回旅行商问题,(TSP),TSP,，也称货郎担问题，是一个,NP,完全问题。,TSP,描述：,图论,:,设图,G=(V,E),其中,V,是顶点集，,E,是边集。设,C=(,c,ij,),是与,E,相联系的距离矩阵。寻找一条通过所有顶点且每个顶点只通过一次的最短距离回路,(Hamilton,回路,),。实际应用中，,C,也可解释为费用或旅行时间矩阵。,实际,:,一位推销员从自己所在城市出发，必须遍访所有城市之后又回到原来的城市，求使其旅行费用最少的路径。,12/6/2025,巡回旅行商问题,(TSP),中国货郎担问题,:,城市数,:40,城市编号,1,2,40,寻找一条最短路径,12/6/2025,TSP,复杂性,搜索空间庞大,TSP,涉及求多个变量的函数的最小值，求解很困难。,其可能的路径条数随着城市数目,n,成指数增长，如，,5,个城市对应,12,条路径；,10,个城市对应,181 440,条,路径；,100,个城市对应,4.6663,X,10,155,条路径。如此,庞大的搜索空间，常规解法和计算工具都遇到计算上,的困难。只能寻找近似解法，如神经网络方法、模拟,退火法、遗传算法等。,12/6/2025,TSP,编码,:,路径表示,染色体表示成所有城市的一个排列，若有,n,个城市，一,条可能路径编码为长度为,n,的整数向量,(i,1,i,2,i,n,),其中,i,k,表示第,i,k,个城市。,例如,:,路径编码向量,(5 1 7 8 9 4 6 2 3),直接表示一条,旅行路程,(5-1-7-8-9-4-6-2-3),。,此向量是,1,到,n,的一个排列，即从,1,到,n,的每个整数在这,个向量中正好出现一次,不能有重复。这样，基本遗传,算法的基因操作生成的个体不能满足这一约束条件，需,寻求其他遗传操作。,12/6/2025,TSP,交叉,需其他方式的交叉,(,重组,),操作,如部分匹配交叉,(,Partially Matched,Crossover,PMX,),、,顺序交叉,(,Ordered,Crossover,OX,),、,循环交叉,(,Cycle,Crossover,CX,),、,边重组,(,Edge Recombination,),。,1 2 3 4 5,5 4 3 2 1,1 2 3 2 1,5 4 3 4 5,一般的交叉操作会产生不合适的解，如,12/6/2025,TSP,交叉,1:,部分匹配交叉,(PMX),双亲,P1,P2,随机选取两个交叉点，得到一个匹配段,根据交叉点中间段给出映射关系。,1,2,3,4,5,6,7,8,9,9,3,7,8,2,6,5,1,4,x,x,x,4,5,6,7,x,x,x,x,x,8,2,6,5,x,x,P1,P2,映射关系：,4,8,、,5 2,、,7 5,c1,c2,交换两个交叉点之间的编码,(X,表示未定码,),12/6/2025,TSP,交叉,1:,部分匹配交叉,(PMX),子个体,C,1,，,C,2,分别从其父个体中继承未映射城市码,1,2,3,4,5,6,7,8,9,9,3,7,8,2,6,5,1,4,9,3,x,4,5,6,7,1,x,1,x,3,8,2,6,5,x,9,P1,P2,c1,c2,映射关系,：,4,8,、,5 2,、,7 5,9,3,2,4,5,6,7,1,8,1,7,3,8,2,6,5,4,9,c1,c2,再根据映射关系，对以上未定码，使用最初双亲码，得到子个体的对应码。映射关系存在传递关系，则选择未定码交换。,12/6/2025,TSP,交叉,2:,顺序交叉,(OX),双亲,P1,P2,随机选取两个交叉点,1,2,3,4,5,6,7,8,9,9,3,7,8,2,6,5,1,4,