机械优化设计方法课件全套教学教程整套课件全书电子教案.ppt

第一章 绪 论一一.优化优化1.优化 在规定的范围内（或条件下），寻找给定函数取得的最大值（或最小值）的条件。例：求得一维函数例：求得一维函数 f(x)最小值的条最小值的条件为：若取件为：若取 x*，则，则 f(x)取得最小值取得最小值 f(x*)。最优化(Optimization)简写为 Opt.目的是为了在完成某一任务时所作的努力最少、付出最小，而使其收益最大、效果最好。第一章 绪 论一一.优化优化例如，圆木做成矩形截面梁的最佳截面尺寸。例如，圆木做成矩形截面梁的最佳截面尺寸。使矩形梁的抗弯截面模量W最大限制条件b bh hd d第一章 绪 论一一.优化优化2.优化过程 优化的过程是一种决策的过程。例如，要求设计一个如下图所示的防洪堤坝。为了能防洪水，高度必须足以例如，要求设计一个如下图所示的防洪堤坝。为了能防洪水，高度必须足以保证洪峰到来时，洪水不会漫入堤岸；堤坝的强度足以保证巨浪不会冲垮堤保证洪峰到来时，洪水不会漫入堤岸；堤坝的强度足以保证巨浪不会冲垮堤坝。同时希望得到一个省时省力省经费的设计方案。坝。同时希望得到一个省时省力省经费的设计方案。n优化过程就是求解一个付出的努力最小、获得效益最大的方案。n获得设计方案的过程是一个决策的过程，也是优化的过程。n所作的努力或希望的效益在实际问题中均可表达为一些决策变量的函数。第一章 绪 论二二.优化设计优化设计 optimal design广广义义上上 指机械产品（包括零件、部件、设备或系统）将其所策划或构思的方案逐步改进并获得最佳设计方案的决策过程，包括设计过程各个阶段中的优化技术应用。狭狭义义上上 指某项设计在已确定方案后，寻求具有最佳性能（或品质）的一组设计参数值，通常称为参数优化设计参数优化设计。第一章 绪 论二二.优化设计优化设计 optimal design传统设计传统设计理论与方法疲劳寿命理论、强度理论、振动理论疲劳寿命理论、强度理论、振动理论常凭经验、试算、校核等方法。常凭经验、试算、校核等方法。求可行解求可行解6060年代出现：计算机辅助设计年代出现：计算机辅助设计CADCAD、有限单元法、可靠性设计、有限单元法、可靠性设计、优化设计优化设计、价值工程、反求工程、价值工程、反求工程 90 90年代出现：并行设计、虚拟设计、仿生设计、协同设计年代出现：并行设计、虚拟设计、仿生设计、协同设计现代设计现代设计理论与方法求最优解求最优解第一章 绪 论二二.优化设计优化设计优化设计的发展优化设计的发展 经典优化设计经典优化设计:20世纪40年代起，数学规划论和计算机技术的发展使最优化设计计算成为可能。优化设计从无约束有约束优化问题；连续变量离散变量；确定型随机型模型；单目标优化多目标优化。古典优化思想古典优化思想:17世纪发明微积分中的极值问题。现代优化设计：现代优化设计：20世纪80年代出现许多现代优化算法：模拟退火算法、遗传算法、人工神经网络算法、蚁群优化算法等。并从狭义优化设计（零部件参数）转向广义优化设计（面向产品的全系统、设计全过程、全寿命周期）。例如,针对涉及多领域复杂系统的多学科设计优化。第一章 绪 论实际问题表达成的函数类型函数类型不同变量类型变量类型不同连续、离散、随机变量等等连续、离散、随机变量等等确定型、不确定型；线性、非线性确定型、不确定型；线性、非线性无约束优化、约束优化无约束优化、约束优化单目标函数优化、多目标函数优化单目标函数优化、多目标函数优化连续变量优化、离散变量优化、随机变量优化连续变量优化、离散变量优化、随机变量优化模拟退火、神经网络、遗传优化等模拟退火、神经网络、遗传优化等优化算法优化算法不同二二.优化设计优化设计优化设计的方法优化设计的方法第一章 绪 论设计问题的分析和描述设计问题的分析和描述优化设计模型的建立优化设计模型的建立（明确设计内容）（明确设计内容）优化求解优化求解（选择优化方法和优化程序）（选择优化方法和优化程序）优化求解及后处理优化求解及后处理优化设计的一般过程优化设计的一般过程二二.优化设计优化设计第一章 绪 论二二.优化设计优化设计优化设计的作用优化设计的作用n使传统机械设计中，求解可行解上升为求解最优解；n使传统机械设计中，性能指标的校核可以不再进行；n使零缺陷（废品）设计成为可能；n大大提高了产品的设计质量，从而提高了产品的质量；n使不同学科设计人员的协同设计水平达到新的高度。第一章 绪 论第二章优化问题的基本术语和数学模型2.1 优优化化设计设计的数学模型的数学模型2.2 优优化化设计设计的三大要素的三大要素2.3 优优化化设计设计的分的分类类第一章 绪 论一一.机械优化设计方法解决实际问题的步骤机械优化设计方法解决实际问题的步骤 分析：分析：设计的要求（设计的要求（目标目标、准则）；、准则）；设计的限制（设计的限制（约束约束）条件；）条件；设计的参数，确定设计设计的参数，确定设计变量变量。建模：机械优化设计方法相应的建模：机械优化设计方法相应的数学模型数学模型。2.2.分析数学模型的类型，选择合适的求解方法（分析数学模型的类型，选择合适的求解方法（优化算法优化算法）。）。3.3.使用相应的优化算法程序（或编程）求数学模型的最优解，并对计使用相应的优化算法程序（或编程）求数学模型的最优解，并对计算的结果进行评价分析算的结果进行评价分析,最终确定是否选用此次计算的解。最终确定是否选用此次计算的解。1.1.分析分析实际问题，实际问题，建立建立优化设计的数学模型；优化设计的数学模型；第一章 绪 论二.二.举例：举例：圆形等截面销轴的优化设计的数学模型圆形等截面销轴的优化设计的数学模型 分析：分析：设计目标是轴的质量最轻设计目标是轴的质量最轻 Q=1/4 d2 l min.；要求：要求：设计销轴，在满足上述条件的同时，轴的质量应为最轻。设计销轴，在满足上述条件的同时，轴的质量应为最轻。设计限制条件有设计限制条件有5个：个：弯曲强度：弯曲强度：max w 扭转强度：扭转强度：刚度：刚度：f f 结构尺寸：结构尺寸：l 8 d 0 设计设计参数中的未定参数中的未定变量变量：d、l已知：已知：轴的一端作用载荷轴的一端作用载荷 P=1000N，扭矩，扭矩 M=100Nm；轴长不得小于；轴长不得小于8cm；材料的许用弯曲应力材料的许用弯曲应力 w=120MPa，许用扭剪应力，许用扭剪应力=80MPa，许用，许用挠度挠度 f=0.01cm；密度；密度=7.8t/m，弹性模量，弹性模量E=2105MPa。第一章 绪 论目标函数目标函数 Q=1/4 d2 l min.约束函数约束函数max =Pl/(0.1d3)w=M/(0.2d3 )f=Pl3/(3EJ)f l 8d 0求：求：X=x1,x2 T=d,l T min.f(X)=x12x2 XR2 s.t.g1(X)=8.33 x2 -x13 0 g2(X)=6.25-x13 0 g3(X)=0.34 x23-x14 0 g4(X)=8-x2 0 g5(X)=-x1 0建立数学模型建立数学模型代入数据整理得代入数据整理得 优化设计模型优化设计模型：二.二.举例：举例：圆形等截面销轴的优化设计的数学模型圆形等截面销轴的优化设计的数学模型 第一章 绪 论 设计变量设计变量 目标函数目标函数 约束函数约束函数（性能约束）（性能约束）约束函数（性能约束）约束函数（性能约束）约束函数（性能约束）约束函数（性能约束）约束函数（几何约束）约束函数（几何约束）约束函数（几何约束）约束函数（几何约束）属于属于2维欧氏空间维欧氏空间求：求：X=x1,x2 T=d,l T min.f(X)=x12x2 XR2 s.t.g1(X)=8.33 x2 -x13 0（max w）g2(X)=6.25-x13 0（）g3(X)=0.34 x23-x14 0（f f）g4(X)=8-x2 0 g5(X)=-x1 0二.二.举例：举例：圆形等截面销轴的优化设计的数学模型圆形等截面销轴的优化设计的数学模型 第一章 绪 论 设设 X=x1,x2,xn T min.f(X)=f(x1,x2,xn)XRn s.t.gu(X)0 u=1,2,m hv(X)=0 v=1,2,p n（设计变量）（设计变量）（目标函数）（目标函数）（不等式约束）（不等式约束）（等式约束）（等式约束）三三.优化设计的数学模型优化设计的数学模型机械优化设计机械优化设计数学模型的一般形式：数学模型的一般形式：第一章 绪 论一一.设计变量：设计变量：设计变量设计变量：在优化设计过程中是变化的，需要优选的量。在优化设计过程中是变化的，需要优选的量。设计参数设计参数：在优化设计过程中保持不变或预先确定数值。在优化设计过程中保持不变或预先确定数值。可以是几何参数：例，尺寸、形状、位置可以是几何参数：例，尺寸、形状、位置 运动学参数：例，位移、速度、加速度运动学参数：例，位移、速度、加速度 动力学参数：例，力、力矩、应力动力学参数：例，力、力矩、应力 其它物理量：例，质量、转动惯量、频率、挠度、其它物理量：例，质量、转动惯量、频率、挠度、弹性模量、密度弹性模量、密度 非物理量：非物理量：例，效率、寿命、成本例，效率、寿命、成本第一章 绪 论X(k)（x1(k),x2(k),xn(k)）是设计向量是设计向量X(k)的端点，代表设计空间中的一个点，也代表第的端点，代表设计空间中的一个点，也代表第 k 个设计方案。可能是可行方案、也可能不是可行方案。个设计方案。可能是可行方案、也可能不是可行方案。Rn：以以x1,x2,xn 为坐标轴，构成为坐标轴，构成 n 维欧氏实空间维欧氏实空间Rn。它包含了所有可能的设计点，即所有设计方案。它包含了所有可能的设计点，即所有设计方案。一一.设计变量设计变量用用 X=x1,x2,xnT 表示，是定义在表示，是定义在 n 维欧氏空间中的一维欧氏空间中的一个向量。个向量。设计空间设计空间设设 计计 点点设计变量设计变量设计向量设计向量优化设计问题有优化设计问题有 n 个设计变量个设计变量 x1,x2,xn，用用 xi(i=1,2,n)表示，是设计向量表示，是设计向量 X 的的 n个分量。个分量。第一章 绪 论例：右图三维空间中例：右图三维空间中第第1 1设计点：设计点：X X(1)(1)=x=x1 1(1)(1),x,x2 2(1)(1),x,x3 3(1)(1)T T第第2 2设计点：设计点：X X(2)(2)=x=x1 1(2)(2),x,x2 2(2)(2),x,x3 3(2)(2)T T 其中：其中：X X(2)(2)=X=X(1)(1)+X+X(1)(1)增量：增量：XX(1)(1)=x x1 1(1)(1),x x2 2(1)(1),x x3 3(1)(1)T T 即即 x x1 1(2)(2)=x=x1 1(1)(1)+x x1 1(1)(1)x x2 2(2)(2)=x=x2 2(1)(1)+x x2 2(1)(1)x x3 3(2)(2)=x=x3 3(1)(1)+x x3 3(1)(1)一一.设计变量设计变量第一章 绪 论一一.设计变量设计变量从一个设计问题的许多参数中识别出设计变量应注意以下几点：u设计变量应是独立的参数；设计变量应是独立的参数；u用设计变量来阐述设计问题应该是用最少的数量；用设计变量来阐述设计问题应该是用最少的数量；u在开始阐述设计问题时尽可能用较多的设计参数，然后再从它在开始阐述设计问题时尽可能用较多的设计参数，然后再从它中选出几个对设计指标影响较大的参数取为设计变量，其余定中选出几个对设计指标影响较大的参数取为设计变量，其余定为常数，即根据设计规范或经验把它取为固定的值。为常数，即根据设计规范或经验把它取为固定的值。第一章 绪 论设计约束：设计约束：设计变量值设计变量值(设计点设计点)的选择不仅要使目标函数达到最优值，的选择不仅要使目标函数达到最优值，同时还会受一定的条件限制，这些制约条件称设计约束。同时还会受一定的条件限制，这些制约条件称设计约束。约束函数：约束函数：设计约束是设计变量的函数，称为约束函数。设计约束是设计变量的函数，称为约束函数。不等式约束函数：不等式约束函数：gu(X)0 u=1,2,m 等式约束函数：等式约束函数：hv(X)=0 v=1,2,p 0 的部分。的部分。设计可行域设计可行域（简称为可行域）（简称为可行域）对于一个优化问题，所有约束的约束面将组成一个复合的约束对于一个优化问题，所有约束的约束面将组成一个复合的约束曲面，包围了设计空间中满足所有约束条件的区域，称为设计曲面，包围了设计空间中满足所有约束条件的区域，称为设计可行域可行域 。记作记作 =g u(x)0 u=1,2,mh v(x)=0 v=1,2,p第一章 绪 论二二.约束函数约束函数可行设计点可行设计点（内点）：（内点）：在可行域内任意一点称为可行设计点，代表一个可行方案。在可行域内任意一点称为可行设计点，代表一个可行方案。极限设计点极限设计点（边界点）：（边界点）：在约束面上的点称为极限设计点。在约束面上的点称为极限设计点。若讨论的设计点若讨论的设计点 X(k)点使得点使得 gu(X(k)=0，则，则 gu(X(k)0 称为称为 适时约束适时约束或起作用约束。或起作用约束。非可行设计点非可行设计点（外点）：（外点）：在可行域外的点称为非可行设计点，代表不可采用的设计方案。在可行域外的点称为非可行设计点，代表不可采用的设计方案。第一章 绪 论目标函数目标函数：优化设计的过程是从可行设计解中，找出一组最优解的过程。需要优化设计的过程是从可行设计解中，找出一组最优解的过程。需要一个一个准则准则来评价当前设计点（解）的最优性。来评价当前设计点（解）的最优性。这个准则包含各个设计变量，作为评价函数，一般称为目标函数，这个准则包含各个设计变量，作为评价函数，一般称为目标函数，也称为评价函数、准则函数、价值函数。也称为评价函数、准则函数、价值函数。多目标函数多目标函数：由于评价准则的由于评价准则的非唯一性非唯一性，目标函数可以是一个，目标函数可以是一个单目标函数，单目标函数，也可以是多个也可以是多个称为多目标函数。称为多目标函数。三三.目标函数目标函数第一章 绪 论单目标函数的表达式为：单目标函数的表达式为：f(x)=f(x1,x2,xn)多目标函数的表达式为：多目标函数的表达式为：f(x)=1 f1(x)+2 f2(x)+q fq(x)=其中：其中：f1(x)，f2(x)，fq(x)代表代表 q 个分设计目标；个分设计目标；1，2，q 代表代表 q 个加权系数。个加权系数。三三.目标函数目标函数第一章 绪 论三三.目标函数目标函数说明说明：f(x)必须是必须是x的函数，应随设计点的变化的函数，应随设计点的变化f(x)的值上升、下降；的值上升、下降；f(x)应该是实函数，是可计算的。但不一定通过数学公式，还可以应该是实函数，是可计算的。但不一定通过数学公式，还可以用其它数值计算方法计算。用其它数值计算方法计算。f(x)可以是有物理意义，有单位的，也可以没有物理意义。可以是有物理意义，有单位的，也可以没有物理意义。例如，销轴的质量：例如，销轴的质量：Q=1/4d2l，1/4是常数，是常数，目标函数可简化为目标函数可简化为 f(x)=d2 l=x12x2第一章 绪 论一一.按模型性质分：按模型性质分：确定型优化问题确定型优化问题 不确定型优化问题（随机优化问题）不确定型优化问题（随机优化问题）二二.按设计变量性质分按设计变量性质分 连续变量、连续变量、离散变量、离散变量、随机变量随机变量三三.按约束情况分按约束情况分1.1.按有无约束分：按有无约束分：无约束优化问题无约束优化问题 约束优化问题约束优化问题 2.2.按约束性质分：按约束性质分：区域约束（几何约束、边界约束）区域约束（几何约束、边界约束）性能约束（功能约束、性态约束）性能约束（功能约束、性态约束）第一章 绪 论四四.按目标函数和约束函数的特性分：按目标函数和约束函数的特性分：线性规划问题线性规划问题 非线性规划问题非线性规划问题 几何规划问题几何规划问题 二次规划问题二次规划问题五五.按目标函数的个数分：按目标函数的个数分：单目标优化问题单目标优化问题 双目标优化问题双目标优化问题 多目标优化问题多目标优化问题第一章 绪 论第三章优化问题的基本概念和理论3.1 优优化化设计设计的数学基的数学基础础3.2 优优化化设计设计的最的最优优解及解及获获得最得最优优解的条件解的条件3.3 优优化化设计问题设计问题的数的数值值迭代法及其收迭代法及其收敛敛条件条件第一章 绪 论一一.等值（线）面：等值（线）面：对于可计算的函数对于可计算的函数 f(x)f(x)，给定一个设计点，给定一个设计点 X X(k)(k)(x(x1 1(k)(k),x,x2 2(k)(k),x,xn n (k)(k)，f(x)f(x)总有一个定值总有一个定值c c 与之对应；而当与之对应；而当f(x)f(x)取定值取定值 c c 时，则有无限多个设计点时，则有无限多个设计点X X(i)(i)(x(x1 1(i)(i),x,x2 2(i)(i),x,xn n(i)(i)（i=1,2,i=1,2,）与之对应，这些点集构成一个曲面，）与之对应，这些点集构成一个曲面，称为称为等值面等值面。当当 c c 取取c c1 1,c,c2 2,等值等值时，就获得一族曲面族，时，就获得一族曲面族，称为称为等值面族等值面族。当当f(x)f(x)是二维时，获是二维时，获得一族等值线族；得一族等值线族；当当f(x)f(x)是三维时，获是三维时，获得一族等值面族；得一族等值面族；当当f(x)f(x)大于三维时，大于三维时，获得一族超等值面族。获得一族超等值面族。第一章 绪 论一一.等值（线）面：等值（线）面：等值线的形状等值线的形状：同心圆族、椭圆族，近似椭圆族；同心圆族、椭圆族，近似椭圆族；等值线的疏密等值线的疏密：沿等值线密的方向，函数值变化快；沿等值线密的方向，函数值变化快；沿等值线疏的方向，函数值变化慢。沿等值线疏的方向，函数值变化慢。等值线的疏密定性反应函数值变化率。等值线的疏密定性反应函数值变化率。严重非线性函数严重非线性函数病态函数的等病态函数的等值线族是严重偏心和扭曲、分布疏密值线族是严重偏心和扭曲、分布疏密严重不一的曲线族。严重不一的曲线族。第一章 绪 论方向导数方向导数：二维问题中，二维问题中，f(xf(x1 1,x,x2 2)在在 X X(0)(0)点沿方向点沿方向 s s的方向导数为：的方向导数为：为为 x(0)点的梯度。点的梯度。s方向的单位向量方向的单位向量为为 S S 的方向角的方向角,方向导数方向导数为方向余弦。为方向余弦。为梯度为梯度在方向在方向 s s 上的投影。上的投影。二二.梯度梯度第一章 绪 论二二.梯度梯度 对于对于 n n 维问题的梯度维问题的梯度第一章 绪 论二二.梯度梯度梯度的性质：梯度的性质：梯度是梯度是 x(0)点处最大的方向导数；点处最大的方向导数；梯度的方向是过点的等值线的法线方向；梯度的方向是过点的等值线的法线方向；梯度是梯度是x(0)点处的局部性质；点处的局部性质；梯度指向函数变化率最大的方向；梯度指向函数变化率最大的方向；正梯度方向是函数值最速上升的方向，正梯度方向是函数值最速上升的方向，负梯度方向是函数值最速下降的方向负梯度方向是函数值最速下降的方向。第一章 绪 论n n 维函数维函数 f(x)f(x)在在 x x(k)(k)点的台劳展开式，取二次近似函数点的台劳展开式，取二次近似函数:x(k)=x1(k),x2(k),xn(k)T梯度梯度 Hesse Hesse 矩阵矩阵三三.函数的局部近似与函数的局部近似与Hesse 矩阵矩阵第一章 绪 论三三.Hesse.Hesse 矩阵与正定矩阵与正定Hesse Hesse 矩阵的特性矩阵的特性：是实对称矩阵。：是实对称矩阵。矩阵正定的充要条件：矩阵正定的充要条件：各阶主子式各阶主子式 A A0 0当主子式当主子式 A0 A0 时，矩阵半正定时，矩阵半正定 A0(A0(负正相间负正相间)时，矩阵负定时，矩阵负定 A0 A0 时，矩阵半负定时，矩阵半负定Hesse Hesse 矩阵的正定性矩阵的正定性：H(x*)H(x*)正定，正定，是是 x*x*为全局极小值点的充分条件；为全局极小值点的充分条件；H(x*)H(x*)半正定半正定,是是 x*x*为局部极小值点的充分条件；为局部极小值点的充分条件；H(x*)H(x*)负定，负定，是是 x*x*为全局极大值点的充分条件；为全局极大值点的充分条件；H(x*)H(x*)半负定半负定,是是 x*x*为局部极大值点的充分条件。为局部极大值点的充分条件。正定的二次函数：曲面为椭圆抛物面；正定的二次函数：曲面为椭圆抛物面；等值线族为椭圆曲线族，椭圆中心为极小值点。等值线族为椭圆曲线族，椭圆中心为极小值点。第一章 绪 论凸集：凸集：设设 为欧氏空间为欧氏空间Rn 中中X的集合，即的集合，即 Rn,X ，若，若 域内任意两个点域内任意两个点x(1),x(2)的连线上的连线上的各点都属于的各点都属于 域，则集合域，则集合 称为称为 Rn 内的内的一个凸集。否则，为非凸集。一个凸集。否则，为非凸集。凸函数：凸函数：f(x)是定义在是定义在 n 维欧氏空间中，凸集上的函维欧氏空间中，凸集上的函数，同时数，同时x(1)，x(2)，0,1，当，当下式成立时，下式成立时，则称则称f(x)为定义在凸集为定义在凸集 上的凸函数。上的凸函数。f x(1)+(1-)x(2)f(x(1)+(1-)f(x(2)当上式中的当上式中的“”为为 “”时，时，f(x)是严格凸函数。是严格凸函数。四四.函数的凸性函数的凸性第一章 绪 论四四.函数的凸性函数的凸性判别函数为凸函数的凸性条件：判别函数为凸函数的凸性条件：u 按梯度判断凸性：设按梯度判断凸性：设f(x)是定义在凸集是定义在凸集 上具有连续一阶导数的函数，上具有连续一阶导数的函数，则则f(x)在在 上为凸函数的充要条件是：对于任意的上为凸函数的充要条件是：对于任意的 x(1),x(2)都有都有 成立。成立。u 按二阶偏导数判断凸性：设按二阶偏导数判断凸性：设 f(x)是定义在凸集是定义在凸集 上具有连续二阶导数上具有连续二阶导数的函数，则的函数，则f(x)在在 上为凸函数的充要条件是：上为凸函数的充要条件是：f(x)的的Hesse矩阵处处半矩阵处处半正定。若正定。若Hesse矩阵处处正定，则矩阵处处正定，则f(x)为严格凸函数。为严格凸函数。凸函数的基本性质凸函数的基本性质：u 若若 f(x)是定义在凸集是定义在凸集 上的严格凸函数，则上的严格凸函数，则f(x)在在 上的一个极小点，上的一个极小点，也就是全局最小点。也就是全局最小点。u 凸函数的线性组合仍然为凸函数。凸函数的线性组合仍然为凸函数。u 设设 为凸函数为凸函数 f(x)上的两个最小点，则其连线上的任意点也都是最小点。上的两个最小点，则其连线上的任意点也都是最小点。第一章 绪 论一一.优化设计最优解优化设计最优解无约束优化设计问题最优解：无约束优化设计问题最优解：约束优化设计问题最优解约束优化设计问题最优解：不受约束条件限制，使目标函数达到最小值的一组设计变量，即最不受约束条件限制，使目标函数达到最小值的一组设计变量，即最优点优点x*=x1,x2,xn T和最优值和最优值 f(x*)构成无约束问题最优解。构成无约束问题最优解。满足约束条件，使目标函数达满足约束条件，使目标函数达到最小值的一组设计变量，到最小值的一组设计变量，即最优点即最优点 x*=x1,x2,xn 和最和最优值优值 f(x*)构成约束问题最优解。构成约束问题最优解。第一章 绪 论一一.优化设计最优解优化设计最优解无约束优化设计问题最优解的条件：无约束优化设计问题最优解的条件：必要条件：必要条件：充分条件：充分条件：HesseHesse矩阵矩阵 H(xH(x(k)(k)是正定矩阵是正定矩阵第一章 绪 论二二.有约束问题最优点的几种情况有约束问题最优点的几种情况1.1.无适时约束无适时约束x x(k)(k)为最优点为最优点x*x*的条件：的条件：必要条件：必要条件：充分条件：充分条件：HesseHesse矩阵矩阵 H(xH(x(k)(k)是正定矩阵是正定矩阵X*目标函数是凸函数，可行域是凸目标函数是凸函数，可行域是凸集，则最优点是内点。相当于无集，则最优点是内点。相当于无约束问题的最优点。约束问题的最优点。第一章 绪 论二二.有约束问题最优点的几种情况有约束问题最优点的几种情况2.2.有适时约束有适时约束 目标函数是凸函数目标函数是凸函数,可行域是可行域是凸集，则目标函数等值线与适凸集，则目标函数等值线与适时约束曲面的切点为最优点，时约束曲面的切点为最优点，而且是全局最优点。而且是全局最优点。第一章 绪 论二二.有约束问题最优点的几种情况有约束问题最优点的几种情况3.3.有适时约束有适时约束 目标函数是目标函数是非凸函数非凸函数（图（图 a a），或可行域是非凸集（图），或可行域是非凸集（图 b b）：）：则目标函数等值线与适时约束曲面可能存在多个切点，是则目标函数等值线与适时约束曲面可能存在多个切点，是局部极值点局部极值点，其中只有一个点是全局最优点。，其中只有一个点是全局最优点。pQQp第一章 绪 论三三.K-T(Kuhn-Tucker Kuhn-Tucker 库恩库恩-塔克塔克)条件条件 有适时约束时获得最优解的条件有适时约束时获得最优解的条件1.1.有一个适时约束时：有一个适时约束时：与与x x(k)(k)点目标函数的负梯度方向成锐角，即沿点目标函数的负梯度方向成锐角，即沿 S S 方向目标函数值下降；方向目标函数值下降；与与x x(k)(k)点约束函数的梯度方向成钝角，即保证点约束函数的梯度方向成钝角，即保证 S S方向上各点在可行域内。方向上各点在可行域内。从从数学上数学上定义，当从定义，当从 x x(k)(k)点出发不存在一个点出发不存在一个 S S 方向能同时满足：方向能同时满足：;，即，即 ，则获得最优解：则获得最优解：x x(k)(k)为最优点为最优点 x*x*，f(xf(x(k)(k)为最优值为最优值 f(x*)f(x*)。从从几何上几何上看，当从看，当从 x(k)x(k)点出发不存在一个点出发不存在一个 S S 方向能同时满足方向能同时满足：此时，获得最优解此时，获得最优解 x(k)为最优点为最优点 x*，f(x(k)为最优值为最优值 f(x*)。第一章 绪 论2.2.有二个适时约束时：有二个适时约束时：x x(k)(k)成为约束最优点成为约束最优点 x*x*的必要条件为的必要条件为:几何上几何上 位于位于和和 所张的扇形子空间内。所张的扇形子空间内。即不存在一个即不存在一个 S S 方向能同时满足：方向能同时满足：三三.K-T(Kuhn-Tucker Kuhn-Tucker 库恩库恩-塔克塔克)条件条件 有适时约束时获得最优解的条件有适时约束时获得最优解的条件第一章 绪 论3.K-T 3.K-T 条件（扩展至条件（扩展至 m m 个适时约束）：个适时约束）：设某个设计点设某个设计点 x x(k)(k)，其，其适时约束集适时约束集为为 ，几何上，几何上，x x(k)(k)成为约束最优点成为约束最优点（极小点）（极小点）x*x*时，目标函数的时，目标函数的负梯度向量位于负梯度向量位于 m m 个适时约束个适时约束梯度向量所张成的子空间内。梯度向量所张成的子空间内。且且 为线性独立，则为线性独立，则 x x(k)(k)成为约束最优点的必要条成为约束最优点的必要条件是件是目标函数的负梯度向量可表示为适时约束梯度向量的线性组合，目标函数的负梯度向量可表示为适时约束梯度向量的线性组合，即即 。其中，其中，。三三.K-T(Kuhn-Tucker Kuhn-Tucker 库恩库恩-塔克塔克)条件条件 有适时约束时获得最优解的条件有适时约束时获得最优解的条件第一章 绪 论K-TK-T条件的作用：条件的作用：l 是判别边界设计点是判别边界设计点 x x(k)(k)为最优点的依据；为最优点的依据；l 作为约束优化的收敛条件。作为约束优化的收敛条件。三三.K-T(Kuhn-Tucker Kuhn-Tucker 库恩库恩-塔克塔克)条件条件 有适时约束时获得最优解的条件有适时约束时获得最优解的条件第一章 绪 论一一.数值迭代法：数值迭代法：基本思想基本思想：从设计点从设计点 x x(k)(k)出发，根据函数在该点的某些（局部）性质，出发，根据函数在该点的某些（局部）性质，确定本次搜索的方向确定本次搜索的方向 S S(k)(k)和步长因子和步长因子(k)(k)，从而达到一个新点，从而达到一个新点 x x(k+1)(k+1),逐步调优，最终达到或逼近目标函数的最优点。逐步调优，最终达到或逼近目标函数的最优点。迭代公式迭代公式：x x(k+1)(k+1)=x=x(k)(k)+(k)(k)S S(k)(k)迭代条件迭代条件：保证得到的新点保证得到的新点 在可行域内；在可行域内；目标函数值步步下降。目标函数值步步下降。第一章 绪 论一一.数值迭代法：数值迭代法：迭代步骤迭代步骤：选择合适的初始点；选择合适的初始点；寻找可行的搜索方向；寻找可行的搜索方向；确定步长因子；确定步长因子；获得新点后，判断其是否在可行域内、目标函数值获得新点后，判断其是否在可行域内、目标函数值是否下降；是否下降；检验是否收敛。检验是否收敛。第一章 绪 论二二.无约束优化问题收敛条件无约束优化问题收敛条件（终止准则）1.1.当当 时，时，。依据：判断无约束优化问题最优点的必要条件：依据：判断无约束优化问题最优点的必要条件：局限性：可能迭代终止在鞍点上。局限性：可能迭代终止在鞍点上。2.2.当当 时，或当时，或当 时时 依据：柯西准则依据：柯西准则序列极限存在的判别法；序列极限存在的判别法；局限性：遇到陡坡，迭代过早结束。局限性：遇到陡坡，迭代过早结束。3.3.当当 时，时，。局限性：局限性：目标函数值变化过缓时，目标函数值变化过缓时，过早结束；过早结束；当当 f(xf(x(k-1)(k-1)0 )0 时不可用。时不可用。第一章 绪 论第四章无约束问题的最优化方法4.1 引言引言4.2 一一维搜索方法搜索方法4.3 坐坐标轮换法和法和 Powell 法法4.4 梯度法和共梯度法和共轭梯度法梯度法4.5 牛牛顿法和法和变尺度法尺度法第一章 绪 论无约束优化问题数学模型的一般形式为：求一组求一组 n 维设计变量维设计变量使目标函数达到使目标函数达到即求设计问题的最优解，包括即求设计问题的最优解，包括 设计向量的最优点目标函数的最优值第一章 绪 论无约束优化问题的研究内容：一维搜索：多维（变量）优化：黄金分割黄金分割插值法插值法 坐标轮换法坐标轮换法共轭方向法共轭方向法梯度法梯度法共轭梯度法共轭梯度法牛顿法牛顿法DFPDFP变尺度法变尺度法 确定搜索方向确定搜索方向 S(k)求最优步长因子求最优步长因子(k)第一章 绪 论一维搜索：求最优步长因子求最优步长因子(k)一维搜索一维搜索 求最优步长因子求最优步长因子(k)，使使 沿给定方向达到极小值的过程沿给定方向达到极小值的过程已知点给定搜索方向第一章 绪 论解析法解析法把函数把函数 沿沿 方向作方向作TaylorTaylor展开，并取二次近似式，则得展开，并取二次近似式，则得对对 求导数并令其等于零，即求导数并令其等于零，即得得求得最优步长因子为求得最优步长因子为可精确求导可精确求导注意：注意：第一章 绪 论数值迭代法数值迭代法搜索区间的确定搜索区间的确定第一步：第一步：确定函数值最小点的所在区间确定函数值最小点的所在区间第二步：第二步：求最优步长因子求最优步长因子(k)黄金分割黄金分割插值法插值法 第一章 绪 论数值迭代法数值迭代法搜索区间的确定搜索区间的确定 在区间在区间 1 1，3 3 内，函数只有一内，函数只有一个峰值，则此区间为个峰值，则此区间为单峰区间单峰区间。单峰。单峰区间内，一定存在一点区间内，一定存在一点*，当任意一，当任意一点点2 2*时，时，f(2)f(*)，当当2 2*时，仍有时，仍有f(2)f(*)，则，则*是最优点，也即为最优步长因是最优点，也即为最优步长因子子(k)(k)。说明：说明：l 单峰区间内，函数可以有不可单峰区间内，函数可以有不可微点，也可以是不连续函数；微点，也可以是不连续函数；l 确定的搜索区间必定是一个确定的搜索区间必定是一个含有最优点含有最优点*的单峰区间。的单峰区间。第一章 绪 论数值迭代法数值迭代法搜索区间的确定搜索区间的确定试探步长加速步长搜索法加速步长搜索法外推法外推法（缩小搜索区间）（缩小搜索区间）第一章 绪 论数值迭代法新区间序列消去法序列消去法一般形式最终区间长度终止条件最优点第一章 绪 论数值迭代法黄金分割法黄金分割法序列消去法序列消去法第一章 绪 论数值迭代法二次插值法二次插值法基本原理基本原理第一章 绪 论数值迭代法二次插值法二次插值法确定二次插值函数的系数：已知：已知：解得解得简化公式简化公式第一章 绪 论数值迭代法二次插值法二次插值法缩短搜索区间：已知：已知：新区间新区间收敛条件收敛条件第一章 绪 论坐标轮换法坐标轮换法基本原理基本原理 每次以一个变量坐标轴作为搜索方向，将 n 维的优化问题转化为一维搜索问题。例，第 k 轮迭代的第 i 次搜索，是固定除 xi外的 n-1 个变量，沿 xi 变量坐标轴作一维搜索，求得极值点 xi(k)n 次搜索后获得极值点序列 x1(k),x1(k),xn(k)，若未收敛，则开始第 k+1 次迭代，直至收敛到最优点 x*。第一章 绪 论坐标轮换法坐标轮换法搜索方向和步长搜索方向和步长第k轮第i次迭代公式第k轮第i次迭代初始点第k轮第i次迭代步长因子第k轮第i次迭代搜索方向收敛条件加速步长法加速步长法一维搜索法一维搜索法第一章 绪 论坐标轮换法坐标轮换法方法评价方法评价u 方法简单，容易实现。u 当维数增加时，效率明显下降。u 收敛慢，以振荡方式逼近最优点。u 受目标函数的性态影响很大。如图 a)所示，二次就收敛到极值点；如图 b)所示，多次迭代后逼近极值点；如图 c)所示，目标函数等值线出现山脊（或称陡谷），若搜索到 A 点，再沿两个坐标轴，以t0步长测试，目标函数值均上升，计算机判断 A 点为最优点。事实上发生错误。第一章 绪 论Powell 法法基本思想基本思想 若沿连接相邻两轮搜索末端的向量 S 方向搜索，收敛速度加快。因为两条平行线 S1,S2 与同心椭圆族相切，两个切点的连线 S 直指中心。称 S1,S2与 S 为共轭方向。目的：以共轭方向打破振荡，加速收敛。第一章 绪 论Powell 法法共轭方向共轭方向与共轭第1轮搜索第2次搜索可以证明PowellPowell法的理论基础法的理论基础第一章 绪 论Powell 法法步骤步骤第一章 绪 论Powell 法法说明说明u 若是正定二次函数，n 轮迭代后收敛于最优点 x*。u 若是非正定二次函数，则迭代次数增加。u 若是 n 维问题，步骤相同。搜索方向：第一轮迭代，沿初始方向组 Si(1)(i=1,2,n)的 n 个方向和共轭方向 S(1)，搜索 n+1 次得极值点 xn+1(1)；第二轮迭代，沿方向组 Si(1)(i=1,2,n；im)的 n1个方向和共轭方向 S(1)，构筑共轭方向 S(2)搜索n+1次得极值点 xn+1(2)。其中，为保证搜索方向的线性无关，去除了 Sm(2)方向。u 在第在第 k k 轮迭代中，为避免产生线性相关或近似线性相关，需要去除前轮迭代中，为避免产生线性相关或近似线性相关，需要去除前一轮中的某个方向一轮中的某个方向 Sm(k)Sm(k)。去除的方法请自学。去除的方法请自学。第一章 绪 论Powell 法法方法评价方法评价u 计算步骤复杂;u 是二次收敛方法，收敛快。对非正定函数也很有效;u 是比较稳定的方法。第一章 绪 论梯度法梯度法