优化设计的数学基础市公开课一等奖百校联赛特等奖课件.pptx

第二章 优化设计数学基础机械设计问题普通是非线性规划问题。实质上是多元非线性函数极小化问题，所以，机械优化设计是建立在多元函数极值理论基础上。机械优化设计问题分为：无约束优化约束优化无条件极值问题条件极值问题第1页第一节 多元函数方向导数与梯度一、方向导数 从多元函数微分学得知，对于一个连续可微函数f(x)在某一点 一阶偏导数为：，它表示函数f(x)值在 点沿各坐标轴方向改变率。有一个二维函数，如图2-1所表示。第2页图2-1 函数方向导数第3页其函数在 点沿d方向方向导数为第4页二、二元函数梯度对于二维函数在点处梯度设为d方向单位向量，则有第5页即第6页三、多元函数梯度沿d方向方向向量即第7页图2-5 梯度方向与等值面关系第8页 函数梯度方向与函数等值面相垂直，也就是和函数梯度方向与函数等值面相垂直，也就是和等值面上过等值面上过x0一切曲线相垂直。一切曲线相垂直。因为梯度模因点而异，即函数在不一样点处最因为梯度模因点而异，即函数在不一样点处最大改变率是不一样。所以，梯度是函数一个大改变率是不一样。所以，梯度是函数一个局部性局部性质质。l梯度梯度 模：模：第9页梯度两个主要性质：梯度两个主要性质：梯度两个主要性质：梯度两个主要性质：性质一性质一性质一性质一 函数在某点梯度不为零，则必与过该点等函数在某点梯度不为零，则必与过该点等函数在某点梯度不为零，则必与过该点等函数在某点梯度不为零，则必与过该点等值面垂直；值面垂直；值面垂直；值面垂直；性质二性质二性质二性质二 梯度方向是函数含有最大改变率方向。梯度方向是函数含有最大改变率方向。梯度方向是函数含有最大改变率方向。梯度方向是函数含有最大改变率方向。图图2-2 梯度方向与等值面关系梯度方向与等值面关系第10页例题例题 2-1求函数求函数 在点在点3,2T 梯度。梯度。在点在点x(1)=3,2T处梯度为：处梯度为：l解：解：第11页例例2-2*：试求目标函数：试求目标函数 在点在点 处处最速下降方向，并求沿这个方向移动一个单位长度后新点目标最速下降方向，并求沿这个方向移动一个单位长度后新点目标函数值。函数值。则函数在则函数在 处最速下降方向是处最速下降方向是解：解：因为因为新点是新点是这个方向上单位向量是：这个方向上单位向量是：第12页几个惯用梯度公式：几个惯用梯度公式：第13页若目标函数f(x)处处存在一阶导数，则极值点必要条件一阶偏导数等于零，即满足此条件仅表明该点为驻点，不能必定为极值点，即使为极值点，也不能判断为极大点还是极小点，还得给出极值点充分条件设目标函数在 点最少有二阶连续偏导数，则在这一点泰勒二次近似展开式为：第二节 多元函数泰勒展开第14页为N维函数f(x)在点处Hesse矩阵第15页泰勒展开写成向量矩阵形式第16页（1）F(X*)=0；必要条件（2）Hesse矩阵G(X*)为正定。充分条件多元函数f(x)在 处取得极值，则极值条件为为无约束极小点充分条件其Hesse矩阵G(X*)为正定。则极小点必须满足为无约束优化问题极值条件第17页同学考虑二元函数在 处取得极值充分必要条件。各阶主子式大于零例：求函数 极值第18页第三节 无约束优化问题极值条件n无约束优化问题是使目标函数取得极小值，所谓极值条件就是指目标函数取得极小值时极值点所应满足条件。第19页第20页第21页第22页第四节 凸集、凸函数与凸规划前面我们依据函数极值条件确定了极小点则函数f(x)在 附近一切x均满足不等式所以函数f(x)在 处取得局部极小值，称 为局部极小点。而优化问题普通是要求目标函数在某一区域内全局极小点。函数局部极小点是不是一定是全局极小点呢？第23页图2-7 下凸一元函数第24页一、凸集线段都全部包含在该集合内，就称该点集为凸集，不然为非凸集。一个点集（或区域），假如连接其中任意两点第25页凸集性质二、凸函数函数f(x）为凸集定义域内函数，若对任何及凸集域内任意两点存在以下不等式：第26页称是定义在凸集上一个凸函数。第27页三、凸性条件1.依据一阶导数（函数梯度）来判断函数凸性设f(x)为定义在凸集R上，且含有连续一阶导数函数，则f(x)在R上为凸函数充要条件是对凸集R内任意不一样两点 ，不等式恒成立。2.依据二阶导数（Hesse矩阵)来判断函数凸性第28页设f(x)为定义在凸集R上且含有连续二阶导数函数，则f(x)在R上为凸函数充要条件Hesse矩阵在R上处处半正定。四、凸规划对于约束优化问题若都为凸函数，则此问题为凸规划。第29页凸规划性质：1.若给定一点 ，则集合为凸集。2.可行域为凸集3.凸规划任何局部最优解就是全局最优解第30页第五节 等式约束优化问题极值条件约束优化等式约束不等式约束求解这一问题方法消元法拉格朗日乘子法第31页1.消元法（降维法）第32页2、拉格朗日乘子法（升维法）第33页2、拉格朗日乘子法（升维法）第34页2、拉格朗日乘子法（升维法）对于含有L个等式约束n维优化问题处有将原来目标函数作以下改造：第35页拉格朗日函数待定系数新目标函数极值必要条件例2-4 用拉格朗日乘子法计算在约束条件情况下，目标函数极值点坐标。第36页第37页第六节 不等式约束优化问题极值条件在工程中大多数优化问题，可表示为不等式约束条件优化问题。有必要引出非线性优化问题主要理论，是不等式约束多元函数极值必要条件。库恩-塔克（Kuhn-Tucker）条件一、一元函数在给定区间上极值条件一元函数f(x)在给定区间a,b上极值问题，能够写成以下含有不等式约束条件优化问题：第38页拉格朗日乘子法，除了能够应用于等式极值问题，还可以用于不等式极值问题。需引入松弛变量，将不等式约束变成等式约束。设a1和b1为两个松弛变量，则上述不等式约束可写为：第39页则该问题拉格朗日函数依据拉格朗日乘子法，此问题极值条件：第40页由（起作用约束）（不起作用约束）一样 ，来分析 起作用何不起作用约束。所以，一元函数在给定区间极值条件，能够表示为：第41页多元库恩-塔克条件分析极值点 在区间位置，有三种情况第42页当时，此时，则极值条件为第43页当时，此时则极值条件为即第44页当时，此时，则极值条件为即第45页从以上分析能够看出，对应于不起作用约束拉格朗日乘子取零值，所以能够引入起作用约束下标集合。一元函数在给定区间极值条件，能够改写为：极值条件中只考虑起作用约束和对应乘子。第46页二、库恩-塔克条件仿照一元函数给定区间上极值条件推导过程，能够得到含有不等式约束多元函数极值条件：用起作用约束下标集合表示第47页用梯度形式表示，可得或库恩-塔克条件几何意义：在约束极小点处，函数负梯度一定能表示成全部起作用约束在该点梯度非负线性组合。第48页下面以二维问题为例，说明K-T条件几何意义第49页从图中能够看出，处于和角锥之内，即线性组合系数为正，是在取得极值必要条件。第50页三、库恩-塔克条件应用举例若给定优化问题数学模型为K-T条件第51页第52页第53页第54页第55页第56页第57页第58页第59页小结n1.掌握多元函数方向导数与梯度n2.掌握多元函数泰勒展开n3.掌握无约束优化问题极值条件n4.掌握凸集、凸函数与凸规划n5.掌握拉格朗日乘子法第60页