无约束最优化问题.pptx

2.2,无约束最优化问题,引言,约束最优化问题,：具有辅助函数和形态约束条件的优 化问题。,无约束最优化问题,：没有任何限制条件的优化问题。,工程实践中大多数问题都是具有约束的优化问题。,但在优化方法的处理上可以将有约束优化问题转化为无约束最优化问题，然后按无约束方法进行处理。或者是将有约束优化部分转化为无约束优化问题，即在远离极值点和约束边界处按无约束来处理，当接近极值点和约束边界时，在按有约束的优化问题来处理。,因此无约束优化方法是优化方法的基本组成部分，也是优化设计中较常用的方法。,无约束优化问题数学模型一般形式为：,求,f(x),最优点,和最优值,f(,),的方法，称为无约束最优化方法。,解题一般步骤,（,1,）令梯度,g=0,，解出各个驻点；,（,2,）计算各驻点的矩阵,，判断矩阵,A,正定或负定，得到相对应的极小点或极大点；,（,3,）计算极值,例,多元函数的梯度和对应矩阵,解决这类问题还可以采用迭代算法，即从初始点,出发，利用迭代公式求得一个解序列,i=1,2,k,直到最优解满足某一收敛则为止。迭代公式可以表示为：,=,搜索方向,=,迭代法主要解决,两个问题,：,如何选择一个最有利的,搜索方向,使目标函数沿此方向快速下降，且计算简便。,在搜索方向既定的前提下，如何确定沿此方向迭代的,最优步长,无约束最优化方法可以分为两类：直接法和间接法。,直接法,又称数值方法，它只需计算目标函数诸点的函数数值，而不需求其导数，如坐标轮换法，单纯性法等。,间接法,又称解析法，是应用数学极值理论和解析方法，首先计算出目标函数的一阶或一阶、二阶导数，然后根据梯度及海赛矩阵提供的信息，构造各种算法，从而间接地求出目标函数的最优解，如,牛顿法、最速下降法、共轭梯度法及变尺度法,。,