梯法和共轭梯法.pptx

一一.无约束最优化问题无约束最优化问题解析方法：利用函数的解析性质构造迭代公式使之收敛到最优解。二二.梯度法（最速下降法）梯度法（最速下降法）迭代公式：迭代公式：如何选择下降最快的方向？如何选择下降最快的方向？梯度法（最速下降法）：梯度法（最速下降法）：梯度法算法步骤：梯度法算法步骤：解：解：收敛性收敛性性质性质.三三.共轭梯度法共轭梯度法1.共轭方向和共轭方向法共轭方向和共轭方向法共轭是正交的推广。共轭是正交的推广。几何意义几何意义共轭方向法2.共轭梯度法 如何选取一组共轭方向？如何选取一组共轭方向？以下分析算法的具体步骤。以下分析算法的具体步骤。3.用于一般函数的共轭梯度法