非线性最优化-CH7

...昨天写了一堆忘保存了。

• 这一章是第一个计算重点：无约束优化

首先是无约束优化问题中的最优解条件：

其次无约束优化问题的基本框架如下：

框架4要素：终止条件，下降方向，步长，收敛率。

1. 终止条件：如上图所示

2. 步长：

其中这门课主要用线搜索。

3.下降方向：

最速下降法：

牛顿法：

共轭梯度法：

首先给出共轭方向的含义