next up previous
Next: 最急降下法 Up: 原理 Previous: 原理


制約なし最適化問題の解法

本項では, 制約条件がない状態で非線形関数を最適化する (最大値あるいは最小値を求める)ための代表的なアルゴリズム である最急降下法とNewton法について述べ, これらの対照的な 性質について説明する。さらに, 最急降下法やNewton法を含む アルゴリズムの一般形について触れる。

なお, これ以降では, 太字で行ベクトルや列ベクトルをあらわし, 下付き添字($ \vec{x}_k$など)で ベクトルやスカラーの第$ k$回目の繰り返しにおける値をあらわす。 ベクトル$ \vec{x}$の第$ k$成分をあらわすときには, $ x$の部分を太字にせずに「$ x_k$」と書く。 これらの 記法に混乱しないよう注意すること。 また, 記号$ \vec{0}$によって零ベクトルをあらわし, 数0と区別する。 なお, ベクトルは特に断らない限りは縦ベクトルであるものとする。





Shigeru HANBA
平成15年11月16日