機械学習に詳しくなりたいブログ
id:opabinia2
ニュートン法(多変数)の実験
ニュートン法(多変数の場合)で導出した を使って、関数の極値を求めてみたいと思います。 関数は としました。*1 この関数の形状と等高線はこちらのようになっています。 さて、この関数のヘッセ行列と勾配は、 です。あとは初期値を決めて式(1)を繰り返すだけです。反復によって解へ近づいていく過程をグラフにしました…