勾配降下法、モメンタム法、nesterovの勾配加速法をアニメーション化した。 - Qiita
#勾配降下法 勾配降下法を使うとパラメータの値を逐次的に更新していくことによって一番尤もらしいパラメータの値を求められる。 関数のパラメータの更新式は以下の通り。 {\mathbf{w}^{t + 1} \gets \m...