ギークなエンジニアを目指す男
id:taxa_program
ゼロから作るDeepLearning 6章を学ぶ 〜学習のテクニック〜
本日は6章を学んでいきます。 この章では、ニューラルネットワークの学習においてキーとなっている 重みパラメータの更新方法 重みパラメータの初期値設定方法 の2点について重点的に学ぶことができました。 今回は重みパラメータの更新方法について、まとめます。 復習 SGD(確率的勾配降下法) Momentum AdaGrad Adam MN…