ロジスティック回帰を最急降下法とニュートン法で解く

概要 まずはおさらい。2クラスの分類問題に確率的生成モデルを適用すれば、出力はシグモイド関数で表すことができ、それはデータがクラスに属する確率として解釈することができました。そして最尤推定によりパラメータを求めるため、交差エントロピー誤差を定義し、この最適解を求めることを考えます。最急降下法、ニュー…