機械学習に詳しくなりたいブログ
id:opabinia2
多クラスロジスティック回帰における交差エントロピー誤差のヘッセ行列
概要 多クラスロジスティック回帰の続きです。尤度関数から交差エントロピー誤差関数を定義し、その勾配を求めました。ニュートン法を用いて解を数値計算することが目的ですので、今回はさらに微分してヘッセ行列を求めます。 ヘッセ行列を導出 多クラスロジスティック回帰より、交差エントロピー誤差をとして、 でした。…