活性化関数ReLUについてとReLU一族【追記あり】 - Qiita

(追記)活性化関数が学習に及ぼす影響下記記事にて実験&解説を実施。興味があれば是非。【ReLU, PReLU, シグモイド etc...】ニューラルネットでよく使う活性化関数の効果をKerasで…