ReLUファミリー活性化関数を検証してみる(ReLU,leakyReLU,PReLU)
TL;DR ReLUファミリー最強の活性化関数は今の所PReLU。 ただしRReLUは未検証。 TL;DR mnistでモデルのみで99.5%を超えたい 結果 まとめ mnistでモデルのみで99.5%を超えたい How to score 97%, 98%, 99%, and 100% | Kaggle 上記によると 99.5%: If you design a good CNN architecture and then add special features lik…
