u++の備忘録
id:upura
Pythonで活性化関数Swishを書く
※ 10月27日にVersion2が出ていたので、続編書きました。 upura.hatenablog.com追記以上 ーーーGoogle Brainが10月16日に公開した、深層のニューラルネットワークの画像分類・機械翻訳タスクでReLUを上回る性能を示したという活性化関数「Swish」をPythonで描画。論文のFigure 1に当たる図。 #!/usr/bin/env python3 # -*- …