【文献メモ】深層ニューラルネットが勾配爆発・消失を起こさない条件「勾配ノルム均等性」とそれを判定するための枠組み - Qiita

ニューラルネットの勾配爆発・消失を防ぐ手法は色々と提案されてきました (初期化・正規化・ネットワーク構造)。それらの手法に対し Chen らは、「勾配ノルム均等性」(各層の重みの勾配のフロベニウスノルムのオーダーが等しいか) という統一的な条件を導入し、それを誰でも判定でき...