【 BERT後継モデル? 】BERTにGANの枠組みを取り入れたElectraが、RoBERTaの1/4の学習データで、RoBERTaと同じ精度を達成!Electraの仕組みを徹底解説! - Qiita

#Google発のElectraとは?2019年9月26日に、Googleが初稿論文を公開した、複数の言語処理タスクに適用可能な学習済のモデルです。2020年3月10日には、更新版の論文が202…