Attentionは不要!?Google BrainによるTransformer型モデルに対抗できるgMLPを詳細解説!

はじめに  Google Brainが全結合層を基本としたニューラルネットワークがTransformerと同程度の精度を出すことができることを研究で明らかにしました。この結果、NLP(自然言語処理)だ […]