【自然言語処理】Transformerとは何か

Transformerとは、ディープラーニングモデルの一つで、主に自然言語処理の分野で使用されます。自然言語処理などの時系列データを処理するように設計されてますが、RNNで取り入れている再帰を用いていません。構造としては、EncoderとDecoderの2つで構成されています。本記事ではEncoderとDecoderに分けてTransformerの仕…