【Pytorch】Transformerを実装する - Qiita

はじめに CNNやRNNと並んで重要なニューラルネットワークの仕組みとして、アテンション機構が挙げられます。 アテンション機構は入力データのどこに注目するべきかを学習することが可能です。 従来、アテンション機構はRNNやCNNなどと組み合わせて実装されることが専らでしたが...