Sabrou-mal サブロウ丸
id:inarizuuuushi
Transformerによる翻訳システム自作; part6 word embedding
本稿ではword embeddingとしてFastTextを導入してみます。 Pretrained Word Embeddings コード まとめ 他の記事 Pretrained Word Embeddings 学習済のword embeddingによる変換を試してみましょう。 pytorchで公開されているfastTextを使ってみます。 これは単語の分散学習が行われており、"似たような"トークンは"似たよ…