ishishi11’s blog

Section5)Transformer Seq2Seq ・Encoder-decoderモデルとも呼ばれる。入力系列がエンコードされ、内部状態からデコードされ系列に変化される。 例）翻訳、音声認識、チャットボット ・要は二つの言語モデルを連結した形になっている。 言語モデル ・単語の並びに対して、尤度すなわち文章として自然かを確率で評価する。 …