DeepSeek V4.1 Flash 1017を試す。恐らくPRのバグでモノが出てこない
DeepSeek V4.1 Flash 1017というのが出て、かなりベンチマークの数字がよかったので試してみました。 552B-A8B/16B-E196Bです。 ここで書いたように、Encoder-Decoderという形式でプロンプト読み込み時に後半のレイヤーを近似で飛ばすので、Prefill時A8B、Decode時A16B、そしてn-gramが196Bついているというアーキテクチャ…
