地平線まで行ってくる。

mmngaさんによるcyberagent-Mistral-Nemo-Japanese-Instruct-2408のgguf変換版を試してみます。日本語を意識しているLLMです。昨年発表のモデルですが、変換モデルが公開されたので改めて試します。ColabのL4環境で実行しました。VRAM占有率は、8993MiB / 23034MiB でした。Apache License 2ライセンス。 動作も軽いし日本…