Ollamaで、しばらく前から話題のKarakuriを動かしてみようとした記録です。 最初は、モデルをダウンロードします。mmngaさんの量子化した、karakuri-lm-70b-chat-v0.1-q4_0.gguf をtext generetion webui で指定してダウンロードしました。自分にとってはこれが一番お手軽だからです。 mmnga/karakuri-lm-70b-chat-v0…