IBMのgranite3-dense(2B/8B)ををColabでためしてみる

IBM発のLLMであるgranite-3.0が更新されていたので、ためしてみます。RAGやコード生成などのタスク向けとのこと。多言語に対応しているようで日本語も入っていました。さっそく試します。当初はモデルカードに書いてあったサンプルで動作させて試していたのですが、出力が安定しませんでした。そこで、ollama公式で早くも…