falcon3:10b-instruct-q8_0をColabとollamaでためしてみる

falcon3を試してみます。ollama公式の7Bだと日本語は辛そうだったので、10b-instruct-q8_0で試してみます。ColabのL4環境で実行。 VRAMの占有率は11919MiB / 23034MiBでした。 日本語の性能は高くありませんでした。計算性能は高そうでしたので、日本語の学習量の問題でしょう。日本語を使うとなるとかなり苦しい結果とな…