地平線まで行ってくる。
id:bwgift
Llama-3.3-70B-Instruct-ggufをollamaとColabでためしてみる
OpenAIの発表が続く中、Llama-3.3-70Bが公開されていました。さっそく、mmngaさんがGGUFを作成されていましたので、Colabで試します。Colab L4環境です。 70Bモデルもすっかり高い性能になってきましたが、Llama-3.3-70Bもその高さを感じさせます。ただし、langchainとの相性が悪く望む回答が得られていません。ollamaの新…