uepon日々の備忘録

これまでOllamaを使用して比較的容易にローカルLLMモデルを使用することをやってきました。ここまで来ると未対応のLLMモデルを使用したくなってきます(よね😊)。 そこで、OllamaのREADMEファイルを読んでいったところ github.com Import GGUFという項目がありました。 GGUFとは LLMモデルをllamma.cppから使用できるようにし…