yousanのメモ
id:ayousanz
mergekitを使って2つのLLMをマージしてマージモデルを作成する
初めに 環境 準備 マージ元のモデルの定義 モデルのマージ モデルをhuggingfaceにアップロードする マージしたモデルを動かす モデルのロード 続きの推論 まどマギテスト 初めに LLMのマージがより簡単にできるライブラリが公開されたので触っていきます github.com 以下で今回作成したモデルを公開しています huggingface…