そんな今日この頃の日記
id:blue1st
EVO-X2でvLLMでgemma4:31bのMTP試したメモ
平日深夜なんでひとまずメモ程度に。 コーディング性能的にはgemma4:31bとかqwen3:27bとかめっちゃいい感じなんだけど、EVO-X2で動かしてる感じ、流石にもうちょっと早くないと実用にはきついよなーと思っていたところ、MTP Draftersを知る。 blog.google 今のところ試すにはvllmを使うのが良さそうということで取り組んで…