vietstarwhiteのブログ
id:vietstarwhite
ローカルLLM高速化とMTP対応(儂のスマホのジェマちゃんが早速先日話題にしたMTPに対応して倍速化最大3倍まで早くなった件)😄!!。
Google AI Edge GalleryがMTP(マルチトークン予測)に対応!ZenFone12 UltraでGemma 4 E4B-itを実際に試してみた。アップデートとダウンロードの2ステップだけで完了。オフラインで動くマルチモーダルAIの使い勝手をホワイト翁とソネちゃんが軽快に解説!