個人的なメモ
id:hiro128
CPU で Edge AI を試そう(1)
はじめに CPU 対応の提供モデル一覧(2025/01 現在) Hugging Face のリポジトリとダウンロードのコマンド Phi3 mini 4k Phi3 mini 128k Phi3 medium 4k Phi3 medium 128k Phi3.5 mini 128k はじめに Edge AI を試してみたく Phi Silica がリリースされるのを心待ちにしている今日この頃ですが、GPU がない PC でも CPU (…