プライベートで購入したASUS VivobookにNVIDIA GeForce RTX4060(8GB)が積まれているのですが、こんな感じの小さいGPUで動作が確認できたローカルLLMを紹介します。 なお、ローカルLLMの候補はこちらを参考にしました。 前提 CUDA ...