Jetson orin nano上のAgent StudioでTanuki-8Bを試す|はまち

weblab-GENIAC/Tanuki-8B-dpo-v1.0 · Hugging Face We’re on a journey to advance and democratize artificial inte huggingface.co GENIAC 松尾研 LLM開発プロジェクトの日本語を強化した軽量LLMのTanuki-8Bを、シングルボードコンピュータのJetson orin nano(8GB)で試してみました。 LLMの推論環境は色々あ…