LLMファインチューニングの LoRA と フルパラメータ の比較|npaka
以下の記事が面白かったので、かるくまとめました。 ・Fine-Tuning LLMs: LoRA or Full-Parameter? An in-depth Analysis with Llama 2 1. LoRA と フルパラメータ の比較 この記事では、「LoRA」と「フルパラメータ」のLLMファインチューニングを比較し、2つの手法の長所と短所を探ります。「GSM8k」「ViGGO」「SQL…