工作と競馬2
id:dekuo-03
ローカルLLMでRAG
概要 ローカルPC上で、LLMを動かし、かつ、RAGを実装するための自分用メモ。 概要 背景と目的 詳細 0. 環境 1. ローカルLLM実行環境(Ollama) 2. LLMモデル 3. RAGの実装 3.1 embedding modelのインストール 3.2 実装 3.2.1 全体構成 3.2.2 ベクトル化 3.2.3 文書をチャンク分割する 3.2.3 質問とのコサイン類似度が最も高…