mthr blog
id:mitsuharu_e
Windows + マルチ Radeon GPU 向けに llama.cpp をビルドする
私のメインとなる LLM 検証機は、Windows で複数の Radeon GPU を搭載しています。その RAM と VRAM はカジュアル用途には十分な量があるので満足していますが、1つ問題がありました。 qiita.com 私は日常的に Ollama を採用して、LLM 推論を行なっています。個人的には、リッチな UI を持つ LM Studio なども併用したい…