そんな今日この頃でして、、、
id:blue1st
EVO-X2でLlama.cpp Serverでgpt-oss-120bを動かす
現在のOllamaのDockerイメージではROCm 6系が使われておりEvo-X2に載っているRyzen AI Max+ 395 (Strix Halo)との組み合わせが性能面で最適とは言えないらしいことは薄々知っていたが、「まあそこそこ動くし」と手軽さ重視でうちのEVO‑X2ではこれまでollama:rocmで運用していた。 blue1st.hateblo.jp しかし、gpt‑oss:120b…