はじめに 自分用メモです。未来の自分が絶対忘れるので 環境構築 sudo apt update
sudo apt install -y build-essential git cmake python3 python3-pip libcurl4-openssl-dev
git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
cmake -B build-max \
-DGGML_CUDA=ON \
-DGGML_CUDA_FORCE_CUBLAS…