Intel製グラフィックボードで大規模言語モデルを動かす【Llama.cpp + SYCL】
はじめにSYCLを使ってllama.cppを動かす手順になります。 おまけとしてChatUIも使ってみました。OSはUbuntu 22.04です。下準備GPUドライバとoneAPI Base Toolkitのインストールに関しては別記事を書きましたのでそちらを見て下さい。 touch-sp.hatenablog.com Llama.cppのビルドこちらの通りに行えば問題なく実行可能でし…
