ノートPCでも128BのLLMが動く。そう、Ryzen AI Maxとメモリ128GBならね

 AMDは、Windows用ドライバRadeon Software Adrenalin Editionに備わる可変グラフィックスメモリ(VGM)機能のアップグレードにより、Vulkan版llama.cppで最大128B(1,280億)パラメータまでのLLMを処理可能になったと発表した。