VA Linux エンジニアブログ
id:satotomoaki
vLLMとRDMAで構築するローカルLLMクラスタ (1):安価なGPU選定と25GbEネットワークの基礎
Linux PC と RDMA ネットワークで vLLM スケールアウト構成を構築し、コストパフォーマンス重視のローカルLLM実行環境を提案・検証します。