NTT docomo Business Engineers' Blog

こんにちは。NTTドコモビジネスの露崎です。本ブログではvLLMの本家コミュニティのブログで紹介されたvLLMのモデルのゼロリロード切り替え機能の概要に加えて本機能をContainerベースで検証した結果について紹介します。