LLMサービングライブラリの LMDeploy と vLLM を比較した

皆さんこんにちは。 Acroquest のデータサイエンスチーム「AcroYAMALEX」を率いるチームリーダー、@tereka114です。 AcroYAMALEX では、コンペティション参加・自社製品開発・技術研究に日々取り組んでいます。チーム紹介はこちら。本記事は、「学習推論ライブラリ・フレームワーク Advent Calendar 2025」の25日目です。 …