赤帽エンジニアブログ

こんにちは、レッドハットでソリューションアーキテクトをしている石川です。昨年11月にリリースされたOpenShift AI 3.0の中でllm-dがGAとなりました。llm-dはRed Hat Summit 2025で発表された分散推論のためのオープンソースプロジェクトです。 LLMの推論処理は、Kubernetes環境で取り扱うことが多いステートレスアプリケ…