nikkie-ftnextの日記
id:nikkie-ftnext
LiteLLMを使って、同じプロンプトを複数のLLMのWeb APIに送る(GPTとGeminiを例に)
はじめに これは覇権では nikkieです。 世はまさに大LLM時代。 そんな乱世で非常に頼れそうなパッケージを知りました。 目次 はじめに 目次 結論:LiteLLMを使ったこのスクリプトを見てくれ! LiteLLMはcompletion()だけで様々なモデルからOpenAI互換のレスポンスを得られる! LangChainより簡単になっている衝撃 私には使…