Uzabase for Engineers
id:motoki_ub
Agentをどうやって早く安く良くしたか 〜プロンプトキャッシュ・State戦略〜
はじめに 企業レポートの生成を行うエージェントの作成を行う中で、レポート生成にかかる時間・費用・レポートの質の改善に取り組みました。 改善点を行う中で、Stateやプロンプトキャッシュ周りのAgent Platform（旧VertexAI）の仕様について深く知ることができたので記事にしています。 改善前の状況 企業レポートの作成…
