freee が AI エージェントの全社活用を支えるために構築した、オープンソースの LiteLLM と AWS を組み合わせたプロキシ基盤のアーキテクチャの設計思想と、自前で実装する上での工夫をご紹介します。