Gemini Live APIを本番で使うときの構成を考えた|AI Studio PreviewとVertex AIで悩んだ話

僕はSpeech Linkというプロダクトの開発に携わっているのだが、このプロダクトでは音声会話の機能がある。この機能には生成AIを使っているのだが、ここにGoogle GeminiのLive APIを使うかどうかをずっと悩んでいた。レイテンシも体験価値も魅力的なんだけど、本番サービスに載せようとすると思いのほかいろんな制約が絡ん…