ENGINEERING BLOG ドコモ開発者ブログ
id:dcm_fujihira
Prompt Flowで評価Flowを自作してRAGのイケてるLLMOpsを実現してみた
TL;DR RAGアプリを運用するにあたってLLMOpsの考え方が重要になり、Azure OpenAI ServiceのPrompt Flowの活用を開始した。 RAGアプリの精度を担保するため、Prompt Flowに搭載されている評価Flowの性能を検証した。 回答内容の正確性の評価性能を上げるため、評価Flowを自作した。 自己紹介 NTTドコモ データプラットフォ…