プロンプトの“静的検査”と“実行時検査”の組み合わせ - Qiita

■ はじめに:プロンプト攻撃は“入力だけ”の問題ではない 生成AIのセキュリティ事故は、入口(プロンプト)だけではなく、出口(モデル出力)から起きるケースが急増しています。 “無視せよ系”の攻撃が入力に紛れている RAGから取得した情報が誤って露出する モデルが判断を誤...