AI Red Teaming AgentでAIのリスク計測・評価・記録 - Qiita

以下の AI Red Teaming Agent を使ってみました。 AI Red Teaming Agentは、以下の3つの方法で安全性の自動評価を助けます。 コンテンツリスクの自動スキャン プローブの成功を評価 レポートとログの記録 技術的にはPyRITAzu...