AIエージェントの暴走を防ぐ。OWASP LLM06対策と汎用ポリシーチェック

はじめに こんにちは。オープンワークのWebエンジニアの生永です。 オープンワークでは積極的にAIを活用した開発を行っています。しかし、AIエージェントを使い倒せば倒すほど、個人的には「セキュリティ」のことが気になって仕方がありません。 例えばですがリポジトリに、意図しないコメントが仕込まれたIssueが投稿され…