LLMガードレール設計
ガードレールは input validation/output filtering/prompt injection 対策の3レイヤーで組む。prompt injection は完全防御できない前提で権限最小化に寄せる実装パターン。
AI開発の検証室 編集部
読了時間 約11分
読み込み中...
2 件の記事が見つかりました
ガードレールは input validation/output filtering/prompt injection 対策の3レイヤーで組む。prompt injection は完全防御できない前提で権限最小化に寄せる実装パターン。
OWASP LLM Top10(2025年版)の全10リスクを「入力検証/プロンプト設計/出力処理/インフラ」の実装レイヤーに対応づけ、AI駆動開発チームがすぐ使えるコードパターンとチェックリストを提供します。