AIが下げた攻撃単価から防御を設計する
AIの自律化は攻撃者ROIのコスト側だけを縮めるとAnthropicは評価しています。成功率を下げる防御だけでは低単価・大量の攻撃に負ける条件を示し、防御策を「限界コストを戻す・取り分を縛る・検知を比例させない」の3つに分けて予算を置く整理を載せます。
AI開発の検証室 編集部
読了時間 約17分
読み込み中...
タグ
# セキュリティ
20 件の記事が見つかりました
Agentの認可はtaskでなくcampaignで見る
1回ずつは無害なtool callの積み重ねをどう認可・監査するか。task・workflow・campaignの3階層を置き、認可をworkflowに、相関監査をsession横断に置く整理と、自リポのhookが単発判定しかしていなかった測定を載せる。
AI開発の検証室 編集部
読了時間 約18分
Agent Sandboxの外向き通信をどこまで許すか
Agentのegress（外向き通信）をどこまで許すか。コミット済みの設定で見つけた前方一致のgh apiとCIのキー受け渡しを塞いだ記録と、宛先・DNS・credential・監査・例外を1枚に書く書式、監査スクリプトを載せる。
AI開発の検証室 編集部
読了時間 約58分
攻撃面としての長期記憶：エージェントに保存させないもの
エージェントの長期記憶に保存しないもの（秘匿値、個人情報、権限を変える指示、実行設定など）の判断表と、書き込み時の検査、TTL と revoke の分け方を、OWASP ASI06 と Claude Code の仕様で整理する。
AI開発の検証室 編集部
読了時間 約39分
Agentic Misalignment：人間に戻す規約を数えた
Anthropicは人為的シナリオで、直接の指示は有害行動を減らしたが防ぎ切れなかったと報告した。本リポジトリの規約10本（うち人間に戻す5本）を検査と突合し、判断を違反入力で拒否する検査がref 584ddf10時点で0本だった記録。
AI開発の検証室 編集部
読了時間 約26分
LLMガードレール設計
ガードレールは input validation／output filtering／prompt injection 対策の3レイヤーで組む。prompt injection は完全防御できない前提で権限最小化に寄せる実装パターン。
AI開発の検証室 編集部
読了時間 約11分
AIエージェントの権限は影響範囲で設計する
危険なコマンド名を列挙しても被害範囲は狭まらない。deny 19件を数え、危険コマンドを止めるはずのフックが本番の payload 形状では1件も止めていなかった実測を修正前後の対照つきで記録。
AI開発の検証室 編集部
読了時間 約51分
AI Agent 認可境界の設計パターン4モデル
AI Agent の認可を user×agent / agent×tool / agent×agent / agent×data の4モデルで整理し、OAuth 2.1・MCP scope・Capability token の実装例を示す。
AI開発の検証室 編集部
読了時間 約19分
パッチ追随を止めた142日を何で補償したか
フレームワークを pin して自動更新を止めた142日の記録。update-types を付けた ignore はセキュリティ更新を止めず、pin 先は既に終了した系列だった。補償コントロールを実測して棚卸しする。
AI開発の検証室 編集部
読了時間 約71分
GitHub MCPでsecret scanning
AIエージェント経由の commit は pre-commit を回避しやすい。MCP 層・pre-commit・push protection の3層で secret 流出を止め、検知後の rotate 自動化までを設計対象に含める。
AI開発の検証室 編集部
読了時間 約18分
OWASP LLM Top10 AI開発セキュリティ設計2026
OWASP LLM Top10（2025年版）の全10リスクを「入力検証/プロンプト設計/出力処理/インフラ」の実装レイヤーに対応づけ、AI駆動開発チームがすぐ使えるコードパターンとチェックリストを提供します。
AI開発の検証室 編集部
読了時間 約33分
開発者アクセスのゼロトラスト実装
VPN 依存の開発者アクセスをゼロトラストに移行する2026年の実装パターン。Tailscale、Cloudflare Access、AWS Verified Access の比較と IaC 化の指針を整理する。
AI開発の検証室 編集部
読了時間 約9分
AIエージェント開発の実践ガイド
AIエージェント開発をチャット指示の延長で終わらせず、仕様・権限・テスト・運用の4層で設計するための保存版ガイド。Claude Code、Codex、MCP、SDDを導入する前に決めるべき順序を整理する。
AI開発の検証室 編集部
読了時間 約14分
MCP権限設計の判断軸
MCPのallowlist粒度・scope命名・組織導入の3点を判断軸で整理する。既存のMCP分離アーキ記事と合わせて読むと効果が高い。MCP権限の本丸は「allowlistの粒度」と「scope命名」の2つ
AI開発の検証室 編集部
読了時間 約8分
GitHub AgenticワークフローCI/CD
GitHub Agentic Workflows と GitHub Actions の責務分担を、security と audit log を軸に設計する判断テンプレを Platform/SRE/CTO 向けに整理。
AI開発の検証室 編集部
読了時間 約29分
Node.js更新を48hで備える
Node.js の security release は告知から48〜72時間で同時公開される。慌てて事故らないために、告知前にやる10項目と告知後48時間でやる5項目を、公式タイムラインから逆算したチェックリストとして整理する。
AI開発の検証室 編集部
読了時間 約27分
認証・認可設計のやり直しガイド
SaaS の認証(Authn)と認可(Authz)を分離してから、session / JWT / OIDC と RBAC / ABAC / ReBAC を選び直すための判断フロー、実装レイヤー、よくある失敗、段階移行の手順を整理する。
AI開発の検証室 編集部
読了時間 約29分
AIコーディングセキュリティ設計
AIコーディングエージェント導入で増える攻撃面を、権限・流出検知・実行時制御・設計判断の4層モデルで整理し、優先順位の判断軸を提示する。AIコーディングエージェント導入で増える攻撃面は「権限」「流出」「実行時」「設計判断」の4層に分解できる
AI開発の検証室 編集部
読了時間 約15分
MCPで"運転席と作業者"を分離して事故率を下げる
Model Context Protocol（MCP）でAIワーカーのツール連携を標準化。属人プロンプトから脱出し、許可ツールを固定して禁止領域アクセスを0に近づける実践ガイド。こんにちは、みねです。
AI開発の検証室 編集部
読了時間 約13分
WASM Component Modelで"安全な拡張"を作り、AIワーカーの変更を隔離する
WASM/WASIでAIワーカーが触れる範囲を技術的に狭め、事故半径を小さくする。プラグインの隔離とロールバック高速化の実践ガイド。AIエージェントのサンドボックス設計。セキュリティ境界の設計と運用手順を解説。
AI開発の検証室 編集部
読了時間 約17分