AIの推論を自動化へ昇格させるループの穴
AIの判断を決定的な自動化へ昇格させるループを実装したところ、「昇格すべきだと気づく」側の判定器が、8つのすり抜け型のうち6つで沈黙していました。対照実験の終了コードと監査スクリプトの実出力で記録します。
Growth Lab編集部
読了時間 約49分
読み込み中...
タグ
# ガードレール
12 件の記事が見つかりました
AIエージェントの権限は影響範囲で設計する
AIエージェントに危険なコマンド名を列挙して禁じても、被害範囲は狭まりません。このリポジトリのdeny 19件を数え、危険コマンドを止めていたはずのフックが本番のpayload形状では1件も止めていなかった実測を、修正前後の対照とコマンドつきで記録しました。
Growth Lab編集部
読了時間 約54分
AI Harnessの技術的負債と削る基準
モデルが賢くなればSkillやAGENTS.mdは削れる、という前提を自リポジトリの全履歴で検証しました。結果は変更があった9か月すべてで増加、追加417ファイルに対し実質削除5件。削る判断が一度も行われていないという負債の形と、参照エッジ・二面検証という削除基準を、そのまま動くスクリプトと終了コードで示します。
Growth Lab編集部
読了時間 約49分
効いていないガードを見つける7つの型
CIが緑でも、そのガードが一度も発火していないことがあります。本ブログのリポジトリで見つかった7種類の「効かないガード」をPR番号つきで分類し、壊した入力を1回通す二面検証の手順と、その検証自体が摩耗していく実測（検出分岐9個のうちテストは4個）を、コマンドと終了コードで示します。
Growth Lab編集部
読了時間 約52分
Issue Triage Agentを安全に作る役割分離
Issue Triage Agentにcloseを任せると誤クローズが怖い。このリポジトリの39 issue・close判断36件をリプレイし、PRリンクという最強の証拠でも2件を誤closeしていた実測と、証拠収集（Researcher）と判定（Judge）を分ける設計をコマンドつきで記録しました。
Growth Lab編集部
読了時間 約57分
LLMガードレール設計
LLM 本番運用で必要なガードレールを、input validation・output filtering・prompt injection 対策の3レイヤーで設計する。NLP2026 の議論とOWASP LLM Top10 を参照した2026年版の実装パターン。
Growth Lab編集部
読了時間 約12分
MCP権限設計の判断軸
MCPのallowlist粒度・scope命名・組織導入の3点を判断軸で整理する。既存のMCP分離アーキ記事と合わせて読むと効果が高い。MCP権限の本丸は「allowlistの粒度」と「scope命名」の2つ
Growth Lab編集部
読了時間 約9分
Claude Code hooks 実践パターン集
Claude Code hooks を品質担保・監査・安全制御の3用途で使い分け、ライフサイクルとCI責務分担で配置を決めるための実装パターンと失敗回避策を整理する。Claude Code hooks の用途は「品質担保」「監査」「安全制御」の3つ
Growth Lab編集部
読了時間 約22分
AIコーディングセキュリティ設計
AIコーディングエージェント導入で増える攻撃面を、権限・流出検知・実行時制御・設計判断の4層モデルで整理し、優先順位の判断軸を提示する。AIコーディングエージェント導入で増える攻撃面は「権限」「流出」「実行時」「設計判断」の4層に分解できる
Growth Lab編集部
読了時間 約15分
人間へのエスカレーション設計
AIエージェントが無理に処理を続けず、人間へ正しくエスカレーションするための条件設計と運用ルールを整理する。エスカレーション判定ロジックと実装例を具体的に解説。設計テンプレートと実装コード付きで解説。
Growth Lab編集部
読了時間 約11分
AIエージェントチーム設計
AIを相棒からチームへ進化させる運用モデルを、Lead・Implementer・Critic・Scribeの4役割とガードレールで体系的に整理する。1体のAIに全部任せると、判断責任が曖昧になって破綻しやすい
Growth Lab編集部
読了時間 約13分
MCPで"運転席と作業者"を分離して事故率を下げる
Model Context Protocol（MCP）でAIワーカーのツール連携を標準化。属人プロンプトから脱出し、許可ツールを固定して禁止領域アクセスを0に近づける実践ガイド。こんにちは、みねです。
Growth Lab編集部
読了時間 約13分