AIが下げた攻撃単価から防御を設計する
AIの自律化は攻撃者ROIのコスト側だけを縮めるとAnthropicは評価しています。成功率を下げる防御だけでは低単価・大量の攻撃に負ける条件を示し、防御策を「限界コストを戻す・取り分を縛る・検知を比例させない」の3つに分けて予算を置く整理を載せます。
AI開発の検証室 編集部
読了時間 約17分
読み込み中...
タグ
# AI開発
41 件の記事が見つかりました
Agentの認可はtaskでなくcampaignで見る
1回ずつは無害なtool callの積み重ねをどう認可・監査するか。task・workflow・campaignの3階層を置き、認可をworkflowに、相関監査をsession横断に置く整理と、自リポのhookが単発判定しかしていなかった測定を載せる。
AI開発の検証室 編集部
読了時間 約18分
攻撃面としての長期記憶：エージェントに保存させないもの
エージェントの長期記憶に保存しないもの（秘匿値、個人情報、権限を変える指示、実行設定など）の判断表と、書き込み時の検査、TTL と revoke の分け方を、OWASP ASI06 と Claude Code の仕様で整理する。
AI開発の検証室 編集部
読了時間 約39分
AI開発のレビュー待ちが伸びる条件と検証容量
AI で生成量を増やすと、どんな条件でレビュー待ちが伸びるのか。検証を有限の容量としてモデル化し、稼働率と待ちの非線形な関係を待ち行列の式で示す。自リポ 539 PR の層別実測と計測スクリプト付き。
AI開発の検証室 編集部
読了時間 約40分
Agentic Misalignment：人間に戻す規約を数えた
Anthropicは人為的シナリオで、直接の指示は有害行動を減らしたが防ぎ切れなかったと報告した。本リポジトリの規約10本（うち人間に戻す5本）を検査と突合し、判断を違反入力で拒否する検査がref 584ddf10時点で0本だった記録。
AI開発の検証室 編集部
読了時間 約26分
AI Codingの費用はOutcome単位で測る
AI コーディングの費用を、トークン単価ではなく受け入れられた PR 1 件あたりの原価で測る。捨てた試行と手戻りを分子に入れる式、公式単価での例示計算、手戻りの定義で比率が 29% にも 100% にもなる実測を記録する。
AI開発の検証室 編集部
読了時間 約18分
tokenmaxxingを避けるAI開発KPI
生成行数やトークン量のような累積カウンタ型のKPIは定義上単調で、悪化を表現できない。git履歴で確かめると、判定を確定できた15対象のうち12が一度も純減していなかった。検証済み成果に分母を与える手順を記録する。
AI開発の検証室 編集部
読了時間 約56分
Vibe Codingのトークン経済学
Vibe Coding が広がる2026年、トークン消費量の最適化が開発コストとレイテンシの両方を左右する。コンテキスト戦略・cache 戦略・ROI 計算式を、Qiita のトレンド議論と現場知見から整理する。
AI開発の検証室 編集部
読了時間 約9分
ガードの穴を塞ぐPRが同じ穴を掘る
ガードの穴を塞ぐPRが同じ型の穴を掘った実例5件を、PR番号・コミット・失敗台帳の行で示す。無力化の座標が実装→配線→CIのrun:→その外側のYAML→判定関数の内部へ1段ずつ移る構造を再現手順つきで。
AI開発の検証室 編集部
読了時間 約47分
AIエージェントの権限は影響範囲で設計する
危険なコマンド名を列挙しても被害範囲は狭まらない。deny 19件を数え、危険コマンドを止めるはずのフックが本番の payload 形状では1件も止めていなかった実測を修正前後の対照つきで記録。
AI開発の検証室 編集部
読了時間 約51分
AIエージェントのOperational Memory設計
エージェントの memory を schema / provenance / expiry / rollback の4軸で設計する。知識ストア3つを実測すると last_verified は31件中3件しか生きていなかった。
AI開発の検証室 編集部
読了時間 約42分
AIが迷わないリポジトリ設計
Claude Code / Codex の出力が安定しない原因はプロンプトではなくリポジトリ構造側にある。ルール階層・エージェント定義・スキルとフックの棲み分け・作業コンテキスト外部化の4パターンを実リポジトリを例に解説。
AI開発の検証室 編集部
読了時間 約25分
AI-BOMで何がコードを書いたか可視化する
SBOM は整備したのに、どの AI がどのコードを書いたかは棚卸しできていない。自リポジトリでコミット1,050本中325本（31.0%）しか帰属できず、収集源4層のうち2層は0件だった実測記録。
AI開発の検証室 編集部
読了時間 約57分
AI変更のChange Failure Rateをどう測るか
AI生成変更が増えればリリース回数は自然に増える。Change Failure Rate を障害件数だけでなく切り戻し・緊急修正まで含めて定義し、チームを責めずレビュー強度の調整に使う運用を整理。
AI開発の検証室 編集部
読了時間 約8分
AI変更後のCFR再定義ガイド：膨らむ失敗率を実務で扱う
AI導入後に Change Failure Rate が膨らむ3因子を整理し、AI-augmented と human-authored の失敗を分離する4ステップの再定義フレームを Tech Lead / EM 向けに提示する。
AI開発の検証室 編集部
読了時間 約17分
AIコーディング運用インシデントRunbookハブ
AIコーディング運用のインシデントを「AI暴走」「AI起因の本番障害」「観測欠落」「オンコール疲弊」の4種別に分類し、Runbook 最小構成・エスカレーション・Change Failure 連動・観測の5軸で束ねるハブ。
AI開発の検証室 編集部
読了時間 約19分
AIコーディング運用の可観測性スタック2026
AIコーディング運用の可観測性を、計測対象レイヤー（コード生成 / レビュー / マージ / 障害）と OpenTelemetry・eBPF・LangSmith・内製KPI の2軸で設計する。導入ロードマップと落とし穴つき。
AI開発の検証室 編集部
読了時間 約16分
AI駆動開発チームのオンボーディング設計
AI駆動開発チームの新人が踏む失敗は「依存過多」「コンテキスト設計不能」「AI生成コードをレビューできない」の3類型。8週間カリキュラムの骨格、習熟度ルーブリック、チェックリストを提供する。
AI開発の検証室 編集部
読了時間 約18分
リスクベースリリース運用：AI生成変更を安全にマージする基準
全PRを同じ強度でレビューするとスループットが落ちる。低・中・高の3段階でゲートを分け、高リスクはテスト証拠とロールバック計画を必須に。未分類はマージ不可にして運用を定着させる。
AI開発の検証室 編集部
読了時間 約10分
AI生成の巨大PRをStacked PRに分解する
AIが出した巨大PRを依存・レイヤー・リスクの3軸で分解する手順。直近140PRのサイズ分布と、実在する1,641行のPRを3層の Stacked PR へ分けて各層のテストを実測したデータまで示す。
AI開発の検証室 編集部
読了時間 約33分
受入条件を先に書くTDD実践
受入条件はレビュー後付けでは遅い。実装前に「何をもって完了か」を Example ベースで固定すると AI の出力精度が上がる。Red → Green → Refactor の短サイクルに落とす実践ガイド。
AI開発の検証室 編集部
読了時間 約10分
Issueテンプレで要件解像度を上げる
Issue の品質は実装品質の先行指標。目的・非目的・制約・受入条件の4点セットをテンプレで強制すると AI は最適化先を誤りにくくなる。コードを書く前に仕様の穴を潰す運用ルールを実例で。
AI開発の検証室 編集部
読了時間 約11分
Claude Code Subagents設計
subagents は数を増やせば速くなる機能ではない。タスク種別・コンテキスト汚染度・観点の独立性・統合コストの4軸で粒度を決め、設計パターン5選とアンチパターン3選を設定例付きで示す。
AI開発の検証室 編集部
読了時間 約20分
効いていないガードを見つける7つの型
CIが緑になる経路は2つある。違反が無いから緑と、検査が動いていないから緑だ。本ブログのリポジトリで出た「効かないガード」7種類をPR番号つきで分類し、壊した入力を1回通す二面検証の手順を示す。
AI開発の検証室 編集部
読了時間 約49分
本番障害を2者で突き合わせて誤診を落とす
1件の本番障害を上流と下流が独立に実測し、互いの誤診を4件訂正した記録。うち2件は相手側の一次資料を読むまで出なかった。測る対象・時刻・一次資料のズレが誤診を落とす構造を示す。
AI開発の検証室 編集部
読了時間 約37分
マルチエージェント開発の実装パターン2026
マルチエージェント開発を Hub-and-Spoke / Pipeline / Peer-to-Peer の3アーキテクチャに整理し、通信トポロジー・状態の受け渡し・rate limit 制御を実装例つきで解説する。
AI開発の検証室 編集部
読了時間 約29分
暗黙知を減らす組織設計とナレッジ共有の仕組み
暗黙知は個人ではなく組織設計の問題。オンボーディング／Decision Log／レビュー／文脈ファイルの4本柱と、CLAUDE.md・AGENTS.md を SSoT に組み込む運用を診断10項目付きで解説。
AI開発の検証室 編集部
読了時間 約27分
AIの推論を自動化へ昇格させるループの穴
AIの判断を決定的な自動化へ昇格させるループを実装したところ、「昇格すべきだと気づく」側の判定器が、8つのすり抜け型のうち6つで沈黙していました。対照実験の終了コードと監査スクリプトの実出力で記録します。
AI開発の検証室 編集部
読了時間 約46分
OWASP LLM Top10 AI開発セキュリティ設計2026
OWASP LLM Top10（2025年版）の全10リスクを「入力検証/プロンプト設計/出力処理/インフラ」の実装レイヤーに対応づけ、AI駆動開発チームがすぐ使えるコードパターンとチェックリストを提供します。
AI開発の検証室 編集部
読了時間 約33分
Claude Codeでテストを書かせる技術
Claude Code にテストを書かせるとき「惜しい」結果になる原因はコンテキスト不足。コンテキスト注入→生成→セルフチェック→レビューの4ステップループと、失敗パターン5種のプロンプト修正テンプレートを解説します。
AI開発の検証室 編集部
読了時間 約18分
Codexマルチエージェント実装ガイド
Codex CLIを複数インスタンス並列実行するマルチエージェント実装ガイド。タスク分割・状態共有・rate limit制御・結果マージの設計パターンを、具体的なコード例とともに実務レベルで解説する。
AI開発の検証室 編集部
読了時間 約32分
CLAUDE.md 設計パターン
CLAUDE.md の書き方をプロジェクト規模（個人/小チーム/大規模）と技術スタック別に解説。コピペ可能な3パターンのテンプレート、グローバル設定との使い分け戦略、5つ以上のアンチパターンを網羅した実践ガイドです。
AI開発の検証室 編集部
読了時間 約28分
Claude Code複数ファイル操作手順
Claude Codeで大規模リファクタリングを行う際の「AIに一気にやらせる」失敗を防ぐ。スコープ制御・段階的適用・テスト保護・rollback戦略の4軸で安全に進める具体的な手順とプロンプト例を解説。
AI開発の検証室 編集部
読了時間 約20分
AIとペアプロする実践パターン：コンテキスト設計と引き継ぎの技術
Claude CodeやGitHub CopilotとのAIペアプロで迷いがちなコンテキスト設計・セッション引き継ぎ・人間介入のタイミングを、即使える実践パターン集として体系化。AGENTS.mdテンプレートも収録。
AI開発の検証室 編集部
読了時間 約17分
Claude Codeセッション記憶のデザインパターン
Claude Code でセッションを跨ぐ長期作業を成立させるには、memory / CLAUDE.md / Plan の3層構造を意識した記憶設計が要る。Qiita のトレンド議論を参照しつつ、failure mode と対策を整理する。
AI開発の検証室 編集部
読了時間 約10分
AIエージェント開発の実践ガイド
AIエージェント開発をチャット指示の延長で終わらせず、仕様・権限・テスト・運用の4層で設計するための保存版ガイド。Claude Code、Codex、MCP、SDDを導入する前に決めるべき順序を整理する。
AI開発の検証室 編集部
読了時間 約14分
仕様駆動開発 失敗パターン7選と対策
Spec Driven Development（SDD）導入後に起きる典型的な失敗7パターンと、Tech Lead・PM・EM が現場で打てる具体的な対策を、AIコーディング時代の運用視点で整理します。
AI開発の検証室 編集部
読了時間 約17分
AIレビュー運用設計の実践
AIコーディング導入後に頻発するレビューボトルネックを解消するための運用設計ガイド。AI自動チェック層と人間レビューの役割分担を明確にし、設計判断・ドメイン知識・境界設計に集中できる体制を構築する。EM・Tech Lead向け実践手順。
AI開発の検証室 編集部
読了時間 約15分
速度と品質どちらを取るべきか 開発のトレードオフ設計
AI時代に再燃した速度vs品質の議論を、短期最適と長期最適のトレードオフとして整理し、チームでの意思決定フレームを提示する。開発速度と品質の両立を実現する判断軸。4象限マトリクスで局面別の最適解を示す。
AI開発の検証室 編集部
読了時間 約13分
Claude Code運用でコンテキストを分業する
CLAUDE.md を長文化するだけでは運用は安定しない。このリポジトリで使っている AGENTS.md、タスク台帳、REPORT.md、skills、hooks の責務分離を、Claude Code 運用の実例として整理する。
AI開発の検証室 編集部
読了時間 約12分
CLAUDE.md最適化の本質
CLAUDE.md最適化の本質は「何をたくさん書くか」ではなく「何をどこに分離するか」。Anthropicの公式ドキュメントに沿って、AIエージェントが迷わず安全に働けるリポジトリ環境の構築設計を解説します。
AI開発の検証室 編集部
読了時間 約23分