Agent Evalでprompt・skill変更をCIで止める
prompt・skill の変更は文面検査では止まりません。静的ガードが例外追加を exit 0 で通した実測から、eval dataset、score threshold、CI 失敗条件、cost/latency gate を整理します。
読み込み中...
19 件の記事が見つかりました
prompt・skill の変更は文面検査では止まりません。静的ガードが例外追加を exit 0 で通した実測から、eval dataset、score threshold、CI 失敗条件、cost/latency gate を整理します。
AIエージェント可観測性の最小スキーマは、3階層 span +構造化ログ+error taxonomy 5分類。症状から修正までの5ステップ解析フローを OpenTelemetry GenAI 準拠で解説する。
OpenAI の Agents API は Codex harness を managed API として開放した。公式の4構成要素を確認し、自リポジトリの harness 60,841行を層ごとに数えて外注できる列を分けた。
無限ループはステップカウンタ+状態ハッシュ、ハルシネーションは実行前バリデーション、コンテキスト汚染はスライディングウィンドウで対処。AIエージェント3大障害を診断フローと実装コードで。
AI運用では「自動で直す」前に「安全に止める」手順がいる。検知・初動・切り戻し・再開条件の4要素で Runbook を設計し、人間の判断ポイントを先に固定して夜間対応の迷いをなくす。
規約も権限もガードも整備したのに効いている実感がないのは、宣言と実効が乖離しているから。乖離の4類型と、自分のリポジトリで乖離を検出する45分の実測手順、CI・hook で継続検知に載せる方法を解説。
CLAUDE.md を長くするだけでは AI は安定しない。subagents で役割を分け、hooks にガードレールを置き、継続知識は memory・最新状態は MCP と分ける設計を整理する。本記事は統合済みで、正典は別記事にある。
Codex の subagents は並列化機能ではなく、探索やログのノイズを親スレッドから切り離すコンテキスト設計。自動起動ではなく明示トリガー前提という公式仕様と、2026年3月時点の実務観察を分けて整理する。
Coding Agent のモデル更新でプロンプト資産と自動化を壊さない移行設計。モデル依存の3層棚卸し、Model Matrix、回帰テストの検知率を mutation で実測した自リポジトリのデータ(13変異中8検知)まで。
「賢くなれば Skill や AGENTS.md は削れる」を全履歴で検証したら、変更のあった9か月すべてで増加、追加417ファイルに対し実質削除は5件だった。参照エッジ0と二面検証という削除基準をスクリプトつきで示す。
推論・制御・接続の3レイヤーが独立に進化し、2026年に偶然のように同時成熟点を迎えた——AIエージェント設計の現在地を、ZennとQiitaのトレンド議論を参照しながらGrowth Lab視点で構造化する。
自前 MCP サーバを書く判断軸は「社内固有システム・複数エージェント共通利用・認可境界の明確化」。tool スキーマの明示・認可スコープ最小化・冪等性の3要件と最小骨格を示す。
AIエージェント開発をチャット指示の延長で終わらせず、仕様・権限・テスト・運用の4層で設計するための保存版ガイド。Claude Code、Codex、MCP、SDDを導入する前に決めるべき順序を整理する。
agent loopの脆弱点「状態がメモリにしかない」をcheckpointで解決し、retry/sagaパターンで部分失敗を冪等にリカバリ。step-level observabilityで詰まりを即特定できる実装パターンを解説する。
Codex Multi-Agents、Claude CodeのSubagents、Agent Teamsの違いを、機能一覧ではなく通信構造で整理する。混同しやすい3概念を選び分けまで含めて最短で理解できる。
AIエージェントが無理に処理を続けず、人間へ正しくエスカレーションするための条件設計と運用ルールを整理する。エスカレーション判定ロジックと実装例を具体的に解説。設計テンプレートと実装コード付きで解説。
AIを相棒からチームへ進化させる運用モデルを、Lead・Implementer・Critic・Scribeの4役割とガードレールで体系的に整理する。1体のAIに全部任せると、判断責任が曖昧になって破綻しやすい
AIチーム開発で速度と安全を両立するための統治モデルを、リスク分類・KPI・権限設計の3本柱で体系的に整理する親記事。AIエージェント活用では「速く作る」より「安全に出す」設計が持続的な開発速度の鍵になる
AIエージェント時代の承認権限と責任境界を変更種別×役割の二次元マトリクスで明文化する、チーム運用のための実践ガイド。AIエージェントがコードを書き、PRを出し、デプロイまで自動化される時代。便利な反面、「この変更は誰が最終承認するのか」