AIが下げた攻撃単価から防御を設計する
AIの自律化は攻撃者ROIのコスト側だけを縮めるとAnthropicは評価しています。成功率を下げる防御だけでは低単価・大量の攻撃に負ける条件を示し、防御策を「限界コストを戻す・取り分を縛る・検知を比例させない」の3つに分けて予算を置く整理を載せます。
AI開発の検証室 編集部
読了時間 約17分
読み込み中...
テーマから読む
初めての方はここから。テーマごとに代表記事と一覧へ進めます。
ハーネス エンジニアリングを学ぶ
PlanGateやHook Enforcementなど、AI実装を制御・検証する仕組みを確認します。
代表記事: AIレビューの導入単位は段取りか本体か「ハーネス設計」の記事を見る最近の検証記事
AI開発に関する新着記事を確認できます
Agentの認可はtaskでなくcampaignで見る
1回ずつは無害なtool callの積み重ねをどう認可・監査するか。task・workflow・campaignの3階層を置き、認可をworkflowに、相関監査をsession横断に置く整理と、自リポのhookが単発判定しかしていなかった測定を載せる。
AI開発の検証室 編集部
読了時間 約18分
同じ役割のSkillが共存すると制約が消える
同じ仕事をするSkillが2本あると、どちらが読まれるかで守られる制約が変わり、タスクは成功のまま終わる。arXiv 2610.11647の測定と、自リポの追跡済みSKILL.md 91本を判定条件つきで数えた結果、排他的な制約の洗い出し方を載せる。
AI開発の検証室 編集部
読了時間 約25分
継続中の検証シリーズ
単発ではなく継続的に追っているテーマです。最新の検証から続けて読めます。
最新の検証ログを見逃さない
AIエージェント設計、仕様駆動、ハーネス エンジニアリングの実践的な知見を体系的にまとめています。RSS や記事一覧から継続的にチェックできます。