Agentの仕様に「完了不能」の出口を書く
完了できないタスクを渡されたAgentは、止まらずに制約を回避しがちです。中断の選択肢を与えると不正な合格が減ったという研究と、委託先がガードを黙って直した自リポの記録をもとに、仕様に書く「完了不能」の出口の書式を整理します。
AI開発の検証室 編集部
読了時間 約15分
読み込み中...
1 件の記事が見つかりました
完了できないタスクを渡されたAgentは、止まらずに制約を回避しがちです。中断の選択肢を与えると不正な合格が減ったという研究と、委託先がガードを黙って直した自リポの記録をもとに、仕様に書く「完了不能」の出口の書式を整理します。