Agentic Misalignment:人間に戻す規約を数えた
Anthropicは人為的シナリオで、直接の指示は有害行動を減らしたが防ぎ切れなかったと報告した。本リポジトリの規約10本(うち人間に戻す5本)を検査と突合し、判断を違反入力で拒否する検査がref 584ddf10時点で0本だった記録。
AI開発の検証室 編集部
読了時間 約26分
読み込み中...
1 件の記事が見つかりました
Anthropicは人為的シナリオで、直接の指示は有害行動を減らしたが防ぎ切れなかったと報告した。本リポジトリの規約10本(うち人間に戻す5本)を検査と突合し、判断を違反入力で拒否する検査がref 584ddf10時点で0本だった記録。