すべてのフェーズ
フェーズ 15
自律システム
人間の介入なしで動作するエージェントを安全に構築する。
22 レッスン
このフェーズのレッスン
- 1チャットボットから長期ホライゾンエージェントへの移行
- 2STaR・V-STaR・Quiet-STaR — 自己学習型推論
- 3AlphaEvolve — 進化的コーディングエージェント
- 4Darwin Godel Machine — オープンエンドな自己改変エージェント
- 5AI Scientist v2 — ワークショップレベルの自律研究
- 6自動アライメント研究(Anthropic AAR)
- 7再帰的自己改善 — 能力とアライメントのトレードオフ
- 8制約付き自己改善の設計
- 9自律コーディングエージェントの全体像(2026年版)
- 10Claude Code の自律エージェントとしての活用:パーミッションモードと自動モード
- 11ブラウザエージェントと長期Webタスク
- 12長時間稼働バックグラウンドエージェント:持続的実行
- 13アクション予算・反復上限・コストガバナー
- 14キルスイッチ・サーキットブレーカー・カナリートークン
- 15Human-in-the-Loop:提案・承認フロー
- 16チェックポイントとロールバック
- 17Constitutional AI とルールオーバーライド
- 18Llama Guard による入出力の分類
- 19Anthropic 責任ある拡張ポリシー v3.0
- 20OpenAI Preparedness Framework と DeepMind Frontier Safety Framework
- 21METR タイムホライゾンと外部能力評価
- 22CAIS・CAISI と社会規模リスク