Anthropic
Time Magazine: Jack Clark「AIが全員を殺す確率はゼロではない」 — 再帰的自己改善を2028年までに60%+の確率で予測、Mythos能力は想定を超えた
元記事を読む →Summary
Time Magazine(5月22日公開)がAnthropic共同創業者・Head of Public BenefitのJack Clarkに対する長篇インタビューを掲載。Clarkは「AIが地球上の全員を殺す確率はゼロではない(non-zero chance)」と警告し、2028年までにAIが「再帰的自己改善」(recursive self-improvement: AIモデルが完全に後継モデルを訓練する能力)を達成する確率を60%以上と予測した。Claude Mythosの能力について「Oh, it's here! It's here faster than we thought! 準備が不十分だった」と開発者自身の驚きを率直に語った。AnthropicはAIツールが自社の仕事をどれだけ加速したかについて詳細な情報を今後公開すると約束。記事はAnthropicが「Claude Codeの商業的成功($1B ARR)」と「AIの存在リスクへの警告」という二重のメッセージを同時に発信する矛盾を浮き彫りにしている。AI安全性の最前線にいる企業の共同創業者が具体的な確率と時間軸でリスクを語ったことは、AIガバナンスの議論に新たなベンチマークを提供する。
Key Takeaways
- Jack Clark: AIが全員を殺す確率は「ゼロではない」と明言
- 再帰的自己改善(AIが後継AIを完全に訓練)を2028年までに60%+で予測
- Mythos能力は開発者自身の想定を超えた: 「来るのが想定より早かった」
- AnthropicはAIツールによる自社業務加速の詳細情報を公開予定
- Claude Codeの商業的成功とAI存在リスク警告の二重メッセージが緊張関係に
Best Practice Updates
- Anthropic共同創業者が2028年までの再帰的自己改善を高確率で予測 — AIエージェント設計ではエスカレーション基準・人間の監視ポイント・停止条件の設計がますます重要に
元記事の著作権は各著作者に帰属します。