Anthropic Institute「When AI builds itself」公開 — AIの再帰的自己改善リスクを警告、フロンティアAI開発の協調的一時停止を提唱

Summary

Anthropic Instituteが6月4日、Marina Favaro（内部リサーチ責任者）とJack Clark（共同創業者）の共著レポート「When AI builds itself」を公開。公開ベンチマークとAnthropic内部未公開データを用いてAIの再帰的自己改善（recursive self-improvement）リスクを定量的に分析。主要データ: (1)2026年5月時点でAnthropicのコードベースにマージされたコードの80%以上がClaude製（2025年2月のClaude Code研究プレビュー開始時は一桁台前半）、(2)2026年Q2にエンジニア1人あたりの1日コードマージ量が2024年比8倍に増加（人間が指揮・レビューしClaudeが執筆する分業）、(3)Claude Opus 4が2025年5月に平均3倍の高速化を達成、2026年4月にはMythos Previewが52倍に到達。レポートは「再帰的自己改善はまだ達成されておらず不可避でもないが、ほとんどの機関が準備する前に到来する可能性がある」と結論。政策提言として、複数国の複数フロンティアラボが同条件で停止に合意し、停止を相互検証できるメカニズムの構築を前提とした「フロンティアAI開発の一時停止オプション」を提唱。Anthropic Instituteは今後、政策立案者・AI研究者との議論を主催し、検証システムの設計に協力すると表明。国際的に大きな反響を呼び、批評家からは$965B評価額のIPO直前のタイミングで「競合を抑制する戦略」との指摘もあるが、Wharton教授は「マーケティングと真摯な信念の両方がある」と分析。