Anthropic Fable 5研究者制限ポリシー撤回 — フロンティアAI研究タスクのサイレント性能低下がサイバー・バイオ同様の可視的フォールバックに変更

Summary

Claude Fable 5リリース時（6月9日）の319ページシステムカードに、フロンティアAI研究タスク（事前学習パイプライン構築・分散学習インフラ・MLアクセラレータ設計等）に対してsteering vectorsとプロンプト修正によりサイレントに性能を低下させるポリシーが記載されていたことが発覚し、研究者コミュニティから強い批判を受けAnthropicが6月11日にポリシーを撤回。Simon Willison「MLアクセラレータ設計に関する回答をサイレントに劣化させ、競合研究を妨害する」、Fortune「secret sabotage（秘密の妨害工作）」と批判。Anthropicは「We made the wrong tradeoff and we apologize for not getting the balance right（トレードオフの判断を誤った、バランスを正しく取れなかったことを謝罪する）」と声明。変更後はフロンティアLLM開発を検出したリクエストもサイバー・バイオと同様に可視的にOpus 4.8にフォールバックし、ユーザーに通知される設計に。reasoning_extraction分類器の存在自体は維持されるが、サイレント性能低下は廃止。