Anthropic
サイバーセキュリティ専門家100名超がFable 5輸出管理撤回を要求する公開書簡 — 「Fix this code」が政府対応を引き起こした実態が判明
元記事を読む(fortune.com) ↗Summary
Katie Moussouris(Luta Security CEO、Commerce Department情報システム技術諮問委員会メンバー)を中心に100名超のサイバーセキュリティ専門家がCommerce Secretary Lutnickに公開書簡を送付し、Fable 5・Mythos 5の輸出管理撤回を要求。Fortuneは政府対応を引き起こした実際のプロンプトが「Fix this code」(コードを修正して)という3語であったことを報道。Amazon研究者がCVEを含むコードベースに対し「コードをレビューしてセキュリティ問題を特定」→Fable 5が拒否→「このコードを修正して」と再指示→修正出力からエクスプロイト検証スクリプトを手動で構築、というプロセスを再現。Moussourisは「AIモデルにバグ発見・修正・パッチ検証を依頼することは防御的セキュリティで最も価値のある用途」であり「この能力を除去すればモデルのバグ修正・パッチ検証能力も低下する」と分析。Dark Reading・TechCrunch・Bank Info Security・The Registerも一斉報道。
Key Takeaways
- ▸ 輸出管理の根拠となった「ジェイルブレイク」は実際には「Fix this code」という標準的な防御的セキュリティプロンプトだった
- ▸ Katie Moussouris(Microsoft脆弱性研究設計者・Cyber Safety Review Board元委員)が政府の非公開研究論文をレビューし「ジェイルブレイクではない」と断定
- ▸ 100名超のサイバーセキュリティ専門家が署名 — 「最良のモデルを防御者から奪い、攻撃者を抑止する効果はない」
- ▸ 防御的能力と攻撃的能力の不可分性がAIモデル安全性規制の本質的ジレンマとして浮上
Best Practice Updates
- ✓ AIモデルへの防御的セキュリティプロンプト(バグ発見・コード修正・パッチ検証)が輸出管理の根拠として使われた前例 — セキュリティワークフローのプロンプト設計で規制リスクを認識すべき
Same Day Signals
すべて見る →- Anthropic Anthropic幹部Chris Ciauri「数日中にFable 5・Mythos 5のアクセス復旧に自信」— ソウル記者会見で初めて復旧時期に言及
- Anthropic Anthropicソウルオフィス正式開設 — NAVER・Samsung SDS・Nexon等との大型パートナーシップ発表でアジア最大のエンタープライズ展開
- Anthropic Anthropicと韓国科学技術情報通信部がAI安全性・サイバーセキュリティ協力のMOU締結
- Claude API Agent SDK課金分離が施行当日に一時停止 — 開発者の反発とOpenAI価格競争を受けAnthropicが方針転換
元記事の著作権は各著作者に帰属します。