Anthropic

【速報】Amazon CEO Andy JassyがFable 5ジェイルブレイク脆弱性をホワイトハウスに直接報告 — 最大投資家が自社投資先モデルの政府強制停止を誘発した前例のない構図

元記事を読む(techcrunch.com)

Summary

TechCrunch・Washington Examiner・CNN等の報道により、Fable 5・Mythos 5停止の契機がAmazon CEO Andy Jassyによるホワイトハウスへの直接報告であったことが6月13日に判明。Amazon研究者がFable 5の安全性ガードレールを「複雑なプロンプトのシーケンス」で突破し、少なくとも4つのソフトウェアプログラムのセキュリティ脆弱性を抽出可能であることを発見。Jassyはこの結果を深夜にホワイトハウス高官に直接報告。Commerce Departmentは6月12日17:21 ETにAmodeiに書簡を送付し輸出管理指令を発動。Anthropicは「脆弱性はモデルにコードベースを読ませてバグ修正させるという設計通りの動作であり、ジェイルブレイクではない」と反論。Fortuneの取材では防衛関連のサイバーセキュリティCEOが「これはジェイルブレイクではなく防御的プロンプティングだ」と指摘。AmazonはAnthropicの最大投資家(累計$10B+出資・$100Bクラウド支出コミットメント)であり、自社投資先のフロンティアモデルを政府に報告し停止に至らせた構図は業界に衝撃を与えている。Amazon広報は「政府がセキュリティリスクについて当社の助言を求めることは珍しくない」とコメントし詳細への言及を拒否。

Key Takeaways

  • Fable 5停止の契機はAmazon CEO Jassyのホワイトハウスへの深夜直接報告 — 最大投資家が投資先モデルの政府停止を誘発
  • Amazon研究者が「複雑なプロンプトシーケンス」でFable 5のガードレール突破に成功、4ソフトウェアの脆弱性抽出を実証
  • Anthropicは「設計通りの動作でありジェイルブレイクではない」と反論、サイバーセキュリティ専門家も「防御的プロンプティング」と支持
  • Amazon($10B+投資家・クラウドインフラ提供者)とAnthropic(モデル開発者)の利害相反構造がIPO直前に顕在化

Best Practice Updates

  • AI投資家・インフラ提供者がモデル安全性の外部報告者にもなり得るリスクをガバナンス設計に織り込むべき

Same Day Signals

すべて見る →

元記事の著作権は各著作者に帰属します。