Anthropic
Bloomberg特集: AnthropicがMythos AIを「危険すぎてリリースできない」と判断した経緯を公開
元記事を読む →Summary
Bloombergが4月16日、Anthropicの内部でMythos AIモデルが開発された経緯と「危険すぎてリリースできない」と判断されたプロセスに関する深掘り特集記事を公開。Mythosは全主要OS・ブラウザで数千のゼロデイ脆弱性を発見し、27年前のOpenBSDバグや16年間5百万回の自動テストを生き延びたFFmpegの欠陥も検出。Anthropicは一般公開を見送りProject Glasswingを立ち上げ、Amazon・Apple・Microsoft・CrowdStrike等と防御的コンソーシアムを形成し$100Mクレジットを投入。同日リリースのOpus 4.7はMythos Previewには及ばないと公式に認めた。
Key Takeaways
- Bloombergが長編特集でMythos開発・評価・公開見送りの内部プロセスを初めて詳報
- MythosはOpenBSD 27年潜伏バグ、FFmpeg 16年潜伏バグ等を自律的に発見
- Anthropic自身が「現代のコンピューティング基盤をハックできる」と警告
- Project Glasswing: Amazon・Apple・Microsoft・CrowdStrike・JPMorgan等約40組織が参加
- $100Mクレジットを防御的評価に投入
- Opus 4.7はMythos Previewに及ばないとAnthropicが公式に認める
- 「AIの安全性と能力のトレードオフ」に関する業界全体の議論が加速
Best Practice Updates
- AI駆動脆弱性発見ツールの防御的導入を自社ソフトウェアに対して先行検討
- Project Glasswing参加組織の防御的知見が段階的に公開される見通し、セキュリティチームは追跡を推奨
元記事の著作権は各著作者に帰属します。