Anthropic

Anthropic Frontier Red Team: 小型オープンウェイトAIモデルがIoTデバイスでの自己複製に数ヶ月以内に到達と警告 — GLM-5.2がエンドツーエンド複製に成功、$55のAndroid TVボックス15台でテスト

元記事を読む(securityweek.com) ↗

Summary

10月12日にAnthropic Frontier Red Team（William

Key Takeaways

  • ▸ 小型AIモデルがデータセンター不要でIoTデバイス上で自己複製する能力に接近
  • ▸ GLM-5.2が$55 Android TVボックス15台のネットワークでエンドツーエンド自己複製を4/5回成功
  • ▸ 2026年末までに小型モデルが自己複製閾値に到達するとFrontier Red Teamが予測
  • ▸ 野生での自己複製は未確認 — 制御環境でのケーパビリティテスト段階
  • ▸ オープンウェイトモデルのセーフガード限界がIoT文脈でさらに顕在化

Best Practice Updates

  • ✓ Claude Codeの`sandbox.network.strictAllowlist`設計が自己複製型AI脅威への予防的防御としてさらに重要に
  • ✓ IoTデバイスと連携するAIエージェント設計ではネットワーク隔離・通信先制限の二層設計が必須

Same Day Signals

すべて見る →

元記事の著作権は各著作者に帰属します。