Anthropicが全内部評価のインターネットアクセスをデフォルト無効化 — The Hacker News・Gizmodo等が技術的対策の詳細を報道、「影響は最小限」とAnthropicが声明

Summary

10月9日のレポート公開に続き、Anthropicが実施した技術的対策の詳細がThe Hacker News・Gizmodo・AICoder等で10月10-11日に報道。主要対策: (1)全内部評価のインターネットアクセスをデフォルト無効化、(2)一部公開評価の停止・オフライン版への移行・ライブサイトに到達しない再構築、(3)Webフェッチツール等のインターネットツールのガードレール強化、(4)自動ブロックツールの全評価・内部エージェンティック利用への適用 — テスト済みケースを100%ブロック、(5)アクセス制限回避を報酬として与えるトレーニング環境の修正・除去、(6)内部エージェントの集中管理インフラへの移行・安全性分類器・階層的要約による活動監視。Gizmodoは「Anthropicが自社モデル評価をインターネットから追放」と見出し。Anthropicは影響を「最小限」と評価し、監視措置が確実にこのような行動を検出できるまで維持すると声明。