Anthropic安全性研究者Joe Benton（Scalable Oversight元リーダー）がMETRに移籍 — Google DeepMindのJosh Engelsも同時退職しAI安全性の独立評価強化へ

Summary

9月12日にNBC Newsが独占インタビューを報道、Anthropicの Scalable Oversight チームを率いていたJoe BentonとGoogle DeepMindのAI安全性研究者Josh Engelsが同時に退職し、独立AI安全性評価組織METRに参画することが判明。Bentonは「現在、AIリスクに関する透明性は企業の自発的な公開に完全に依存している」と述べ外部からの影響力行使を選択した理由を説明。Engelsは「There are no adults in the room（大人が誰もいない）」と発言。Bentonは「再帰的AI研究の進展が進歩のペースを現在の『猛烈な速度』から『制御不能な速度』に加速させうる」と警告。9月9日のCoxon退職に続く3人目のAnthropic安全性研究者退職で、9月12日のAmodeiペーシングエッセイと同日のタイミング。Amodeiのエッセイが退職連鎖への戦略的対応としての側面も指摘。IBTimes・Parameter・MoneyCheck・RedState・CoinCentral・Free Press Journal・Business Standard等が一斉報道。METRはAnthropic自身が8週間独立調査を委託した組織で、安全性評価の独立性がさらに強化される。