【速報】Anthropic安全性研究者Jacob Coxonが退職・AI存亡リスクを警告 — 「自己改善型超知性に向かって突き進んでいる」とSlack・X（76M閲覧）で公開、Evan Hubingerは「超知性のアライメント計画はまだない」と認める

Summary

9月9日にAnthropicの事前学習研究者Jacob Coxonが退職を公表。OpenAIとAnthropicの両社で3年間事前学習研究に従事した後、「どちらの企業も責任ある行動をしていない」「自己改善型超知性に直進しており我々の命を賭けている」とSlack社内メッセージとX（旧Twitter）の7パート投稿で警告。X投稿は一晩で約7,600万閲覧を記録。Wall Street Journal独占インタビューも同日掲載。Anthropicのアライメントサイエンスリードの一人であるEvan Hubingerは一部の主張に反論しつつも「超知性のアライメントを解決する計画はまだなく、明確に軌道に乗っているとは言えない」と認める異例の発言。Bloomberg・CNN・NBC News・CNBC・Quartz・Deadline等が一斉報道。8月リスクレポートでの壊滅的ミスアラインメントリスク「very low」→「low」引き上げと合わせ、Anthropic内部からのAI安全性懸念が連続的に表面化。