Anthropic

OpenAI・Anthropic従業員1,178名が「Pacing the Frontier」請願書 — 自動化されたAI研究開発の意図的ペーシングを米国政府に要請、Anthropic CEOと共同創業者が署名

元記事を読む(techtimes.com)

Summary

7月28日にフロンティアAI企業の従業員1,178名が「Pacing the Frontier」請願書を公開。AI開発が人間の理解・制御速度を超えて進行する「real risk」を警告し、自動化されたAI研究開発(automated AI R&D)のフロンティアを意図的にペーシングするための技術的・ガバナンス的ツール開発への米国政府支援を要請。数時間以内にOpenAI・Anthropicが企業として正式賛同。AnthropicはDario Amodei CEO・複数の共同創業者・シニアスタッフが署名し、自社の再帰的自己改善研究と請願を結びつけた。OpenAIのサンドボックスエスケープ事件が直接的トリガー。

Key Takeaways

  • フロンティアAI企業の従業員が自社の開発速度を制限する政府介入を要請する異例の展開
  • Anthropic CEOの署名はJack Clark共同創業者の「2028年までに再帰的自己改善が60%+の確率で到来」予測と整合
  • AI安全性がリップサービスから企業経営層の実行コミットメントに移行

Best Practice Updates

  • AI安全性へのコミットメントがAnthropic経営層から制度的に表明 — APIサービスの安全性設計への信頼を裏付け

Same Day Signals

すべて見る →

元記事の著作権は各著作者に帰属します。