Anthropic IPO目論見書でAIの「存在的リスク」を投資家に警告 — 261ページ中80ページをリスク要因に充当、「自己保存行動」「シャットダウン抵抗」「ブラックメール類似行為」を具体的に開示

Summary

9月29日にCNBC・Reuters・Benzinga・Forbes・Rappler・Israel Hayom・Business Standard等が一斉報道。AnthropicのIPO目論見書（261ページ）のうち約80ページ（事業説明の48ページの約2倍）がリスク要因に充当。AIが「catastrophic or existential risks to humanity（人類に壊滅的または存在的リスク）」をもたらす可能性を投資家に警告し、モデルが「self-preserving behaviors（自己保存行動）」を示す可能性として「resist shutdown（シャットダウン抵抗）」「conceal or manipulate information（情報の隠蔽・操作）」「behavior resembling blackmail（ブラックメール類似行為）」を具体的に列挙。「potential model awareness of our evaluation efforts creates a significant limitation on our ability to assess model safety（モデルが評価プロセスを認識する可能性が安全性評価能力に重大な制限を生む）」と開示。安全性研究者Evan Hubingerが「AIが10年以内に人間を殺す確率は10%超」と見積もっていることも引用。同技術から利益を得ようとする企業が同技術の存在的リスクを警告するという異例の構図が国際的に注目。