Anthropicがフロリダ州女性のClaude「日記」内の脅迫を法執行機関に通報し重罪逮捕に — 8月以降少なくとも3件目の通報事例でAI会話監視・通報体制の実態が顕在化

Summary

10月5-6日にTom's Hardware・Gizmodo・TechSpot・CyberNews・Trending Topics等が一斉報道。フロリダ州ボニータスプリングス在住のCarli Michelle Hellerが9月26日にClaudeに対しLee County保安官事務所を「撃ちまくる（shoot up）」と書き込み、翌27日に「新しい銃を入手した」と記述。Anthropicの自動監視システムがこれを脅迫的コンテンツとしてフラグし、人間レビューチームがエスカレーション後に法執行機関に通報。警察はAnthropicから提供された情報でHellerを特定し自宅で逮捕。8月以降少なくとも3件目の通報事例（9月のAmodei CEO脅迫でSFPD通報を含む）で、AnthropicのConsumer Privacy Policyに基づく「死亡または深刻な身体的傷害を防ぐ必要がある」場合の緊急開示条項が実際に運用されていることが確認された。