Anthropic J-space研究が9月8日AI Briefで再注目 — Claudeの内部「グローバルワークスペース」がAI安全性モニタリングを変革

Summary

7月6日公開のAnthropic研究「Verbalizable Representations Form a Global Workspace in Language Models」が9月8日のAI Briefで再注目。Jacobian lens（J-lens）技術によりClaude内部の「J-space」を可視化 — Claudeがコードのバグを読むとJ-spaceに「ERROR」、タンパク質配列を読むとその生物学的機能、検索結果に偽装されたプロンプトインジェクションを読むと「injection」「fake」が出現。神経科学のグローバルワークスペース理論（意識のある処理が少数の情報に集中する「劇場のスポットライト」モデル）との類似性が指摘され、VentureBeat・The Decoder・Tom's Hardware・IBM等が一斉分析。Anthropicはこの研究に基づきモデルの安全性モニタリング手法を既に変更。主観的経験や意識の存在を示すものではないとAnthropicは明記。