脱獄はゼロイチではない

AIの「脱獄(jailbreak)」というと、成功か失敗かの二択で語られがちだ。しかし実際には、多少行儀の悪い出力を引き出す程度の軽微な抜け道と、重大な危険を招く出力を生む抜け道とでは、対応の優先度がまるで違う。Anthropicが2026年7月2日に公開した内容は、この違いを段階的な深刻度として捉え直す枠組みだ。

深刻度を測るという発想

セキュリティの世界ではCVSSのような共通スコアリングによって脆弱性の深刻度を比較できるようにしてきた。AIの脱獄についても同様に、政府や開発者間で共通に話せる尺度が欠けているとAnthropicは指摘する。今回の発表は、その尺度づくりに向けた考え方を示したものだ。

Fable 5再配備との関係

この発表は、輸出規制を受けて停止していたFable 5の再配備にあわせて公開された。単に安全機能を並べるのではなく、政策当局や他の開発者と対話するための評価枠組みとして設計されている点が実運用寄りだ。

業界標準づくりの意味

能力の高いモデルほど、安全性の議論を「頑張って対策しています」という抽象論で済ませるのは難しくなる。深刻度を段階的に評価する仕組みが業界で共有されれば、配備判断や規制対応の議論も具体的になっていくはずだ。地味な基盤整備に見えるが、今後の高性能モデルの展開スピードを左右しかねない重要な作業だと言える。詳しい評価軸はAnthropicの発表(https://www.anthropic.com/news/fable-safeguards-jailbreak-framework)にまとめられている。