#Jailbreak

Anthropicが、再展開されたClaude Fable 5のサイバー安全策と、AI jailbreakの重大度を評価する初期フレームワークを公開しました。Fable 5は全ユーザー向けにグローバル提供に戻り、同時にサイバー用途の分類器とHackerOne受付も説明されています。

AnthropicはClaude Fable 5がグローバルで全ユーザー向けに再展開されたことを前提に、同モデルに組み込んだサイバー安全策の詳細を公開しました。対象はClaude Fable 5利用者、セキュリティ研究者、企業のAI安全・セキュリティ担当者です。 サイバー用途の分類は、Prohibited use、High-risk dual use、Low-risk dual use、Benign useの4区分です。Fable 5では、破壊的影響、マルウェア、C2、認証回避、権限昇格、高リスクな脆弱性探索などをブロック対象として説明し、防御目的のログ分析、SOC分析、インシデント対応、セキュアコーディングなどは許可対象または低リスク側に位置づけています。 同時に、Cyber Jailbreak Severity（CJS）という重大度フレームワーク案も示されました。Capability gain、Breadth of capability gain、Ease of weaponization、Discoverabilityの4軸で、CJS-0からCJS-4までの段階に分けます。これは業界、研究者、政府との共通語彙づくりを狙った初期案です。 提供条件として、記事はFable 5が全ユーザー向けに再展開済みと明記しています。開発者向けAPIの破壊的変更や移行期限は示されていませんが、Fable 5の安全分類器の挙動は今後のフィードバックや運用知見で変わる可能性があります。潜在的なサイバーjailbreakはHackerOneプログラムでも受け付けます。

米政府の輸出管理指令を受け、AnthropicがFable 5とMythos 5へのアクセスを全ユーザーで一時停止しました。 米国内外の外国籍利用者を対象とする指令へ確実に従うための措置で、ほかのAnthropicモデルは影響を受けません。

米政府は国家安全保障権限を根拠として、米国内外を問わず、外国籍の利用者とAnthropic従業員によるFable 5・Mythos 5へのアクセス停止を指示しました。 Anthropicは一部利用者だけを確実に遮断するのではなく、法令遵守のため両モデルを全顧客で停止しました。個人・法人、無料・有料を問わず影響し、日本の利用者も現時点では利用できません。 政府はFable 5の安全対策を回避する狭いJailbreak手法を問題視していますが、Anthropicは確認された脆弱性は軽微で、他の公開モデルでも同様に発見できると説明しています。 Anthropicは政府指令に従う一方、技術的根拠と透明な手続きを欠くとして判断に異議を表明し、アクセスの早期復旧を目指しています。 Fable 5ではJailbreak調査と緩和のため顧客データを30日保持する運用を採用していましたが、それでも完全な耐性は現時点で不可能との見解です。 ほかのClaudeモデル、Claude Code、Claude API全体の停止ではありません。ただしFable 5・Mythos 5を指定しているアプリケーションは代替モデルへの切り替えが必要です。 復旧時期、移行期限、料金補償、正式な代替モデルは発表されていません。