概要
- 米国政府 が Fable 5 と Mythos 5 の輸出停止命令を発出
- 全ての 外国籍ユーザー (米国内外問わず)へのアクセスを即時停止
- 脆弱性(Jailbreak) が原因との見解だが、重大な被害報告は無し
- Anthropic は命令に従うが、判断基準に異議を表明
- 他のAnthropicモデルやサービスには影響なし
米国政府によるFable 5とMythos 5の利用停止命令
- 米国政府 は国家安全保障上の権限に基づき、 Fable 5 と Mythos 5 への全外国籍ユーザーのアクセスを即時停止する輸出管理命令を発出
- Anthropic の外国籍従業員も含め、米国内外問わず全ての外国籍者が対象
- この命令により、 全顧客 へのFable 5およびMythos 5の提供を即時停止
- 他の Anthropic製AIモデル へのアクセスには影響なし
命令の背景と経緯
- 政府からの通達は 2024年6月5日17:21(ET) に受領
- 国家安全保障上の具体的な懸念内容 は明示されず
- Jailbreak(回避手法) の存在が問題視され、既知の軽微な脆弱性が指摘
- 他の公開モデルでも同様の脆弱性が発見可能であり、 Fable 5固有のリスク とは言い難い状況
- Anthropic はFable 5のリリース前に米英政府・第三者機関・社内チームと数千時間のレッドチームテストを実施
Fable 5のセキュリティ対策と業界状況
- Fable 5 はサイバーセキュリティ関連の悪用リスクを大幅に低減する強固なガードレールを実装
- 完璧なJailbreak耐性 は現時点で業界全体で実現不可能と認識
- 多層防御戦略 (defense in depth)を採用し、Jailbreakの範囲を限定・検知体制を強化
- 顧客データ30日間保持 を必須とし、リアルタイムでの対策・研究体制を構築
政府命令への対応と今後の方針
- 政府の法的命令に従い、 Fable 5とMythos 5の全ユーザーアクセスを停止
- Anthropic は、軽微なJailbreak発見のみで商用モデルの回収に至る基準には異議
- 同様の基準が業界全体に適用されれば、 最先端モデルの展開が停滞 する懸念
- 透明性・公平性・技術的根拠 に基づく法的プロセスの必要性を主張
- 顧客への影響を謝罪し、 早期のサービス復旧 に向けて対応中
関連情報:Anthropicのパートナーシップと導入事例
- Tata Consultancy Services (TCS) との提携により、金融・医療・公共分野など規制業界向けにClaudeを導入
- DXC Technology とのグローバルアライアンスで、銀行・航空会社などの基幹システムにClaudeを統合
- Anthropic Public Record による透明性向上の取り組み