概要
- Anthropicが新モデル Fable を公開し、サイバーセキュリティ分野での利用制限を強化
- 多くの サイバーセキュリティ専門家 から制限の厳しさに不満の声
- Fableは サイバー関連ワード に反応しチャットを停止
- Mythosは限定的な組織にのみ提供、徐々に利用範囲を拡大中
- 専門家向けには制限緩和プログラムも用意
Anthropicの新AIモデル「Fable」とその制限
- Anthropicが Fable を一般公開、強力なサイバーセキュリティAI「Mythos」の限定バージョン
- Fableは サイバーセキュリティ関連のリクエスト に厳格なガードレールを設置
- IBM X-ForceのValentina “Chompie” Palmiotti氏によると、「サイバー関連の話題でなくても拒否される場合が多い」
- ガードレール発動時は「 サイバーセキュリティまたは生物学的トピックのため安全対策が作動」と表示
- 生物学分野の制限は 生物兵器開発リスク への懸念から導入
MythosとProject Glasswingの展開
- 「Mythos」は当初、 Project Glasswing の一環として一部企業・組織に限定提供
- 重要インフラやソフトウェアの防御強化が目的
- 2024年6月時点で 15カ国数百組織 に利用範囲を拡大
専門家の反応と課題
- 多くの専門家が「制限が 過剰で一貫性に欠ける」と指摘
- TolmoのMatt Suiche氏は「安全なコード作成依頼もサイバー関連とみなされ 制限対象 になる」とコメント
- Fableはガードレール発動時に Claude Opus 4.8 へ自動切り替え
- 「キーワードベースで判定しているため サイバーセキュリティ関連語 が全てトリガーになる」と分析
- X（旧Twitter）上でも「コードレビュー依頼ですら制限される」と不満の声
制限緩和への取り組みと今後
- Anthropicは Cyber Verification Program を設け、認証済み専門家には制限を緩和
- OpenAIも同様の「 Trusted Access for Cyber」プログラムを運用
- Suiche氏は「リリース初期は広めに制限し、今後 段階的に緩和 する方針が妥当」と評価
- Anthropicは今後も サイバーセキュリティ企業との連携強化 を予定
連絡先・情報提供の呼びかけ
- Lorenzo Franceschi-Bicchierai（TechCrunchシニアライター）が AIとサイバーセキュリティの活用事例 情報を募集中
- Signal: +1 917 257 1382
- Telegram/Keybase: @lorenzofb
- Email: lorenzo@techcrunch.com
- TechCrunch記事経由の購入リンクによる 収益 は編集方針に影響なし
まとめ
- AnthropicのFableは サイバーセキュリティリスク低減 のため、厳格な制限を実装
- 専門家からは「 利便性と安全性のバランス」に課題との声
- 今後の 制限緩和と業界連携 に注目