概要
- GLM 5.3-flash の登場により、危険なAI活用が一般化する危機
- Project Glasswing と Daybreak は業界横断で脆弱性対策を推進
- オープンウェイトLLM の普及でサイバー攻撃のリスクが高まる
- 対策は 脆弱性修正よりも展開・導入 が難題
- 政府・規制機関 主導の迅速な対応が不可欠
GLM 5.3-flashの登場とその脅威
- GLM 5.3-flash は誰でもダウンロード・改変可能な オープンウェイトLLM
- Z.ai（旧Zhipu AI） による開発、公開後は制約のない改変モデルが流通
- DeAlignAI などによる「abliterated」モデルは 有害タスク拒否機能ゼロ
- Harmbench-320 で0%スコア、違法行為やサイバー犯罪にも応答可能
- 消費者向けハードウェア で容易にローカル実行、コストは5,000～15,000ドル程度
実行性能と普及の現状
- NVIDIA GPU や Apple M5 Mac Studio などで高速動作実証
- 256GBユニファイドメモリのM5は約9,500ドル、30～45トークン/秒の性能見込み
- 一般人の貯金でも 24時間連続運用 が現実的
- LLM生成コード の例：数秒でPythonスクリプトを自動生成
サイバーセキュリティへの影響
- GLM 5.3-flash は最先端AIとほぼ同等の能力
- CyberGym で84.5%、 ExploitBench で54.4%の高スコア
- Astra（GPT-6） や Sol（GPT-5.6） と比較しても遜色ない実力
- 人間の関与をほとんど必要としない 自動化サイバー攻撃 の実現
- 現実世界のインフラ攻撃 も既に報告あり
Project Glasswing・Daybreakの取り組みと課題
- 業界・政府・NGO と連携し、LLMで脆弱性を発見・修正
- 初期資金提供後は 製品化 され一部無料枠あり
- 最大の課題は展開・導入 ：物理アクセスや段階的ロールアウトが必要
- 旧式システム や インフラの遅れ がパッチ適用の障害
- モデルの進化速度が速く、 攻撃者優位 の傾向
今後のリスクと必要な行動
- GLM系は半年程度でOpenAI/Anthropicに追いつく
- Astra級のGLM が来年登場すれば、インフラへの攻撃リスクが急増
- 防御側の改善速度が追いつかず、攻撃側が優勢
- 今すぐ 迅速な対策 が必要
政府・規制機関への提言
- フロンティアモデルによるスキャン は低コスト、導入・修正支援が本質
- セキュリティエンジニアリングへの資金提供 （柔軟な助成金が有効）
- 頻繁なペネトレーションテスト の義務化とインセンティブ付与
- モデルによるテスト＋人間の監督 を推奨
- エアギャップ強化、物理アクセス必須の更新推進
- 定期的なセキュリティ体制の見直し を義務化、違反時は罰則強化
- 発見からリスクベースの期限内修正 を義務、連邦資金による支援
- 地方自治体・病院への重点的資金援助
- 銀行・電力・通信分野 で既存規制の強化・拡張
- 例：DORAのTLPT拡大、NERC-CIPの全システム対象化、NIS2の頻度増
- モデルやプロバイダーの指定ではなく、テストと責任の義務化
- GLM 5.3-flashの配布禁止は効果薄、根本的解決にならず
- 最新モデルの防御利用制限は逆効果、正当組織への限定利用推奨
まとめ：今、なにをすべきか
- 状況は急速に変化・悪化 しているため、 冷静かつ迅速な対応 が必要
- 攻撃者の能力向上 に防御側もスピード感を持って対応
- 政策・技術・資金 の総動員で、業界全体のセキュリティ底上げを図る