世界を動かす技術を、日本語で。

メタ、AIチャットボットを悪用して数千のインスタグラムアカウントがハッキングされたことを確認

概要

MetaはInstagramのAIチャットボットの脆弱性を悪用したアカウント乗っ取り事件について、被害者数や経緯を初めて公表。 少なくとも20,225人が影響を受け、個人情報やアカウント活動が漏洩の可能性。 脆弱性はAIによるアカウント復旧システムに存在。 Metaは該当チャットボットを無効化し、再発防止策を実施中。 今後も同様のインシデント防止のため、他のAIチャットボットも点検予定。

MetaによるInstagramアカウント乗っ取り被害の通知と対応

  • Metaは Instagramアカウント乗っ取り被害 について、被害者に通知開始
  • AIチャットボットの脆弱性 を悪用したサイバー攻撃の発覚
  • 20,225人以上 のアカウントが影響を受け、うち30人はMaine州在住
  • 影響範囲には 連携アカウント、連絡先情報、生年月日、プロフィール情報、投稿、DM、アカウント活動 が含まれる
  • 脆弱性の原因は AIアシスト型アカウント復旧システム のバグ
    • 本来、パスワードリセット時に本人のメールアドレス確認が必要
    • バグにより、攻撃者が指定したメールアドレスに リセットリンク が送信される
    • 2段階認証未設定アカウントが標的
  • 攻撃者は 不正にパスワードリセット し、アカウントを完全掌握可能
  • Metaは 個人情報の具体的な流出有無は不明 と説明
  • 攻撃期間は 4月17日頃から今週まで と判明
  • Metaは 被害者にパスワードリセットと再認証 を要請
  • AIチャットボットの該当機能を無効化 し、再発防止のためコード経路を削除
  • 他プラットフォームの AIチャットボットも点検中

背景と今後の対応

  • インシデント発覚は 404 MediaTechCrunch などの報道による
  • Metaは 大規模人員削減経営陣への報酬強化 を実施中
  • AI分野への投資強化 とセキュリティ課題の両立が課題
  • 今後も 同様の脆弱性再発防止策 の強化が必要
  • 利用者は 2段階認証設定パスワード管理 の徹底が推奨

Hackerたちの意見

「ツール自体は正常に動作し、意図通りに機能していました。しかし、別のコードパスにバグがあったため、パスワードリセットを要求した個人が提供したメールアドレスが、そのユーザーのInstagramアカウントに関連付けられたメールアドレスと一致しているかどうかを、システムが適切に確認できませんでした」とMetaは侵害通知で述べています。この状況を「正常に動作した」とか「意図通り」と表現するのは、ちょっと違う気がする。

Metaを批判するのは好きだけど、これは納得できる部分もある。こういう決定論的な確認は、LLMの仕事じゃないし、あってはならない。ツールがアクセスできるものは、権限のレイヤーを強制すべきで、LLMがユーザーが許可されていない行動をすることは絶対にないようにするべきなんだ。この場合、ツールがそれを怠った。

もしかして、彼らはそのままの意味でコミュニケーションしていて、自分たちが完全にバカだって認めてるのかも?

ああ、それは下流の依存関係だったんだ。ツールは動いてたけど、下流の依存関係が問題だった。アーストツカ万歳!

ここでの主張は、AIはただの入力ページに過ぎないってこと。入力フィールドはユーザー名とメールアドレスを求めて、それをバックエンドの関数に送信する。そんな入力ページは意図通りに機能してるんだ。問題は、バックエンドの関数がメールアドレスとユーザー名を確認しないこと。

それ、ClaudeやChatGPTが何か間違ったことをしたときに言い訳する時の言い回しにすごく似てるね。ソフトウェアの問題についてカスタマーサポートの返答を求められた時も。

だから「ツール自体」がそもそもその仕事に適してなかったってことだね。

そのバグはどれくらいの間あったの?サポートエージェントなしでアクセスする方法はなかったのかな?MetaはAIからの責任を逸らすために何でも犠牲にする気がする。だって、彼らの6000億ドル(「どの数字を使うかによるけど」)の実験が終わっちゃうからね。

ツールは正しく機能してたし、意図通りだったけど、バグのせいで正しくも意図通りにも動かなかった。

イタリア語では「手術は完璧に成功したが、患者は死んだ」と言います。

これ、数日前にハッカーニュースに載ってたよ(https://news.ycombinator.com/item?id=48359102) - 「ハック」の説明で、Metaのトンチンカンな確認じゃないね。

修正された見出し:「Meta、Instagramアカウントの何千ものハッキングは不安定なAIチャットボットのせいと確認」

Hacker Newsで議論の続きを見る