ハクソク

世界を動かす技術を、日本語で。

AIがイランの学校爆破事件の非難を受けた。真実はもっと憂慮すべきものだ

59日前原文(theguardian.com)

概要

  • 2026年2月28日、米軍がイラン南部のMinabにある小学校を誤爆し、多数の児童が犠牲となった事件
  • AIチャットボットClaudeが標的選定に関与したとの誤報が拡散
  • 実際の標的選定システムはPalantir社のMavenであり、Claudeは関与していない
  • データベースの更新漏れが悲劇の主因
  • AI技術に対する過度な注目と誤った議論への警鐘

イラン・Minab小学校誤爆事件とAI誤認報道

  • 2026年2月28日、Operation Epic Fury初日の朝、米軍によるMinabのShajareh Tayyebeh小学校への空爆
    • 少なくとも2回の攻撃、175～180名が死亡、大半が7～12歳の女子児童
  • 事件直後、AIチャットボットClaudeが標的選定に関与したとの報道・議論が拡大
    • 米議会が国防長官Pete HegsethにAI利用範囲を照会
    • The New Yorker誌がClaudeの軍事利用リスクや人格問題を取り上げる
  • 実際には標的選定はMavenというシステムが担当
    • Claudeや他のLLM（大規模言語モデル）は関与せず
  • 問題の根本は、建物の用途変更（軍施設→小学校）がDefense Intelligence Agencyのデータベースに反映されていなかった点
    • 2016年までに用途変更済みであったことが衛星画像で確認可能
  • チャットボットやAIに責任を押し付ける風潮への警鐘

Mavenシステムと「キルチェーン」の現実

  • MavenはPalantir Technologiesが開発した標的選定インフラ
    • 衛星画像、シグナルインテリジェンス、センサーデータを統合し、標的の検出から攻撃命令までを一元管理
  • Maven以前は、複数システムを手動で連携する必要があった
    • Maven導入により、全工程が単一インターフェースで管理可能に
  • インターフェースは、地図とKanban形式のワークフローを組み合わせたもの
    • 各標的が工程ごとに右へ進む構成
  • AIは主に画像認識やセンサーデータの解析を担当
    • LLMは2024年以降、分析補助やレポート要約のため追加
    • 標的検出や攻撃判断にはLLMは直接関与しない

Maven開発の経緯と軍事戦略の変遷

  • Mavenは「第三のオフセット戦略」の一環として2017年に発足
    • 技術優位で敵に対抗するという米軍の戦略的発想
  • Googleが当初開発を担当したが、従業員の反対運動で撤退
    • Palantirが2019年に引き継ぎ、米陸軍XVIII空挺軍団で実証実験（Scarlet Dragon演習）を実施
  • Scarlet Dragonでは、従来2,000人が担当していた標的選定を20人で実現
    • 2024年には1時間で1,000件の標的決定が目標
  • Mavenは「キルチェーン」（探知から攻撃までの一連のプロセス）を高速化し、意思決定のテンポを劇的に向上

AIと軍事議論の本質的な問題

  • 事件後の議論はClaudeやLLMなど目新しいAI技術に集中
    • 実際には古くからある画像解析AIやデータベース管理の問題が主因
  • 「AIセーフティ」や「アライメント」などの用語が議論を支配
    • 本質的な問題（運用プロセスやデータ管理）が見落とされる傾向
  • Charisma Machine（カリスマ的技術）としてのLLM
    • 技術の実態以上に注目・資源・責任が集中する現象
  • 真の問題はAIそのものではなく、軍事組織の情報更新や意思決定プロセス
    • PalantirやMavenが「キルチェーン」の中核である事実の見落とし

今後の課題と社会的示唆

  • AI技術が社会・軍事インフラに不可視的に組み込まれていく現実
    • システムの運用・更新責任の明確化が不可欠
  • 技術の「カリスマ性」に惑わされず、運用実態や人間の判断ミスに注目する必要性
  • AIにまつわる誤解や過度な期待・不安が、実際の問題解決を妨げるリスク
  • 真の透明性と説明責任を追求するための社会的議論の重要性

Hackerたちの意見

すごく興味深い記事だね。ところどころバイアスがあるけど、「アメリカ軍は、何かを見てそれを破壊するギャップを埋めようとしてきた」って部分はちょっと違和感がある。見ることや理解することに対して、破壊することなしに反応することもできるし。でも、少なくとも私には「戦争の霧」がどれだけ濃くなったかを強調しているように感じる。メディア報道の霧もね。最初の数段落は新鮮な空気を感じさせたよ。

著者がこれについて最初に書いたのは彼のサブスタックだよね： https://artificialbureaucracy.substack.com/p/kill-chain

面白い記事だね。AIの話題が解雇だけじゃなくなってきたみたい。

└

AIが得意なのは、責任や所有権を取り除くことだよね。

「報道を組織した質問は、Anthropicが作ったチャットボットのClaudeがその学校をターゲットに選んだかどうかだった。」この特定の事件に関してClaudeが言及されたのはこれが初めてだ。戦争におけるAIの使用についてはたくさん話があるけど、この学校に関しては、私が見た報道のほとんどが古い情報や手順がちゃんと守られていないことを示唆していた。

└

Claudeがイランの攻撃に使われたって報道は以前からあったよね、3月の初めかそれ以前に： https://www.theguardian.com/technology/2026/mar/01/claude-an... 編集：さらに、 https://www.washingtonpost.com/technology/2026/03/04/anthrop...

└

これについては混乱が多いよね。今日、Amazon BedrockでClaudeを使えるけど、これはこういうことだよ：コードやモデルの重み、その他のアーティファクトはBedrock上で動いてる。BedrockはClaudeのトークンベースの請求RESTful APIに対するフェイクじゃなくて、Anthropicが自分のものを動かしてるんだ。厳密に言えば、Bedrockは地理的な境界や物理的な境界、どのデータセンターのハードウェアがどこに接続されているか、法的な境界など、非技術的な現実の懸念に従う下位のAmazonサービスの上にあるフェイクとして使える。マルチテナンシーの観点では、Amazonには複数の顧客がいるけど、顧客がこれらの要件に対して支払いたいから、AmazonがClaudeのモデルの重みをどうやって運用するかを整理したわけじゃない。これはHugging Faceからダウンロードしたオープンウェイトモデルのように、重みを渡さずに、支払う意志のある他の知的財産や法的、非技術的な要件を満たすようにしてるんだ。これがペンタゴンとの争いの理由で、政府でClaudeが使われていると言われる時の意味なんだ（例えばFDAのためにElsaで使われてる）。Anthropicはこの契約の中でプロンプトのようなテレメトリーを持ってないから、モデルの使用に関する契約があるけど、どう使っているかを証明できないんだ。もちろん、RESTful APIサービスを使えば証明できるけどね。彼らは「ただ」ユーザーデータをパラフレーズして学習することはできない。これには理由があるんだよね（$$$）。ベンダー（Palantir）は、好きなモデルを使えるよね？彼らは「Bedrock」を通じてClaudeを選んだ。彼らがBedrockを通じてClaudeを使っているかどうかは分からないけど、彼らが言ってることはそういうこと。PalantirはQwen3を使ってデータセンターハードウェアで動かすこともできる。分かる？重要だけど、重要じゃないこともある。これは私の意見だけど、これは赤いニシンの山で、この記事のほとんどはこの赤いニシンについてなんだ。

└

その主張はあちこちで聞いたことがある。

「3回のクリックで地図上のデータポイントが正式な検出に変わり、ターゲティングパイプラインに移動する。このターゲットは、異なる意思決定プロセスや交戦規則を表す列を通過する。システムは各ターゲットをどう攻撃するか、どの航空機、ドローン、ミサイルを使うか、どの武器を組み合わせるかを推奨する。これを軍は「行動方針」と呼ぶ。将校はランク付けされたオプションから選び、システムは使用者によって、ターゲットパッケージを承認のために将校に送るか、実行に移す。」---------------- Mavenは戦争の真っ最中に使うツールだよね。両方の側が撃ち合っているとき、数分の節約が自分たちの側の命を救うことになる。少なくともその命が、悪いターゲットを攻撃するリスクとバランスを取ることになる。これは戦争の真っ最中に行われた攻撃ではなかった。もしMavenが学校を攻撃するために使われたなら、それは奇襲の一部として使われていたことになる。計画中に誰も撃ち返していなかったし、数分の節約は命の救助には繋がらなかった。ターゲットを正しく設定することに優先順位を置くべきだった。人間は他の手段でターゲットを二重、三重に確認するべきだった。明らかにそれは行われなかった。学校は自分のウェブサイトすら持っていたんだから、もっと確認していれば人間が気づいていたはずだ。Mavenを使って慎重に確認せずに奇襲を計画した選択をした人は、全ての時間があったのに無駄なミスを犯した。ツールに対する過信か、民間人の命を完全に無視した結果かは分からないけど、彼らはその小さな女の子たちの死に直接責任がある。私は心から、その人に何らかの結果があることを願っているけど、実際にはそうなるとは思えない。

└

ニューヨークタイムズの分析をじっくり見ることをおすすめするよ。攻撃対象としてのリスクを軽減する要因があったかもしれないけど、実際にはその施設の一部に見えたし（元々そうだった！）。確かに、後から見れば明確に分かるし、十分な時間があれば各ターゲットを正しく特定できたかもしれないけど、1000回の出撃の中で一度のミスストライクだったから、すでにエラー率は低い。TFAは50の特定の攻撃を自動分析で取り上げていて、それはすべて外れたものだ。これは同じようには見えないよね。そこには同意するけど、これは幻覚のケースではなく、既存のウェブサイトは地上の実際の状況の信号であって決定要因ではない。ただ、君はこれらのターゲットが慎重に評価されていなかったという非常に強い仮定をしている。これはTFAや私が読んだ分析には見られない仮定だよ。実際、記事自体は、これがターゲットから外されるべきだったと考える人々の意見を引用している。

└

君の意見には賛成だけど、これってどれくらい現実的なの？イスラエルやアメリカは何千ものターゲットを攻撃してるって言ってるけど、実際は数百かもしれないし、それでも多いよね。どうやってこれを確認するつもりなんだろう？

「人間は他の手段でターゲットを二重、三重に確認するべきだった。」 これって実際にどうやって行われるの？アメリカやイスラエルは現地に人を送るのを嫌がってるし、現地に人がいるのが唯一の確認方法なのに、世界中の場所がGoogleマップに載ってるわけじゃないし、ウェブ上に存在してるわけでもないから、実際に確認するには目視でチェックするしかないんだよね。でも、戦争を始めた両者はそれをやりたくない。もっと言えば、即座に重大な脅威を与えない他の主権国家に攻撃を仕掛けなければ、この紛争自体が最初から避けられたはずなんだよね。でも、いいえ、どうやら大統領は何か子供の人身売買の計画に関わってるみたいで、国を戦争に巻き込む方が責任を問われるよりも好ましいってことになっちゃった。で、今ここにいて、どうでもいい細かいことについて議論してるってわけ。

└

君が言ったことには全部同意するけど、ターゲットの妥当性や出所を複数人で確認する代わりに、意思決定者に選択肢を提供するためにスピードを優先するパラメータが作られたのも事実だよね。これがそのパラメータを実行する人を免責するわけじゃないけど、意思決定構造の最上部の責任でもある。

└

学校のウェブサイトを探したけど見つからなかったし、イランでは学校がGoogleマップに一般的に表示されているのに、この学校は載っていないことにも気づいた。どちらもターゲティングデータの信頼できる情報源とは言えないと思う。学校についてオンラインで調べてもほとんど証拠が見つからなかったけど、学校の遠足についてのブログのようなものは見つけた。でも、インターネットはターゲティングのデータとして信頼できる情報源じゃないってのは明らかだよね。ターゲットは直接の情報によって選ばれるべきだと思う。例えば、ターゲットは衛星や他の観察を通じて特定されるべき。長い間学校として運営されている建物が、衛星から見てパターンが見えないわけがないし、軍事施設とは異なるパターンがあるはずだよね。サプライズ攻撃で無作為に構造物を攻撃するわけじゃないし、特定の人や装備を狙ってるはずだから、ターゲットやパターンを観察して、最新の使用情報を持っていることが本当に重要なんだ。ここで起こったことは、全体の基地が「ユニット」としてターゲティングされて、間違ってどの建物が基地の一部かを特定したってことだと思う。衛星画像では、軍事施設と学校は非常に似て見える（その建物は以前基地の一部だったけど、学校として再利用されたと理解してる）。エラーを犯した人が全ての時間を持っていたわけじゃないのは真実じゃない。おそらく、命令が出た後は時間的なプレッシャーがあったと思う。アメリカ軍は理論的にはこの件に関して良いプロセスを持っているはずなんだけど、実際には失敗したんだよね。これは悲劇だ。

└

イラン戦争はAIの精神病によって引き起こされたのか？ https://houseofsaud.com/iran-war-ai-psychosis-sycophancy-rlh...

└

それがどれだけ真実かは分からないな。敵の工場や指令センターは一晩で生えてくるわけじゃないし、飛行機も数分で整備されて武装されて燃料入れられて、目標地点に飛ばされるわけじゃない。こういう作戦を準備するには、伝統的な計画方法でも重要な経路は他の場所にあると思う。確かに、重要な敵の指揮官や高価な移動式発射機が見つかって、数分から数時間のウィンドウしかない場合もあるけど、今回はそうじゃない気がする。軍が新しいハンマーを買ったから、その正当性を示したかったんじゃないかな。

AIが何かを間違えたら、それはオペレーターの責任だと思う。

以前は神々、次に神、そして自然、今はAIだね。人間は自分の行動に対する責任を受け入れるのが根本的に苦手なんだ。ある角度から見ると、産業時代やコンピュータ時代は、自分の行動に対する責任を永久に取り除くための大規模な努力に見える。

AIがやったら戦争犯罪じゃないの？

アメリカが戦争犯罪を犯さないのは有名だよね。単にミスをするだけ。

学校の座標がアメリカの情報機関に意図的に渡されたのかな。イランとの戦争にアメリカをもっと深く巻き込むために…誰が得をするんだろう？