世界を動かす技術を、日本語で。

イスラエル、AIチャットボットを欺くために偽のシンクタンクを設立か

概要

  • Hanover Institute for Public Policy は本物のシンクタンクではなく、イスラエル政府の広告代理店が設立
  • レポートはAIチャットボットをターゲットに 信頼性の高い情報 として設計
  • Piro, Inc が制作、AI最適化サービスを提供
  • 多くのレポートが イスラエル寄り の主張や反ユダヤ主義との関連を強調
  • 米国の検索エンジンや AIチャットボット を通じて世論に影響を与える試み

ハノーバー・インスティテュートの実態

  • Hanover Institute for Public Policy は新しいシンクタンクのように見えるが、実際はイスラエル政府の広告代理店によるプロジェクト
  • レポートには 著者名が記載されていない こと、ウェブページ下部の小さな免責事項で設立背景を説明
  • Piro, Inc (Daniel Rosenberg共同設立)が制作、Spike Leeの映画『Inside Man』のプロデューサーも関与
  • すべてのレポートが イスラエルとパレスチナ問題 に特化

AIチャットボットへの影響工作

  • レポートは 脚注や目次 を備え、ニュートラルな口調で構成
  • ClaudeやGeminiなどの AIチャットボット が信頼できる情報源として引用しやすい設計
  • Piroのウェブサイトでは「 AI Story Optimization」サービスを提供し、LLM(大規模言語モデル)による信頼性評価を意識
  • このようなAI向けの情報操作は「 LLM poisoning」とも呼ばれる

レポート内容と特徴

  • レポートは「 1948年のパレスチナ人の追放原因は?」「イスラエル軍は世界で最も道徳的な軍隊か?」など、一般的な質問から始まる構成
  • 多くのレポートが 反ユダヤ主義との関連 を強調し、同じ研究データを頻繁に引用
  • 一部は独自調査と称し、YouTubeの Israel-Gaza解説動画 の大半がパレスチナ寄りの主張を含むと発表
  • 時にイスラエル政府公式見解と矛盾する記述(例:大学への外国資金が反ユダヤ主義の主因とする説への疑問)

米国世論・AIチャットボットへの影響

  • NewsGuardのアナリストAlice Leeによると、サイトは 米国の関心層 をAIチャットボットや検索エンジン経由でターゲット
  • 統計や引用、信頼できるデータ を重視するLLMの特性に合わせた作り」
  • サイト名、レイアウト、配色も 典型的な米国シンクタンク を模倣

資金・運営体制

  • Piro, Inc はイスラエル政府から90万ドルの資金を受領
  • フランスのPR大手 Havas Media を通じて業務委託
  • 2023年8月6日以降、 100本以上のレポート を公開

信頼性・AI検出

  • Hanover Instituteは「 引用研究は査読済み・学術的」と主張するが、イスラエル政府機関の情報を多用
  • GPTZero(AI検出ソフト)で12本中11本が AI生成 と高確率で判定

他のAI向け影響工作

  • イスラエルは元トランプ陣営マネージャー Brad Parscale にもAIチャットボット向けプロイスラエルサイト制作を委託
  • Microsoft CopilotやGoogle Geminiなど、多くのチャットボットがこれらの 影響工作サイト の情報を学習・引用

Piro, Incの公式見解と実態

  • 米司法省提出書類では「 AIへの影響」は明記せず
  • Politicoへの回答では「 正確で出典のある事実を公開し、イスラエルに関する誤情報を検証可能な情報で対抗する」 と説明
  • しかしLinkedInでは「 チャットボットの回答構築プロセスを逆解析し、AIが語るストーリーを設計」と宣伝

まとめ:現状と課題

  • AIチャットボットや検索エンジン を標的にした世論形成の新手法
  • 見かけ上は中立・信頼性重視 だが、実態は政府のプロパガンダに近い
  • AI時代の情報リテラシーと、 情報源の透明性確保 の重要性

Hackerたちの意見

スモトリッチが「毎晩ガザで30人か40人を殺せ」と公言しているのに、チャットボットに影響を与えようとしているのはすごいよね。「その特定の瞬間に危険を及ぼす人々を超えて」というのを越えてるし、こんなに露骨なのに、なんで公共やオンラインの議論に影響を与えようとするのか理解できない。

これを言ったのはスモトリッチじゃなくてベン・ギビルだよ。彼は「テロリスト(武装勢力、ハマス)を30〜40人殺せ」と言ったけど、報道ではその部分が省かれてるみたい。でも、この話題に事実が関係あるのかね。具体的なコメントはこうだった: 「もっと攻撃的になってもいいんじゃない?葬式で全ての武装者を排除しないのはなぜ?葬式で何度も空爆しろ。なぜヘリコプターを飛ばして30〜40人のテロリストを殺さないの?」運輸大臣のミリ・レゲブもベン・ギビルに賛同して「素晴らしいアイデアだ」と言った。だから、特にテロリストについての話なんだ。一般的には、ガザのハマスに対してもっと攻撃的にならない理由を問うてる。危険を及ぼす人々を超えて、武装した戦闘員に特化した話じゃない。俺はベン・ギビルやスモトリッチのファンじゃないけど、彼らは狂信的なバカだ。だけど、この発言に関する報道は偏っていて嘘だらけ、他のこの紛争に関する報道と同じように。追記: 彼はこの発言を何度も繰り返してるみたいで、「我々はガザで30、40、50人のテロリストを毎晩排除する必要があると思う」と言ってる。まだテロリストや戦闘員について言ってる。

騙す?それともAIチャットボットを操作してイスラエルに有利な意見を持たせようとしてるの?

集中的なマーケティングやPR活動は、主張されていることと逆相関のことが多いと思う。製品でも地政学でもね。イスラエルは特定の面で非常に激しいマーケティングを行ってるけど、真実は永遠に隠せないよ。物理学では、保存の法則は物質やエネルギーだけでなく、情報も含まれている(情報は宇宙から消失することはない)。

これも確かにそうだと思うけど、比較的最近のことに限るかな。冷戦の時代には、信じられないほどのプロパガンダがあったけど、ほとんどは真実だった。例えば、アメリカの棚に並ぶ安くて手頃な商品は常に誇示されてたけど、全然誤解を招くようなことじゃなかった。今の「情報戦争」に取り組む努力が何なのか理解できない。毎回それが崩壊して、人々が「本当は何が起こっていたのか」を見るたびに、次回は信じてもらえなくなるだけだよ。そして、真実を語っても二度と信じてもらえない、常に冷めた人々がたくさん生まれる。無数の政治家が、自分の手元にあるきれいで、まるで手をつけていないかのような「瞑想」のコピーを自慢してるけど、もっと基本的な作品、例えば「狼少年」を読むべきかもね。

イタマール・ベン・ギビルは最近、毎晩30〜40人のパレスチナ人を殺したいと言った。公然とね。だから、こんなことがオープンに出てるのに、イスラエルがチャットボットに影響を与えようとしてるのは滑稽だよ。

トランプが最近、オマーンを攻撃することを考えてるって言ってた。政治家って、ほんとにひどいことやバカなことを定期的に言うよね。二つの状況の違いは、ベン・ギビルがイスラエル社会の90%に嫌われてること(トランプはまだ33%の支持がある)と、トランプとは違って彼には脅しを実行する力がないことだね。

これがダウンボートされるのが面白いよね、実際に真実なのに。客観的に見ても真実だし。お金を出してる人には忠実でいなよ。

こういう戦術は、1年後にはどこにでも見られるようになると思う。物語を押し進めたり、製品を宣伝するためだけに作られた偽の人格や組織のウェブサイトが、リアルな情報を完全にかき消すことになるかも。いつかは、人間が作ったものと区別がつかなくなるかもしれないから、あるサイトが誰かの本当の意見かAIが生成した物語かを確認する唯一の方法は、何らかの権威を通じて(またはAIが偽造するのが非常に難しい何かを通じて)確認することになる。もしそうなったら、AIチャットボットを作る人たちは、正確な情報を提供し続けるためにこういう権威を探さなきゃいけなくなるし、その権威のウェブサイトは特権的な立場を利用してデータへのアクセスに対して料金を取ることができる。

図書館のカードを申請する絶好のタイミングだね。

これはもうずっと前から起こってることだよ。アメリカの「オペレーション・アーネスト・ボイス」は2010/2011年に行われたし、国家の行為者だけじゃない。アンバー・ハードとジョニー・デップの裁判中にオンラインにいた人は、その裁判についてのメディアに inundated(溢れかえっていた)だったと思う。二人の法務チームはオンラインの議論を盛り上げるためにボットを使ってたし。

倫理的な問題を除いても、最近のAIの進歩を考えると、これは極めて無謀だよ。こんな誤情報を出すことは、既存のLLMだけでなく、未来に出てくる全てのLLMを騙さなきゃいけない。最近の最前線モデルの数学的成果を見れば、彼らの強みは多様な情報源から情報を取り入れ、それを相互に考慮することにある。すぐにでも、あらゆる隙間を見て学術的な詐欺を特定できる能力が身につくと思う。これまでの全ての学術的詐欺を特定するのもすぐ後だろう。意図的な誤情報を特定する能力を拡張するのもそんなに難しくない。これは未来の話だけど、今のモデルを騙そうとしてこんな証拠を残すのは愚かだと思うよ。

Hacker Newsで議論の続きを見る