世界を動かす技術を、日本語で。

なぜ私はGoogle DeepMindを辞めたのか

2026年7月16日原文(turntrout.com)

概要

  • 本記事は、Google DeepMindを離職した筆者が、GoogleのAIの軍事利用・倫理違反に対し内部から抗議し、失敗した経緯をまとめたもの
  • Googleが移民取締機関や軍事機関とAI契約を結び、「キラーロボット」利用制限を設けなかったことへの問題意識
  • AI倫理を掲げる著名研究者や幹部の多くが圧力下で沈黙した実態
  • 著者自身の行動・提案が無視され、最終的にGoogleが契約を締結したため退職に至った
  • 権力者・企業が倫理的約束を守れなかった事例としての教訓

Googleが移民取締のサプライチェーンを支援

  • 2026年1月、DHS(米国国土安全保障省)職員による市民射殺事件を受けて問題意識を強めた経緯
  • GoogleがDHSやICE(移民税関捜査局)向けにCloudサービスを提供している事実の発覚
  • 2025年AIユースケースインベントリでGoogleがDHSの「業務効率化」に利用されている記載
  • GoogleがICE関連アプリを削除、学生デモ参加者の情報をICEに通知するなどの事例
  • MicrosoftやAmazonの方が関与は大きいが、Googleの関与も無視できない規模

どう行動すべきかの模索

  • 社内署名活動やストライキなど典型的な抗議手法は効果が薄いと判断
  • AI業界では少数の「代替困難なスター人材」の離脱が経営に大きな影響を与える構造
  • CEO(Sundar Pichai)を動かすには、10人程度の重要人物の行動で十分な可能性
  • Jeff Dean(Google Chief Scientist)の影響力に着目

Jeff Deanとの対話

  • Jeff DeanがICE批判をSNSで発信していたことから直接連絡
  • Jeffから「Sundar Pichai、Demis Hassabis、Thomas Kurianにメールするのが良い」と助言
  • 著者がGoogle幹部宛に、DHS/ICEとの契約中止を求めるメールを送信
  • ICEによる人権侵害やGoogleの評判リスクを指摘し、「歴史に裁かれる」と訴える
  • 幹部からは一切返信なし
  • 再度Jeffに連絡し、ランチミーティングを依頼→承諾される

米国防総省によるAnthropicへの圧力

  • 2026年2月、Pentagon(米国防総省)がAnthropicに対し「殺傷型自律兵器やAI監視・プロファイリング禁止」の契約条項撤廃を要求
  • 「全ての合法的用途」へのAI提供を求めるが、専門家からは「合法」の範囲が戦争犯罪にも及ぶ可能性を指摘
  • Pentagonは「供給網リスク」に指定するぞと民間企業を経済的に恫喝
  • 通常は他社へ切り替えるはずが、今回はAnthropicを狙い撃ちにした異例の対応

(※続きが必要な場合は、次のセクションタイトルを指定してご依頼ください)

Hackerたちの意見

TurnTroutには本当にリスペクトだわ。こんな行動をとる人がもっと必要だよね。自分が正しいと思うことを貫く賢い人が増えないと、これからの20年で大きな影響を持つ囚人のジレンマを失ってしまう気がする。AI研究者へのリスペクトも少し増えたかな。業界全体が根本からかなり汚れてるって感じてたから、研究者たちに対する意見もそれに影響されてた。少数派かもしれないけど、バークレーにいた頃、学生プロジェクトのために海賊版のアートをダウンロードするのは気持ち悪いと思ってたんだ。だから、今の世代の優秀な頭脳たちが他人の努力を軽視して、残りの価値を抜き出して再販するのを目の当たりにするのは本当に悲しい。TurnTroutはその見方には同意しないだろうけど、彼はDeep Mindにいたわけだしね。でも、彼と僕は他の倫理的な立場では合意してると思う。彼がここで自分の信念を貫いているのを見るのは嬉しいよ。

ごめん、でも君のエピソードにはリンクを追加した方がいいと思う。君のコメントを読む読者全員が適切な文脈を持っているわけじゃないから。僕も全然わからないよ。

信念を持った人が本当に少なくなったね。

銀行口座が7〜8桁になった時だけだね。

著者に拍手を送りたい。イスラエルとの関係でパレスチナ人を監視したり、電話の会話を記録したりする仕事のせいで、私はマイクロソフトを辞めたんだ(他のIDFとのコラボも含めて)。彼らはその一部を引っ込めたけど、サティアは共犯だったよ。https://www.theguardian.com/world/2025/sep/25/microsoft-bloc...

リスペクト!

あなたの道徳に敬意を表します。もしほとんどの人がこうしたら、あの企業はすぐに態度を変えるでしょう。結局、彼らはお金のことしか考えていないからね。

TurnTroutのことを今まで知らなかったけど、HNコミュニティのおかげで知ることができたよ。彼が信念を貫いている姿には本当に感心する。僕にはこんな勇気や自信はないし、幸いにもGoogleで働いてないから辞める必要もないけど、一方でPalantirみたいな会社で働くことを選んで誇りに思っている賢い人たちもいるよね。

これは勇気や自信の問題じゃなくて、呼びかけのようなもので、呼ばれる人は少なくて、結局一人だけだったりすることが多い。みんなが抑圧者に立ち向かう理由を見つけて、結局何もしないから。著者は論理的な誤謬をすべて経験しているだろうし、ターン・トラウトは彼の努力を記録するのが上手だね。良心の呼びかけは最初はうまく表現できないけど、戦争機械や帝国を必要とする金融システムに対する良心的な拒否なんだ。著者は実際にGoogle DeepMindで働いていたから、ある程度の権威を持っているけど、誰も彼の話を聞かないから、真実を伝えるためにより高い権威を求めなきゃいけない。教皇に行くこともできたかもしれないけど、イエス・キリスト(新たにテレポートしてきたとしても)以外はどこでもノーだよ。論理や理性は、狂気とお金が支配する時には役に立たない。良心的な拒否者は神を信じていないかもしれないけど、自分の遺産を気にする「虚栄心」を持っていると思う。みんなが「悪魔の仕事」をしている職場で、見つからないようにしたいという欲望もあるし、立ち上がる人が少ないのはなぜだろう?スノーデンが善行をした翌日に、五つの目の人たちが一斉に辞めることはなかったのはなぜ?個人によって違うけど、著者はビーガンだから、肉食の世界でランチの列に並ぶだけでも「ダニエルになろうとした、孤独に立とうとした」ってことだね。これは原則に従って生きることを必要とし、戦時中の良心的な拒否のための練習にもなる。ある程度の独立性も重要で、住宅ローンや子供がいる人、車のローンが残っていて、クレジットカードが限度額いっぱいの人は良心的に拒否できない。退職までのカウントダウンをしている人もそうだし、若い人たちは表現力が不足している。権力に真実で立ち向かうためのオープンエンドの一人キャンペーンを始めるための「戦争資金」を持っている人はほんの一握りだよ。特に「失敗した内部告発者」に感謝しなきゃいけないね。彼らは「内部告発者」の地位に達しないから、メディアは彼らの状況についての話にしてしまう。著者が自分の旅を記録し、第一歩を踏み出したことに敬意を表します。「第一歩」は典型的な「ヒーローズジャーニー」で、最初は呼びかけを拒否するけど、特別な世界への旅が始まって、そこから良いものを持ち帰る挑戦がある。みんなのためにね。

これはインスパイアリングだね。著者に感謝、書くのは大変だっただろうな。

自分の信念を貫いているのはリスペクトだよ。ただ、好奇心から聞くけど、どうして人々は賢いAI兵器を望まないの?無防備な市民と軍事資産を区別できるオンボードAIの方がいいと思うんだけど、そうじゃないのかな…?バカな海底地雷が何でも吹き飛ばすより、時々爆発しない賢い海底地雷の方がいいと思うんだけど。

「あなたの言う通り、それは軍事目標じゃなかった—実際には女の子の学校だった。二度と起こらないよ!」って言うのは、あまり良い論点じゃないし、冗談っぽいけど、AIの精度についてまだたくさん議論がある中で、私の個人的な見解は、LLMやそれに類するものが人間よりも本当に、明確に正確で、真の推論や判断能力を持つまで、命がかかってる場面には使うべきじゃないってこと。手術中に麻酔をかける機械がLLMに支えられてるなんて、絶対に嫌だし、もっと多くの命を決める軍事装置がLLMに支えられてるなんて、なおさら嫌だ。今の状態ではね。もし将来的に、本当に信頼できる超賢いAIやLLM、あるいは武器を操るための「スマート」な技術があれば、それは必要なら考慮するけど、私は戦争やそれによって引き起こされる死や破壊を嫌悪してる。だけど、もしその未来に、今のLLMよりも遥かに優れた技術があって、判断や推論ができるなら、他にもたくさんの疑問が出てくると思う。例えば、その技術の動機を理解すること。AGIに近いものになるんじゃないかって思うし、それは哲学的な問題を引き起こすよね。

Hacker Newsで議論の続きを見る