変化は少数の人から始まって、そこから広がっていくんだよね。

そして、2027年1月までに終了する予定だよ。あまりにもスキャンダラスなことは、コードやプロジェクトのサイロのおかげで秘密裏に進められるだろうね。

200

俺は残るべきだと思うけど、微妙に悪い仕事をする感じでね。

アメリカ軍がたくさんのコンピュータプロジェクトを支援してきたことを考えると、これは昔からあったと言えるよね。

いつもこのコメントがあるけど、無差別殺人が可能な武器の進展や使用に対して抵抗するのは無駄だって。もし世界が彼らが信じているように機能していたら、少なくとも3回は文書化された形で世界は滅びていたはず。彼らの言うことを聞かない方がいいよ。

確かに、今の状況では自己規制でも、狂った王様と酔っ払いの戦争長官にひざまずくよりはマシだよね。

最終的には自己規制しかないと思う。こういうグループが自分たちの道徳的なためらいを具体的に指摘するのを見るのは進歩だと思う。たとえ何も進展がなくても、他の人も同じ懸念を抱いていることに気づくきっかけになるから。すべての運動、すべての進展は、人々が自分の立場を示して、そのトピックについての会話を始めることから始まる。それが意識を高め、最終的には変化を求める声につながるんだ。

現在のリーダーシップを考えると、この比喩ではドイツに近いと思う。

自律型兵器が重要な戦略的能力だと思う理由はあるの？無人ドローンができることって、遠隔操作のドローンができないことはあまりない気がするけど、せいぜい人権侵害くらいじゃない？

心配しなくていいよ、xAIはGoogleがやらなくてもやるから。それに、Anthropicは実際にはすべての軍事関連の仕事を拒否したわけじゃない。条件があるだけで、それは同じことじゃないよ。

アメリカの従業員はこれを作るのを拒否しているが、中国の従業員はそうじゃない。アメリカの従業員と中国の従業員の対立ではない。毎回中国を悪者にする必要はないよ。ほとんどの中国の従業員は、思っているよりもアメリカの従業員に似ている。トップの候補者は雇用主を選ぶ余裕があるから拒否できるけど、トップAI企業に就職できない中堅の奴は、家賃や医療費を払うために軍のためにAIを作ることだってある。これはアメリカでも中国でも関係ない。

アメリカの従業員はこれを作るのを拒否しているが、中国の従業員はそうじゃない。AIを持つ中国からの脅威を、AIを持たない人たちに説明して、その対策を議論する方がいいんじゃない？能力を開発することを強要するのではなくて。 > アメリカは悪者なの？ そうだよ。 > 個人的な反戦感情と現実をどうバランス取るか聞きたいんだ。 オープンな情報を主張して、同意を自ら進んで放棄せず、すべてに理由を求めることだね。いつも通り。

ここで素晴らしいポッドキャスト「Hardcore History」のエピソード59「世界の破壊者」に言及したい。原子爆弾の開発は、アメリカの政策サークルでアメリカがどう反応すべきかの議論を生んだ。数年後、熱核兵器の開発についても同じ議論が起こった。常に同じ質問が出てくる：敵がこれらの武器を持っていて、こちらが持っていなかったらどうする？ダン・カーレンの立場、私も同意するけど、アメリカは間違った選択をした。アメリカは戦争前にはなかったほど攻撃的で偏執的になった。アメリカによる政権交代の歴史を調べると、1945年以降に加速したことがわかる。この問題の一部は投影、心理的現象だと思う。文化的現象でもある。例えば、歴史的に抑圧されていた人々が解放される可能性があると、抑圧者は以前の抑圧された人々が立ち上がって自分たちを殺すのではないかと心配する。これが投影だ。解放の際に、元奴隷たちによる大規模な復讐暴力はなかった。むしろ、元抑圧者による解放された奴隷への暴力が増えた。国もこれに罪を犯すことがある。アメリカは他のグローバルな力を、周囲を支配し搾取する潜在的な覇権的、帝国主義的な力として見る。私たちがAIを資源として見るのも同じ。私たちはそれを所有し、管理するものとして見ている。アメリカの企業が地球上のすべての人から最後の一ドルを搾り取るために、異常に富裕になることを期待している。だから、あなたのコメントは、中国が私たちをグローバルな覇権的、帝国主義的な力として置き換えるのではないかという一般的な恐れを反映している。中国がそのように振る舞う証拠はゼロなのに。アメリカのプロパガンダは深く根付いていて、投影が強いから、「でもチベット」や「でも台湾」と言う人が出てくる。例えば、一つの中国政策はアメリカ、EU、ほぼすべての国の公式な政策だ。「彼らは侵略するかもしれない」と予防的に聞こえる。彼らはしない、部分的にはできないからだけど、実際には必要がないから。すでに一つの中国政策があるのに、何をする必要がある？ああ、できないと言ったのは、実際にその軍事能力がないから。もしそう思っているなら、戦争について何も知らない。100マイルの海を越えて50万人以上の軍隊で島を侵略するのは単純に不可能だ。こう言わせて：英仏海峡の約17マイルが、ドイツの戦争機械を止めた。兵士が何百万もいたのに。とにかく、要点に戻るけど、「もし中国が軍事AIを持ったらどうなる？」という議論は（私の意見では）投影だと思う。むしろ、中国はアメリカのテクノロジー企業がAIを管理することを許さないことを示している（例えば、DeepSeekをリリースしたことから）。もし中国がAIを手に入れたら、貧困から人々を引き上げ、より多くの単純作業を自動化するために使う可能性が高い。失業者を出さずにね。

それが機能する理由は、参加者が少ないと進捗が遅くなるからなんだよね。優秀な社員が、自分たちの組織全体に悪いことの開発をサポートしないようにさせることで、あまり優秀じゃない社員が悪いことをするのを防げるんだ。コンピュータは素晴らしいけど、プライバシーの悪夢にもなり得るって感じ。ソフトウェアエンジニアは、ブラックハットハッカーと協力したりしないから、ブラックハットハッカーは自分たちのシステムを洗練させるのが難しくなるんだよね。

核兵器競争の時と同じことをしよう：制限と管理のための条約を結ぶんだ。明らかに、リーダーたちが技術の反乱を引き起こすほど道徳的な赤線を越える前に条約に取り組んでいれば、もっと政治的な影響力があっただろうけど、そういうリーダーを選んでないからね。

だからこそ、私は原則的な立場が今の「共有地の悲劇」みたいな状況ではナイーブだと思うんだ。これはハッピーエンドのSFストーリーじゃなくて、マンハッタン計画みたいなもので、70年以上前にはナチスや日本のデータセンターが基盤モデルのトレーニングをしていたら、どんな代償を払ってでも爆撃されていただろうね。

悪いこと 「悪いことをするな」は削除されてないよ。ただ、文書の中での位置が変わっただけ。

アメリカ人が自律システムに撃たれた瞬間、抵抗は消えるよ。その結果を防ぐためにできることは何でもやるべきだ。