世界を動かす技術を、日本語で。

戦争省との合意

2026年3月1日原文(openai.com)

概要

  • OpenAIはPentagonと高度AIシステムの機密環境展開で合意
  • 他社より厳格な安全ガードレールを契約に明記
  • 3つのレッドライン(大量監視・自律兵器・高リスク自動決定)を堅持
  • クラウド限定展開とOpenAI技術者の関与で安全性を強化
  • Anthropicとの比較や契約の透明性も強調

PentagonとのAIシステム展開合意の要点

  • OpenAIPentagon (Department of War, DoW)と機密環境での 高度AIシステム展開 に合意
  • 全AI企業への同条件適用 を要請、協調姿勢
  • Anthropic 含む他社契約よりも 厳しい安全ガードレール を導入

3つのレッドライン

  • OpenAI技術の大量国内監視 への利用禁止
  • 自律兵器システムの直接制御 への利用禁止
  • 社会信用など高リスク自動意思決定 への利用禁止

他AIラボとの比較

  • 他社は ガードレールを緩和 し、主に 使用規定 に依存
  • OpenAIは 多層的な安全対策 を導入
    • 安全スタック の独自裁量保持
    • クラウド限定展開
    • OpenAI認定技術者 の現場関与
    • 強力な契約上の保護条項

契約内容の詳細

  • クラウドのみ展開、エッジデバイス展開なし
  • 安全スタック の維持と独立検証体制
  • 自律兵器・大量監視 に関する明確な禁止条項
  • 米国法令(DoD指令3000.09等) への準拠
  • プライバシー保護 (米国憲法修正4条等)を遵守
  • 国内法執行利用 も厳しく制限

OpenAI技術者の関与

  • 現場配備のOpenAIエンジニア によるサポート
  • 安全・アライメント研究者 が運用に継続的関与

合意の背景と目的

  • 米軍のAI活用の必要性国際的脅威 への対応
  • 安全対策が不十分な段階では契約拒否、準備期間を経て安全策を確立
  • 国家安全保障とAI研究所間の連携強化 を目指す
  • 全AIラボに同条件適用 を政府に要請、Anthropicとの対立緩和を希望

Anthropicとの違い・比較

  • OpenAI契約はクラウド限定・安全スタック維持 でより強固な保護
  • Anthropicが合意できなかった理由は不明、今後の参加を期待

サプライチェーンリスク指定について

  • Anthropicをサプライチェーンリスクと見なすべきでない との立場を政府に表明

自律兵器・大量監視への懸念と回答

  • 自律兵器への利用不可能 (クラウド限定・安全スタック・契約条項・現行法規による担保)
  • 大量監視への利用不可能 (契約・安全スタック・法令遵守・OpenAI人材の関与で担保)

安全スタックの維持

  • OpenAIは安全スタックの完全制御を保持
  • 安全・アライメント研究者 が継続的に改善

契約違反・法令変更時の対応

  • 契約違反時は契約解除が可能
  • 法令・DoW方針変更時も現行基準に準拠 するよう契約で明記

Anthropicの懸念への対応

  • 大量国内監視は違法・契約で明確禁止
  • 自律兵器はクラウド展開で技術的に不可能
  • OpenAI技術者・安全スタックによる多層防御

Hackerたちの意見

なんか微妙じゃない?ちょっと曖昧な言い回しだと思うけど。OpenAIが自律武器の使用を禁止してるわけじゃなくて、法律や規則、部門の方針に従った使用が求められてるだけだよね。「国防省は、適用される法律、運用要件、確立された安全および監視プロトコルに従って、AIシステムをすべての合法的な目的で使用することができる。法律、規則、または部門の方針が人間の管理を要求する場合には、自律武器を独立して指揮するためにAIシステムを使用しないし、同じ権限の下で人間の意思決定者の承認が必要な他の高リスクな決定を引き受けるためにも使用しない。」ここに同じことが続いてるね。国防省がOpenAIと契約したのは、Anthropicじゃなくて理由があるよね。法律が不十分だってわかってるのに、道徳を法律に委ねるのは「良くないこと」だと思う。「情報活動に関しては、プライベート情報の取り扱いは、第四修正、1947年の国家安全保障法、1978年の外国情報監視法、行政命令12333、そして定義された外国情報目的を要求する国防省の指令に従うものとする。AIシステムは、これらの権限に従って、米国人のプライベート情報を無制限に監視するためには使用されない。また、ポッセ・コミタタス法や他の適用法で許可されている場合を除き、国内法執行活動にも使用されない。」

その通りだね、無法な政権に合法的な目的や方針を決めさせてる。人間の承認って、結局は「はい」ボタンを押すだけのことになるんじゃない?ガザの爆撃でイスラエルの軍人たちがやったみたいに。

OpenAI: 「道徳をAIには不十分な法律に委ねて、私たちの道徳的責任を免れようとしてる。」

国防省は、適用される法律、運用要件、確立された安全および監視プロトコルに従って、AIシステムをすべての合法的な目的で使用することができる。法律、規則、または部門の方針が人間の管理を要求する場合には、自律武器を独立して指揮するためにAIシステムを使用しないし、同じ権限の下で人間の意思決定者の承認が必要な他の高リスクな決定を引き受けるためにも使用しない。国防省の指令3000.09(2023年1月25日付)によれば、自律および半自律システムにおけるAIの使用は、展開前に現実的な環境で意図した通りに機能することを保証するために、厳格な検証、妥当性確認、テストを経なければならない。強調された言葉は、OpenAIが同意したこととAnthropicが望んでいたことの違いだね。OpenAIは、米国政府が合法であれば何でもできるという要求に応じた。Anthropicは、自社製品の使用に自分たちの道徳を押し付けたかった。個人的には両方に同意できるし、Anthropicに対する政府の態度はひどくて、悪意があって、最終的には米国の利益に損害を与えたと思う。

その言い回しは、> OpenAIの技術を自律武器システムの指揮に使ってはいけない とは一致してないね。

いや、これは非常に狡猾で悪質だよ。行政機関が合法だと考えることが、ここでの本当の合意なんだ。トランプは何でも合法だと言えるし、それで終わり。司法の監視もないし、被害を受けている人たちの権利を守る弁護士もいない。トランプはペンタゴンに「ミネソタの全員は潜在的な反乱者だから、愛国者法と反乱法の下で監視しろ」って言える。大量監視には令状が必要ないから、彼らはそれを望んでるんだ。それが「大量」ってこと。令状があると司法の監視が入るからね。Anthropicは、裁判所(FISA裁判所でも!)が令状を出した場合の監視には反対してなかった。トランプはFISA裁判所を通ることすら望んでない。これはサム・アルトマンからの純粋な悪だね。誰かこの人たちの名前を記録してる人いるのかな?忘れ去られるのは嫌だな。アルトマンからザッカーバーグまで、もし正義が勝てば、彼らは報復を受けることになるだろう。

アメリカには自律武器に人間の管理を求める法律ってあるの?それって矛盾してない?

彼らの解決策は、海で失われた戦闘員を撃つことを推奨できるの?これは重要だよ。戦争犯罪の教科書的な例だからね。現政権が何度も自慢してきたことでもあるし。要するに、ここで何が合法かを決めるのは誰なの?OpenAI、国防長官、あるいは裁判官?

ちょっと待って、その契約の一つにはターミネーターを作ってはいけないって書いてある。他の一つには、国防総省の弁護士が大丈夫と言えばターミネーターを作ってもいいって書いてある。これは大きな違いだね。

アメリカ軍は公式に、国際水域での民間人に対する違法な超法規的暗殺を数ヶ月間行ってきた。私たちは、アメリカと国際法に反してジェノサイドを行っているイスラエルに技術や武器を提供している。今、イランに対してもアメリカと国際法に違反する戦争を行っている。こうした勢力に対する援助は、その無法を助長するもので、法治国家の概念を軽視していることを示している。OpenAIが「軍は合法的に行動できる」と言うとき、この軍が形式的な合法性にすら興味がないことを知っているのに、どうしてあなたがこれらの決定に「同意している」と思うのか疑問だよ。他の生活の側面でも、薄っぺらな嘘を信じてるの?

OpenAIは、アメリカ政府が合法的に何でもできるという要求に応じた。Anthropicは、自社の製品の使用に自分たちの道徳を押し付けたかったんだ。「成功率が高いとは言えないことに対して、誰かに製品を売らない」というのがAnthropicの道徳だとしたらどうなる?政府は、文字通り不可能なこと(例えば、暗号の「安全な」バックドア)をすることはできないけど、失敗が予測されていても試みることは合法なんだ。ここで何が起こっているかは分からないけど、そういうシナリオを区別するのに十分な証拠を提供していないから、事実として言うのはかなり誤解を招くよ。

「合法」という言葉がすごく重要な役割を果たしてる。政府が公然と行っている数え切れないほどの違法行為を考えるとね。機密の閉ざされた場所で何が起こっているのか?政府が常に違法なことをしているなら、彼らが法律を守るとは信じられないという道徳的立場と考えることもできるね。Anthropicがそう言ったわけではないけど、私が受け取っている要点はそんな感じだよ。

Hacker Newsで議論の続きを見る