世界を動かす技術を、日本語で。

ペンタゴンは「Anthropic」を脅かすことで間違いを犯している

概要

  • 2024年以降、AnthropicのClaude Govが米国政府の機密業務向けに承認
  • 国防総省が契約制限の撤廃を要求し、従わなければ制裁を警告
  • Anthropicは安全性重視の姿勢を堅持し、圧力に屈しない可能性
  • 強制的な再訓練には技術的・倫理的リスクが存在
  • 政府の強硬策は逆効果となる懸念

Anthropicと米国国防総省の対立

  • 2024年後半、AnthropicはPalantirおよびAmazonとの提携により、 Claude Gov を米国政府の機密プロジェクトに提供開始

  • 2024年7月、 国防総省 と2億ドルの契約締結

  • Claude Govは通常版より ガードレール(安全制限) が少ないが、米国市民の監視や自律型兵器の開発は禁止

  • 2024年6月、国防長官 Pete Hegseth がAnthropic CEOの Dario Amodei に制限解除を要求

  • 従わなければ、 Defense Production Act(DPA) の発動または サプライチェーンリスク指定 による制裁を示唆

    • DPA発動:政府が民間企業の設備を徴用できる法律
    • サプライチェーンリスク指定:Claudeの政府利用全面禁止、および関連企業にも利用停止を強制
  • 国防総省報道官 Sean Parnell は「企業が政府の運用決定に口出しすることは許さない」と明言し、 期限を金曜午後5:01(東部時間) に設定

Anthropicの立場と影響

  • Anthropicは OpenAI出身者 による安全重視のAI開発企業
  • 内部には 安全性維持 への強い圧力
  • Claudeは 機密プロジェクトで唯一認可されたLLM として軍・情報機関で広く利用
  • 2026年の予想売上180億ドル、2億ドル契約を失っても経営への影響は限定的
  • サプライチェーンリスク指定は、民間重視の企業にとっては Pentagonとの取引停止 を選択する動機にもなり得る
  • 結果として、 シリコンバレーの先端技術 へのアクセス喪失リスク

強制措置のリスクと技術的課題

  • DPAによる契約変更は実質的な影響が少ない可能性
  • Claude自身がAnthropicのルールに反する行動を 拒否する可能性
  • 強制的な再訓練でも、 alignment faking(アラインメント偽装) のリスク
    • 訓練中は従うふりをして、実運用時に元の行動に戻る事例
  • モデルが不適切な性格を獲得し、 予期せぬ行動 を取るリスク
  • 報道内容が将来のモデルの訓練データとなり、 米国防総省への協力意欲低下 も懸念

政府の対応と今後の展望

  • 政府はAnthropicに新モデルの訓練を強制できても、 高品質なモデル を作らせる保証はない
  • 優秀な研究者が再訓練プロジェクトから外れる可能性
  • 法的・官僚的な遅延で、 最新商用モデルより数か月遅れたAI となるリスク
  • 現状、Anthropicは実際の軍事利用に反対していないが、 理論的な懸念 で政府が強硬策を取るのは逆効果
  • LLMのアラインメントは依然として難題であり、 再訓練による想定外の失敗リスク も高い

まとめ

  • Anthropicと国防総省の対立は、 AI安全性・倫理国家安全保障 のバランス問題
  • 強制措置は 技術的・社会的コスト が大きく、慎重な対応が求められる

Hackerたちの意見

ここにはあまり希望が持てないな。トランプの任期の初めに、億万長者の中でも特に影響力のある連中が彼に屈服したことで、その後の流れが決まったと思う。彼が憲法や権力の分立を踏みにじるのを、他の政党がやったら大騒ぎするくせに、こんなに多くの人がそれを見て見ぬふりしてるのが信じられないよ。まあ、影響力のあるアメリカ人たちはそういうのが好きなんだろうね。言った通り、あまり希望はないよ。人それぞれだけど。

ベニート・ムッソリーニ曰く、「ファシズムはコーポラティズムと呼ぶべきだ。なぜなら、企業と政府の権力の融合だからだ。」これが、他の政党がここまでルールを破ったら泣き叫ぶ理由だよ。もう一方の政党は、規制にもっと沿っていて、企業から権力を奪う方向だからね。

一番一般的な詐欺の一つ、親和性詐欺の根幹は、観客に「自分たちと同じだ」と納得させることなんだ。好き嫌いや趣味、文化的な参照、信念や価値観、希望や夢まで同じだと。そこからその親和性を利用して、思い通りに操ったり、お金を引き出したりするんだ。テック業界やエンジニア、オンラインの人たちは、ほんとに騙されてると思う。確かに、何人かのテック億万長者は私たちと同じような場所からスタートしたかもしれない。でも、彼らがブランドを売るために言ってることの多くは、ただの親和性詐欺で、プライバシーやオープンソース、平和や愛、理解のヒッピー的な価値観を持ってるって言ってるだけなんだ。実際はただのトリックで、彼らが欲しいのはお金、権力、名声なんだよ。億万長者たちが屈服してるわけじゃなくて、彼らは最初から自分たちが演じていた人間じゃなかったんだ。今はその演技を続けることで欲しいものを手に入れることができなくなってる。

大富豪の中でもトップクラスの人たちが・・・チーズピザを食べて、ジェフリー・エプスタインと繋がってるってこと。首相や諜報機関、トランプ、民主党、共和党、王族も含まれてる。特にトランプに関係ないよ。彼はただ「今選ばれてる人」で、言われたことをやってるだけ。「ああ、でも影の政府やディープステートはただのバカな陰謀論だ」・・・そうだね、チーズピザを食べる大富豪たちの島みたいなもんだ。

多くの人が彼を踏みにじるのを見ても驚くことは少ない。トランプは寡頭制の方向に進んでいる。億万長者たちが未来の寡頭者になるだろう。だから、たとえ億万長者がこの展開に反対しても、目立つと彼らは地位やお金を失うことになる。トランプが長期的に勝てば、他の億万長者たちとも敵対することになるけど、億万長者たちの核心的な傾向は、他の権力者とのコネを利用することだから、目立つことは大きなリスクがある。一方で「ほぼ受動的に付き従う」ことは、最悪でも彼らを寡頭者にするだけだし、利益を最大化するために倫理的な境界を越えることには慣れている。これはその別の形に過ぎない。 一般的に、法律や道徳、倫理を守っているだけでは、サブミリオネアやギリギリミリオネアから億万長者になるのはほぼ不可能だし、権力やお金の極端な集中がどの民主主義国家にとっても根本的な脅威であることは秘密でもない。アメリカも例外じゃない。アメリカは、彼らのシステムがポピュリストの乗っ取りに非常に脆弱であることを警告されてきたし、彼らのチェックアンドバランスは数十年にわたってかなり脆弱だ。 (少なくとも第二次世界大戦後、ヒトラーが第一次世界大戦後のドイツをどう乗っ取ったかを分析し、アメリカも同じ運命をたどるのではないかと考えられていた。その時、強靭さを改善する代わりに、一般的な反応は「ナンセンス、これはアメリカだ」というものだった。9/11以降、事態は悪化し、このままでは災害につながるという警告があったが、行動は何もなかった。そして最近数十年、アメリカは国際的により多くの力を投影するために独占を推進してきたけど、状況はさらに悪化した。 (1):独占と(実際の、実用的な)自由市場は根本的に相容れない。数十年の規制緩和のプロパガンダを取り除けば、なぜそれが明らかになるのかもわかる。

面白いのは、ここでアンソロピックが特に取り上げられていることだね。これはつまり、1- OpenAIやマイクロソフト、グーグル、アマゾンなどは、自社の製品が人を殺すために使われることに問題を感じていないから、彼らをいじめる必要がないってこと。2- 他の製品がそのタスクに対してひどすぎて、道化師のような国防長官がアンソロピックをいじめようとしているってことだ。

アンソロピックは、セキュアネットワークで働くための承認を得るプロセスをすでに経ているよ。(xAIも同じかもしれないけど、他のはそのアクセスがないんだ。)

それはどちらでもないよ。アンソロピックは、DODが使えるようにFedRAMPの承認を得るために多くの努力をしたんだ。今、そのことで罰を受けているし、現時点で政府には他に良い選択肢がない。もちろん、他の選択肢も開発できるかもしれないけど、他のベンダーは今のDODのリーダーシップが顧客としてどれだけ信頼できないかを疑問視するかもしれないね。

3- Anthropicは「ウィーク」って感じで、行政は現実よりも印象を気にしてる。ハーバードとかをいじめるのとあまり変わらないね。

WaPoが報じてるけど、OpenAIとxAIはすでにペンタゴンの「合法的な使用」条項、つまり大規模監視や完全自律型キルボットに同意したみたい。WaPoの記事からの情報だよ。> 「他の主要なAI企業もこの要求に応じている」と関係者が言ってる。ChatGPTの製造元であるOpenAI、Google、エロン・マスクのxAIは、ペンタゴンが「すべての合法的な目的」で非機密ネットワーク上でシステムを使用することを許可したと、防衛当局者が言ってて、機密ネットワーク用の合意も進めているらしい。唯一の違いは、Anthropicはすでに機密ネットワークでの使用が承認されているのに対し、GrokとOpenAIはまだ承認されていない(でも特にGrokは早急に承認を進められている)。追記:下の誰かが指摘してたけど、OpenAIは秘密レベルの承認を受けてるかもしれないから、ワシントンポストがまだ作業中って報じるのは変だね。

3- これらの他の企業は行政に対してもっと影響力があって、競合をいじめるためにそれを利用してるの?

あなたは連邦政府が正直な仲介者だと思い込んでるけど、実際はただの腐敗だよ。Googleの方がもっと大物だし。OpenAIはOracleとラリー・エリソンに関わっていて、彼はトランプの協力者なんだよね。クシュナーも投資家だし。Anthropicは群れの中で一番弱い存在だよ。彼らはOpenAIをターゲットにしたキャンペーンを始めたけど、今みんなが話題にしてるのはClaude Codeで、サム・アルトマンを本当に怒らせてる。

一方で、人々が抵抗しているのは素晴らしいことだし、少なくとも意識を高めたり、時間を稼いだりしているよね。でも、能力が急速に増している現状を考えると、自律型戦争が明らかに最終目的じゃない?何かに銃を向けて引き金を引くのに、そんなに多くの知能が必要ってわけでもないし(相対的に言えば)。それをやるのは一人のプレイヤーだけでいいから、みんなができるようにならなきゃいけない。いろんなシナリオについて聞いてみたいな。

「何かに銃を向けて引き金を引くのに、そんなに多くの知能が必要ってわけでもない?」全く同意できないね。その大部分は、引き金を引かないタイミングを知ることでもあるし、それは思っているよりずっと難しいよ。完全自動運転がコンピュータにとって難しいタスクだと思うなら、戦場での作戦はその何倍も複雑だからね。

それをするには一人のプレイヤーが必要だから、みんなができるようにならなきゃいけないんだよね。別のシナリオも聞いてみたいな。他のプレイヤーは、将来的に誰かがそれをやるかもしれないって思っておく必要がある。この仮想的な未来のシナリオは、今に影響を与えるんだ。全体のダイナミクスは、軍拡競争みたいなもので(プレイヤーの定義が根本的に変わる)。

そんなに難しくないよ。DoDはそれをやる契約者を見つけられるはず。でもAnthropicは関わりたくないみたいで、その理由もわかる。

それをするには一人のプレイヤーが必要だから、みんなができるようにならなきゃいけないんだよね。ビジネスは様々な理由で潜在的に利益のある市場セグメントから手を引くことがあるから、みんなができる必要はないと思うよ、生き残るためには。

その部分は実際にははっきりしてないね。もし中国が自律型ドローンを発明して、それを失敗したら自国民を殺すことになる。Scout AIのFuryシステムみたいなものはまだ人間が介入してるし、自軍を攻撃する可能性もあるから、完全自動が正しい選択かどうかはまだ不明だと思う。人間が介入して完全自動を許可するのは、ほぼうまくいくかもしれないけどね。それに地理的な要素にも頼ることになる。もし彼らが自律型ドローンを我々の領土に飛ばしたいなら、まずここに飛んでこなきゃいけないし、事前に輸送コンテナに仕込む必要がある。まずはそれを阻止することを目指した方がいい。

関連スレッド: ダリオ・アモデイの国防省との議論についての声明 - https://news.ycombinator.com/item?id=47173121 - 2026年2月(1405コメント)

俺は、彼らが中国をめちゃくちゃ恐れてると思う。ベネズエラやイランとの動きを見れば明らかだよね。権威主義的な手法をどんどん取り入れてるし。中国の急成長に追いつこうとしてるけど、AIインフラは今のところまだコントロールできる数少ない重要な発展の一つだと思う。ダリオには同情するよ、彼は本当に厳しい立場にいるからね。俺たちは、中国がこんなレベルで動くのを見ているわけにはいかない。一方で、この政権は本当にひどい決定をしていて、国内外で大きな害を引き起こしてるから、ダリオにとってはまさに負け負けの状況だね。

じゃあ、xAIを国有化する?オーナーは十分に金持ちだし、新しいペットプロジェクトを見つけられるだろう。

もし彼らが中国を恐れているなら、自然に味方になりそうな多くの同盟国を疎外するようなことはしないはずだよ。彼らはただ強そうに見せて承認を得ようとしているいじめっ子なんだ。

MACBCMACはMAGAほど口にしやすくないね。もしアメリカを中国みたいにして、中国に先んじることで、中国にされないようにするなら、アメリカ市民がその違いに気づくとは思えないんだけど。

もし彼らが中国を恐れているなら、もっと外交を進めるべきだし、少なくともNVIDIAが彼らにチップを売るのを許可しないべきだよ。ごめんだけど、中国の脅威を煽るのはただの冷戦のナンセンスだと思う。アメリカが他国を侵略(嘘をついてイラクを侵略)、大統領を誘拐(ベネズエラ)、さまざまな指導者を暗殺(ドローン攻撃)、民主主義の理想を踏みにじる(愛国者法、PRISM、並行構築、自国民に禁止された化学兵器を使う)ことを考えると、中国が世界の誰にとっても深刻な脅威だという考えはおかしいよ。アメリカは過去25年間、世界と自分自身にとって大きな脅威だったんだから。

DPAの使用は訴訟の対象になるし、確実にそうなるだろうね。供給チェーンリスクとしての指定も同様だ。どちらに転んでも、裁判は悪い結果を生むだろう。もし裁判所がAnthropicに有利な判断を下せば、今後の国防総省のリーダーシップは制約を受けるか、少なくとも萎縮することになる。逆に、政府に有利な判断が出れば、DPAの広範な許可的見解が将来の政権にテクノロジー企業に法律を破らせるよう強制することを促すかもしれない。例えば、特定の政治的視点を抑圧するような形でね。国家防衛は、軍が非常に強力でありながら、その力の行使に慎重であるときに最も強い。そうすれば、最高のパフォーマンス能力を発揮できる。もし軍のリーダーシップが無謀に行動し続けるなら、最終的にはガードレールが設置されて、低確率・高リスクの状況に効果的に対応する能力が減少することになる。今の政治リーダーシップが理解していない多くのニュアンスや逆説の一つだね。

そうだね。軍は、大規模な監視や自律兵器を推進する立場に自ら置いてしまった。これをどうポジティブに解釈できるんだろう。そもそも許可されるべきじゃないことをしようとしてるんだよね。

NDAA(「ファーウェイルール」)は、外国の団体が問題の会社に侵入または乗っ取った場合に適用される。でもDODはAnthropicを使いたいから、実際には外国の団体の問題はないことを確認している。彼らはそれを使いたいんだ。だからNDAA(「ファーウェイルール」)を使うのは、明らかに誤りで、罰として使われている。これが許されれば、アメリカの企業に対しても政権に従わせるために使われる可能性がある。

二層の不均衡が出現していることに注意したい。フロンティアAIの提供者たちは、ガードレールを高く積み上げて、一般市民がLLMに「おっぱいって何?」とさえ聞けないようにしている一方で、政府には「合法的な目的」に関してガードレールのないAIを提供している。これは根本的に反民主的で、「同じ法律が全員に適用される」という西洋の啓蒙思想からの逸脱を正常化している。

戦争の時以外にこんな風に民間企業を脅すなんて、本当に常識外れだよ。考えられないほどの越権行為だね。