ハクソク

世界を動かす技術を、日本語で。

米軍の指導者たちが「Claude」の安全対策に反対するためにAnthropicと会談

90日前原文(theguardian.com)

概要

  • Anthropicと米国防総省（DoD）のAI利用を巡る対立
  • DoDがAnthropicに政府の条件受諾を迫る
  • AIの軍事利用を巡る倫理的・業界的論争
  • 他社（OpenAI, xAI）は政府条件に同意済み
  • AIの軍事応用が現実化する中での規制・倫理問題

Anthropicと米国防総省のAI利用を巡る対立

  • 米国防長官の Pete Hegseth がAI企業 Anthropic の経営陣と会談
  • DoDが Anthropic CEO Dario Amodei に対し、金曜までに政府条件への同意を要求
  • 同意しなければ 契約破棄や「サプライチェーンリスク」指定 などの制裁を示唆
  • Anthropicは AIの安全性重視 を掲げ、軍による大規模監視や自律型兵器利用に抵抗
  • DoDは Claude （Anthropicの大規模言語モデル）の 無制限利用 を求める立場

AI業界と政府の対立構図

  • AI業界が 軍事利用要請にどう対応するか が焦点
  • OpenAIやxAIは 政府条件に同意し、全ての合法的用途での利用を承認
  • Anthropicのみが 軍事利用範囲に制限を設けている状況
  • DoDは2023年7月に Anthropic, Google, OpenAI と最大2億ドル規模の契約を締結
  • 直近まで 軍の機密システムではClaudeのみ利用可能 だったが、今週からxAIのチャットボットも解禁

政治・倫理的背景

  • Anthropic CEO Amodei はAI規制強化を主張し、関連PACも支援
  • Amodeiは2024年大統領選で Trumpに反対、Anthropicは元Bidenスタッフを複数雇用
  • これが 親Trump系VCの出資撤回 要因になったと報道
  • Pentagon CTO Emil Michael は「政府で稼ぐならガードレールも軍向けに調整すべき」と発言

AI軍事利用の現状と課題

  • 米軍は 無人航空機や自動標的選定システム などAI技術に数十億ドルを投資
  • Claude がベネズエラ指導者Maduroの捕捉支援に使われたと報道
  • ウクライナ戦争 では人間の操作なしで動作する 半自律型ドローン が実戦投入
  • AIによる 殺傷判断の自動化 を巡る倫理的議論が急速に現実問題化

今後の展望

  • AI企業が 軍事利用への抵抗を続けるか、政府条件を受け入れるかが分岐点
  • 米政府とAI業界の パワーバランスと倫理的責任 が問われる局面
  • AI兵器の規制やガバナンス に関する国際的議論の重要性増大

Hackerたちの意見

「しかし今週まで、AnthropicのClaude製品だけが軍の機密システムで使用を許可されていたモデルだった。」知らなかったな。これを聞くと、他の選択肢を考えたくなるね。

└

彼らはいつも自分たちの安全に焦点を当ててるよね。悪い報道が出るまでは、アメリカ軍から手を引かなかったし。いつものことだけど、倫理的な会社じゃないよ。全ての企業が似たようなもんだから、悪いとは言えないけど、彼らが作り出す幻想には目を向けない方がいいよ。俺の投稿履歴を見れば、彼らの怪しさについていつも指摘してるのがわかるよ。

└

これはおそらく、SaaSソフトウェアを連邦規制に適合させ、アメリカ軍が必要とするセキュリティを約束するのが難しくて高額だからだと思う。FedRAMPは厄介だし、LLM製品は新しいものだからね。Anthropicは連邦政府との契約を優先したのに対し、OpenAIやAlphabet、AWSはそうじゃなかったってことを示唆してるね。

└

ちょっと変な感じもするよね。Claudeが機密システムで使用を許可されている唯一のモデルじゃないし、少なくともGrokやOpenAIのモデルも承認されてるからね。 https://devblogs.microsoft.com/azuregov/azure-openai-authori... https://x.ai/news/government

民間企業への政府の介入が増えてるの？この流れが加速してる気がするけど、今後このモデルに従うってことなのかな？それとも、これはいつもあったことで、ただ報道が違ったり、今の状況が敏感な話題にしてるだけなのかな？

└

いや、これは非常に異常だよ。アメリカ政府がインテルの10%の株を取得するのはとても珍しいことだ。国家安全保障が理由で政府が民間機関を国有化した例はいくつかあるけどね：第一次世界大戦の鉄道、朝鮮戦争の製鉄所、そして規模が大きすぎて安全リスクと見なされたCINBなど。この政権は今のところ、盗賊政治のように振る舞っていて、エプスタインのファイルのせいで権力を失ったら多くの人が刑務所に行くから、権力を維持する大きなインセンティブがある。戦争は権力を維持するのに良いし、独裁も権力を維持するのに良い。これはアメリカの歴史の中でも非常に非常に異常なことだよ（30年代に企業が政府を倒そうとした時を除いてだけど、それについてはあまり話さない）。

└

そうそう、政府は彼らのネットワークで使うためにクロード・ゴブに（たくさんのお金を）払ってるよ。私の経験では、彼らは自分たちが購入したものに対して何をしていいか悪いかを言われたくないみたい。こんな制約がある中で契約が成立したのが意外だね。

Claudeが機能を実装する過程で、俺のコードベースの大部分を削除してからまだ3日しか経ってないんだ（うまく動かなかったから、エラーを引き起こすものを全部削除しちゃった）。Anthropicが今の世代に人を削除させないようにしてるのは正しいと思う。

└

残念ながら、もう「アルゴリズムによる死」のルビコンは越えちゃったと思う。アメリカでもね。

└

あなたを責めてるわけじゃないけど、信頼できる存在としてこれらのエージェントを運用している人がこんなにいるのは怖いよね。

└

リモートリポジトリでgit使わなかったの？ それとも、何かの拍子にリポジトリが消えちゃったのか、もしくは、実行する前にフィーチャーブランチにコミットしてチェックアウトしなかったとか？

└

せめて、責任者の入力なしに核を発射することは許可しないでほしいな。

現実でターミネーターのストーリーが展開されるのを見るのが大好きだ。

└

なんかすごいよね…っていうか、バカみたい。今日、ヴォネガットの名言を見たんだけど、「私たちは、自分を救わなかった最初の社会として歴史に名を刻むだろう。なぜなら、それがコスト効果的ではなかったから。」って。

結果がこれだと考えると、ちょっと驚きだよね。 https://time.com/7380854/exclusive-anthropic-drops-flagship-...

└

全く関係ないけど、RSPは彼らの利用規約とは無関係で、高性能モデルの研究とリリースに関することだったよ。

アンスロピックが承認してない目的で使われる気がするし、チャットGPTに敵対的な船を判断させるのが悪いアイデアだってわかったときに、彼らを責めるんだろうな。

└

まさにその通りだよ。すでに起こってることだからね：企業や人々はすぐに「俺たちじゃない、AIのせいだ」って言い出すだろうね。

「人々を守りたい」と宣言する企業があって、その政府の反応が「あなたたちとは協力できない」っていうのは、なんか深刻な問題だよね。アンスロピックが殺人ロボットを拒否したせいで、彼らが助けるべき人々を犠牲にする無数の実用例があるのが信じられない。

└

ある意味、これは誰かにとってセーフガードが機能している証拠だよね。だって、ネット全体にはバイパスが溢れてるし。

└

Axiosの報告に基づく脅威は、もはや「君たちとは協力できない」ではなく、「国防生産法を発動して、企業に軍のニーズに合わせたモデルを作らせる」になってることに注意してね。2023年10月30日、バイデン大統領は国防生産法を発動して、「最も強力なAIシステムの開発者が、安全テストの結果やその他の重要な情報をアメリカ政府と共有することを求める」と言ったんだ。これは「国家安全保障、国家経済安全保障、または国家公衆衛生に深刻なリスクをもたらす基盤モデルを開発する際」に適用されるんだって。

└

軍隊って人を殺すためのもんだからね。

タイムトラベルするロボットとその人間の仲間が、claude（サイバーダイン？ :) ）の決定者たちに会いに行ったら面白いのに。彼らは何に使ってるんだろう？ 精密攻撃のためのターゲット選定とか？ 彼らの主張は、claudeが攻撃を外科的に正確にするのを手伝えば、もっと命が救えるってことになるのかな？

└

彼らがずっと使ってきた目的: > 冷戦時代のコンピュータは、主に軍事的な必要性から動いていて、核兵器のシミュレーションや弾道ミサイルの軌道計算、相互確証破壊（MAD）を支えるための暗号技術に焦点を当てていた。主な用途には、モンテカルロ法を使った水素爆弾の設計モデル（例えば、MANIAC上で）、海軍のNTDSのような防空システム、戦略的計画のための初期のAIが含まれていた。

└

「ターゲティングアルゴリズムを見直して、改善点を提案して。」それか、大規模監視の部分で、「このデータセットを解析して、感情が暴力に向かって急速に変わっている人のリストを作成して。」

正直、これでAnthropicに好感度が上がったわ。約10年前のApple対FBIの頃を思い出すね。

└

勝ってる。まだ終わってないし、裏で何が起こってるのか全然分からないけど、それでも今の社会の一部になっている感じがする。

昨日、期限切れのナチョディップが食べられるかどうかを調べようとして、ボツリヌス菌がどれくらい毒性があるかを知りたくてClaudeに聞いてみたんだけど、その質問には答えてくれなかった。今のセーフガードが制限されてるのがわかるよね。