ハクソク

世界を動かす技術を、日本語で。

テクノロジー企業は監視を強要されるべきではない

89日前原文(eff.org)

概要

  • Anthropic は米国防総省から制限なしのAI技術提供を要求されている状況
  • 同社は 自律型兵器や監視 への利用を明確に拒否
  • 国防総省は 「サプライチェーンリスク」 指定で圧力をかけている
  • 2026年初頭、Palantirとの協業でAIの不適切利用疑惑が浮上
  • 倫理原則の堅持 が社会や顧客から強く期待されている

Anthropicと米国防総省の対立

  • Anthropic はAI技術の利用範囲に明確な制限を設けている企業
  • 自律型兵器システム と 監視 への利用は、公式に「絶対に許容しない」と宣言
  • 2026年1月、 Palantir との協業の中で、AIがベネズエラ攻撃（1月3日）に使われた疑惑が発生
  • CEOの Dario Amodei は「自律兵器と監視は越えてはならない一線」と再度表明
  • 米国防総省は、制限を撤廃しない場合 「サプライチェーンリスク」 指定を示唆
  • この指定は、中国など連邦機関が警戒する国と取引する企業に適用される「烙印」
  • 指定されると、 Pentagon はAnthropicのAIを使う企業との取引を停止

Anthropicの倫理的立場と社会的責任

  • 2025年、 Anthropic は機密情報の取り扱いが認められた初のAI企業となる
  • しかし、 倫理原則 を守る姿勢を崩さず、政府の圧力にも屈しない方針
  • 企業の 人権や市民的自由 への配慮は、利益や政府圧力で簡単に妥協すべきでない事項
  • 顧客、エンジニア、社会 は、Anthropicが原則を貫くことを強く期待
  • 技術企業は「監視の道具」になることを拒否する姿勢が重要

まとめ

  • Anthropic はAI倫理の「赤線」を守り続けるべき立場
  • 政府の圧力や契約打ち切りの脅しに屈しない姿勢の重要性
  • 他の技術企業にも 倫理的自律 の模範となる行動が求められる

Hackerたちの意見

イラク戦争の頃、政府がプライバシーを侵害していたとき、テック企業はアメリカ国民の味方だった。彼らは第4修正条項を守るために戦った。でも今はすべてが変わってしまった。アンソロピックを除いてね。今のアップルが違法な司法省の要求に立ち向かうと思う？絶対に無理だよ。ティム・クックはアップルの評判を燃やしちゃった。25年間ずっとアップルのヘビーユーザーだったけど、もう限界だ。信頼はすっかり失われた。頑張れアンソロピック、君たちは本当に原則と信念を持っている数少ない大手SV企業の一つだ。ここで何が起こるか、どちらに転んでも忘れないからね。

└

アンソロピックについての判断は、金曜日以降まで待った方がいいと思う。公の場で「建設的な対話が誠意を持って行われている」と主張して、他に何も言わないのが本当に信念を示しているのかは疑問だし、政府関係者の前後の発言を考えると、あまり自信を持てないよね。正直さや透明性に対する信頼感は全然ないし。

└

「テック企業はアメリカ国民の味方だった」って？彼らはお金を稼ぐことが目的だよ。大きくなればなるほど、プレッシャーも増すしね。今の大手テック企業は、成長率を維持したいなら、テーブルの上にお金を置いておく余裕なんてないんだ。

└

2000年代初頭のテック企業は、テクノロジーがダメ人間のためのもので、時間の無駄だと思って育ったオタクたちだった。彼らは強い価値観を持っていて、楽しんでやってたし、自分たちみたいなオタクがかっこいいものを持てるようにしたかったんだ。今はMBAや縁故主義に支配されてる。ほとんどの人は、すぐに金を稼ぐためにテックに入る。価値観を持つことは損だと思われてる。だって、10億稼げるなら、なんでそうしないの？金持ちなら無敵だし、そういうデメリットは自分には関係ない。みんなのことなんてどうでもいい。気に入らなければ、自分もビリオネアになれるんだから。だから今の若者たちは、ユナボマーみたいな人がいいこと言ってるってミームにしてるんだ。

└

イラク戦争の頃、政府がプライバシーを侵害してたとき、テック企業はアメリカ国民の味方だった。彼らは第4修正条項を守るために戦ったんだ。https://en.wikipedia.org/wiki/PRISM PRISMは2007年、イラク戦争の時に始まった。

└

イラク戦争の頃、政府がプライバシーを侵害してたとき、テック企業はアメリカ国民の味方だった。具体的にはどの会社？

└

Appleやティム・クックへの批判は根拠がなくて誤解を招くよ。同じティム・クックがFBIに立ち向かって、2015-2016年に彼らのために電話をハッキングするのを拒否したんだ。政府がiCloudでのドキュメントスキャンを強制しようとしたときに戦ったのも同じAppleだよ。彼らはずっと戦ってきた。Appleは商業用マシンで全ディスク暗号化を最初に普及させたし、Safariを政府による追跡に対抗する武器にしたんだ。アメリカのすべての企業は国家安全保障令の対象で、Appleは法律の範囲内で公に情報を知らせるためにワラントカナリーを使ってる。そして、Anthropicに訴えるのは、ただの無知で攻撃的だよ。

└

その主張を何かで裏付けられる？Appleが従った違法なDoJの要求って何？AnthropicはAppleの約50年の歴史に比べたらまだまだ初期段階だから、同じ土俵で比較するのは無理があるよ。

└

それは今日、すべて変わったよ。エピソードとして、サンバーナーディーノの暗号化問題の時にAppleの上層部の人たちを何人か知ってたんだ。私の理解では、クパチーノは、トップまで驚いてたみたいで、彼らが自然な反応だと思ってたことに対して、どれだけの反発があったかに驚いたらしいよ。（解除しないっていうことにね。）

└

アンスロピックは人々の味方じゃない。こういう会社はどれもそうだよ。彼らはLLMの能力を制限したいってはっきり言ってる。これらの会社は、安全性や知的財産を口実にして中央集権を進めてる。でも、ちょっと考えれば、彼らが言ってるのは「俺たちのための知性、君たちのための知性はなし」ってことだよね。少数の団体がすべての知性をコントロールする世界には住みたくないし、君もそう思ってるんじゃないかな。私たちが望む最良の未来は、みんなが自分のゲーミングPCでオープンソースのAGIを動かせる世界だよ。ここで言う「動かす」ってのは、リモートサーバーへのAPIコールじゃなくて、ローカルでのマトリックス計算のことね。

└

秘密の裁判や秘密の判決ってのもあるんだよ。私たちはこの秘密のせいで実際に何が起こってるのか全くわからない。公にされていることについてしか話せないんだ。

テック企業は、世界の情報を自分たちが管理するサーバーに暗号化せずに集中させないように、もうちょっと頑張るべきだと思う。

└

その通り。でも、そうすると彼らは私たちのデータを売って何十億も稼げなくなるからね。

└

おっと、偶然の監視マシンだね。

└

え？それってほとんどすべてのテック企業のライフサイクルの重要な部分じゃない？モービルにガソリンや石油を売るなって言うようなもんだよ。

余談だけど、政府が自分ではできないことを他の団体にお金を払ってやらせるのが法律で禁止されていないのはおかしいよね？特にモバイルアプリの位置情報データについて考えてるんだけど。

└

それは「第三者ドクトリン」と呼ばれる、最高裁の先例によるものだよ。https://en.wikipedia.org/wiki/Third-party_doctrine

└

ソーシャルメディアをやめて、昔ながらのやり方でやらせようぜ。

└

政府がその対象が単なる操り人形だってことをあからさまにしているなら、何か対策ができるはずだよ。名前以外はすべて政府機関のような存在は、政府機関と見なされて、関連する制限の対象になることができる。これに関しては fancy-ass なフレーズがあるけど、今は思い出せないな。あと、サードパーティドクトリンは、少なくとも過去30年、もしかしたら100年近くは十分じゃなかった。権威主義者は抑圧の道具から簡単には離れられないから、私の生きているうちにその規制の束が実際に保護的に更新されることは期待できないね。

└

なんで自分たちができない行動を契約することが許されるの？それが令状があっても？それって結局「行動する」ってことじゃないの？

└

なんで政府が自分ができないことを他の団体にやらせるためにお金を払うことが法律で禁止されてないの？令状なしで。今のアメリカの平均的な人は自由よりも安全を重視してると思う。ケーブルニュースや今のソーシャルメディアの現実は、未解決の犯罪が国全体の不安を引き起こすってことだよね。みんながそんな集団パニックに陥ってる時に、警察が助けになるかもしれないものにアクセスできないなんて、明らかにおかしいよね。

同意だけど、恐ろしいほど多くのテック企業がセキュリティがゴミみたいだから、いじめる必要がないことが多いよね。

テック企業は監視を行うべきじゃない。

監視を強要されてるって？兄弟、テック企業の評価の大部分は、政府が監視をしたいときにどれだけ協力するかで決まってるんだよ。彼らはいじめられてる被害者じゃない。みんなこの日が来るのを知ってたし、ほとんどはそれを楽しんでたよ。

└

テック企業：「ついに、クラシックSF小説『トーメント・ネクサスを作るな』からトーメント・ネクサスを作りました！」政府：「なんでそれを自分だけのものにできると思うの？」

愛国者法やデータ分析サービス（DAS）プログラムなんかは、政府が監視を利用するいい例だよね。もし君が国を守る政府の立場だったら、独立した考えを持つ人たちを自分たちから守るためにどうする？

テック企業が存在する理由は、単に君の便利さのためじゃないんだ。彼らは君に請求する方法を見つける必要があるから、まずはテレメトリを集めるんだよ。もし彼らのサービスがバックエンドからのマルチテナントの状況なら、騒がしい隣人問題や、雷鳴の群れ、悪用検出に対処しなきゃいけない。製品がプログラム可能であればあるほど、これらのツールの影響は大きくなるし、いつかは国家の注目を集めることになる。テック企業は脅されているわけじゃないし、ここでの被害者は君なんだ。最初は魅力的な無料プランで引き込まれて、時間が経つにつれてロックインされる。で、避けられないことが起きたとき、君は1) 移行を考えるか、2) 自分が快適だと感じる程度でベンダーロックインを受け入れるかのどちらかだよ。

脅されてる？過去15～20年の間に見てきた状況を考えると、偽の脅迫者（『ゴッドファーザーII』のマイケルが上院公聴会で）か、約束を果たすだけだったと思う。どちらにしても、ビジネスなんだよね。

問題は、テック企業が悪いことを強いられることじゃなくて、政府機関がそれをできることなんだ。プレイヤーがチートしちゃいけないって話と同じで、ゲームのせいじゃなくて、間違った行動をするプレイヤーのせいなんだよ。だから、行動する側の責任を探るべきだね。