ハクソク

世界を動かす技術を、日本語で。

独裁者のためにスパコンを構築することは、民主主義にとって好ましくないおそらく理由

351日前原文(helentoner.substack.com)

概要

OpenAIは「OpenAI for Countries」イニシアチブを発表し、UAEとの大規模AIデータセンター建設を「民主的価値観に根ざす」と説明。 UAEは国際的な評価で民主主義とは程遠い体制。 OpenAIはこの取引を民主主義の促進と主張するが、実態は権威主義国家へのAIパワー移転。 AIインフラは今後の国家権力の中核となる重要資産。 OpenAIの「人類全体への利益」ミッションと現実のギャップが浮き彫り。

OpenAIとUAEのAIデータセンターパートナーシップの実態

  • OpenAIが「OpenAI for Countries」構想を発表し、民主主義的AIインフラ普及を掲げる
  • Stargate計画の一環として、米国内外で巨大AIデータセンター建設を進行
  • 直後にUAEとの大規模AIデータセンター建設パートナーシップを発表
  • OpenAIはこの提携を「民主的価値観に根ざす」と説明
  • UAEはFreedom Houseの2024年報告で18/100点、著しく非民主的評価
  • 世襲君主制による権力独占、政党禁止、実質的な議会権限なし
  • 政府批判・人権擁護活動家の投獄・家族への弾圧、報道・教育の検閲
  • 労働者の9割が政治権利を持たない移民、現代奴隷制の指摘
  • OpenAIの「民主主義推進」主張と現実のギャップが明白

OpenAIの主張とその問題点

  • OpenAI幹部は「民主的価値観を持つAIの普及が急務」と強調
  • アメリカAIを広めることで民主主義が拡大するという論法
  • 「米中AI競争でアメリカが勝つことが民主主義の勝利」とする議論
    • だがUAEのような権威主義国家にAIインフラを供給する矛盾
  • ChatGPT全国展開の意義も不明確
    • 実際には他の米国AIサービスも既に利用可能
    • UAEでのChatGPTが検閲や自己規制の対象となる可能性

国家権力とAIインフラの関係

  • AIスーパーコンピュータは今後の国家権力の重要資源
  • UAEは今回の取引でAI分野での国際的地位を大幅に強化
  • データセンターの所有・利用権は不透明だが、UAE側が実質的なアクセスを得る見通し
  • 米国・中国以外の権威主義国家がAIパワーを獲得することの地政学的インパクト

現実的な視点とOpenAIのミッションとの矛盾

  • 米国は安全保障上、湾岸諸国と歴史的に協力関係
  • だが今回の取引はUAE王族にとって受け入れ可能な条件でのみ成立
  • 「人類全体の利益のためのAI」というOpenAIの理念と現実の乖離
  • 強力なAI技術の管理権が誰に帰属するかは文明的課題
  • 既存の権力格差や権威主義体制の強化を招くリスク
  • OpenAIがStargate UAEを「民主化プロジェクト」として喧伝する姿勢の表層性

結論

  • OpenAIのUAEデータセンター提携は、民主主義推進というより権威主義国家へのAI資源供与
  • AIインフラが国家権力の中核となる中、誰がその恩恵とコントロールを得るかが重要課題
  • OpenAIの「人類のためのAI」ミッションの実現には、より誠実かつ透明な議論が不可欠

Hackerたちの意見

誰が「責任者」なのかはっきりしないけど、実際、誰も気にしてないんじゃないかな。それがポイントかもしれないね。

LLMの主な役割が、社会に発信されるメッセージの力を増幅することだってことは、明らかだと思ってたんだけど。一般の人たちは、ほとんどが人間じゃないコミュニケーションややり取りに厚い毛布のように包まれてるんだよね。インターネットをコントロールする唯一の方法は、結局、情報をかき消すことだってことだね。

└

自分の知識や想像力にそんなに自信を持って、LLMの主な役割が何かを明らかに思うなんて想像できないよ。1780年に人々は蒸気機関の主な役割が何だと思ってたんだろう？

└

LLMの主な役割が、社会に発信されるメッセージの力を増幅することだってことは、明らかだと思ってたんだけど。これ、よく見るけど、全然明らかじゃないよ。俺はかなりの内向的なんだ。君は自分を同じか反対だと思う？ > 一般の人たちは、絶対に包まれてる。俺は特定の出版物を読むことが多くて、オンラインで「交流」しようとはせず、ソーシャルメディアは完全に避けてる。ソーシャルメディアが存在する前は、これが普通だったんだ。LLMの過剰使用が人々をより原始的なネットワークの使い方に戻すとは全く疑わないの？ > インターネットをコントロールする唯一の方法は、結局、情報をかき消すことだってことだね。でも、法律を操作することに関しては、全くお金を惜しまないのを見てるよ。「一般の人たち」を攻撃するだけじゃないみたいだね。

└

hoi polloiが大衆を指しているなら…いや、違うね。人々は商業的なやり取りにはそれを使うかもしれないけど、明らかに社会的な交流への欲求が満たされていないから、これが人々をソーシャルメディアに引きつけている一因なんだよね。エリートを指しているなら、それも違う。彼らはすでに人々をバッファーとして使っているし、十分に裕福なら今後もそうするだろうね。

└

自分の懸念の本質をうまく捉えてくれてる。特に、ここで使われている「力の倍増器」という用語が気に入ったよ。

└

この考えには賛同できないな。メディアはすでに個人が管理できる範囲を超えたクソみたいな情報で溢れているし、平均的な注意力はすでに限界に達してる。AIが生成したゴミをその山に追加したところで、あまり変わらないと思うよ。> インターネットを制御する唯一の方法は、それをかき消すことだってことが分かったんだ。インターネットを制御する方法は、実際に制御すること、つまり政府がすでにやっていることなんだよ。

記事がアメリカの独裁者じゃなくて、湾岸の君主制の独裁者について話してるのを見逃してたわ。それはすごくシンプルだよ。まず、信頼しているサウジの投資家にグラフィックカードを売るのは、Nvidiaにとって素晴らしいアイデアに見える。次に、湾岸の君主たちはアメリカに依存していて、イスラム革命を避けたいと思ってる。最後に、データセンターを太陽光発電で動かすことを期待してる。ユーザーを追跡するの？もちろん、GCHQやNSAは地元の法律を回避するための情報共有契約を結ぶことができる。ここに新しいことは何もないよ。ただ、どんなSAASサービスにも自分の考えを預けない方がいいね。

└

でも結局、HNは小さなバブルで、外にいる多くの人はあまり情報を持ってないし、便利さのためにプライバシーを犠牲にする人も多いと思う。誘惑がそもそも存在しない方が、ある意味では望ましいかもね。

└

自分の考えを信じない方がいい。 でも、もう少し陰湿なことだよね？彼らは俺の購入履歴、住所履歴、電話のメタデータを持ってるし、今やDOGEで多くの連邦データも持ってる。俺の利益に対して敵対的であるために、ツイッターのフィードは必要ない。 > どんなSAASサービスにも。彼らは狂ったようにウェブをスクレイピングしてる。君の周辺はSAASよりもずっと広いと思うよ。

オーウェルの1984年の中心的なアイデアは、みんなの家にあるテレビが常に見ていて、その背後にいる誰かが何を見ているのかを理解しているってことだったよね？その最後の部分はディストピア的だと考えられてた。全ての人を一日中見て理解するほどの人がいるわけがないから。さらに、誰が監視者を監視するの？1984年はただの怖いファンタジーで、実現する実用的な方法はなかったんだ。でも、歴史上初めて、新しいLLM/GenAIが1984年のその部分を現実的にしてしまった。危険な考えを早期に警告するためには、家庭ごとにGPUが必要なだけで、それはすでに実現可能か、すぐに実現するだろう。家庭に割り当てられる計算能力が少なく、基本的で貧弱な知能しか動かせないことは実は完璧なんだ。AGIは理論的には対立側に立って両方の意見を聞き、大きな出来事の全体像を調べることができるけど、単一のトラックのLLMエージェントにはそれができない。OpenAIやAppleを含む少なくとも6社が、最新のGenAIをバックエンドに持つ常時監視デバイスの開発に取り組んでいると報じられている。最近の生活全体を監視することは、単一のフレーズから意味のある支援をするために十分なコンテキストを持つために必要なんだ。誰に投票するか、どの抗議に参加するかを知るのも、発表される前にわかるし、どうやって脅かして参加しないようにさせるかもわかる。違いは、釘を打つ道具と殺人武器の違いみたいなもので、どちらも同じハンマーだよね。TikTok-Chinaキャンペーンの時、LGBTの人たちが、TikTokがどれだけ早く自分の性的嗜好を見抜いたかを報告する動画がたくさんあった。動画を「いいね」したり、誰かをフォローしたり、トレース可能なプロフィール情報を一切提供せずにね。若者が自分でそれを認める前に、TikTokはユーザーが何を見ているか、どれくらいの時間見ているかを見て判断する。男の子のジム動画に多くの時間を費やすか、女の子の動画に多くの時間を費やすか、それだけで十分なんだ。これがアメリカ人がアプリの使用から中国がどれだけのことを見抜けるかを怖がらせるために使われたと思う？もしそれが誰かを怖がらせるなら、こういうのはどう？LLMバックエンドのデバイスは、どのテレビ番組を見ているか、どの部分で笑ったか、隣の人にどんなコメントをしたかを見るだけで、もっと多くのことができる。おそらくマルチモーダルである必要もないし、字幕や音声合成だけで十分だと思う。次の権威主義に反対するあなたの意志は、自分で認める前に見抜かれるかもしれない。ヘレン・トナー（著者）は、地球の反対側にある民主主義について心配しているけど、民主主義の拠点はオーウェル的な社会の最初の実用的な実装を達成するための最後の2ステップに近づいているかもしれない。1. みんなが自分のためにそのデバイスを家に持つように納得させる（進行中） 2. 所有企業を脅迫または押収して、それらのデバイスを自分たちのために使わせる（TODO）

└

行動を「危険」か「危険じゃない」かに分類するのは、非生成的AI（以前は機械学習と呼ばれていた）の完璧な例だね。出力はテキストの説明じゃなくて、バイナリのはい/いいえなんだ。LLMを使ってもできるけど、同じデータセットで訓練された特定のMLモデルの方が、あらゆる定量的指標で優れている可能性が高いし、その技術はトランスフォーマーが登場するずっと前からあったんだよ。

方向性としては同意だけど、OpenAIみたいな有名企業に対する特別扱いがすごく気になるんだよね。一方で、CiscoやOracleみたいなあまり目立たない業界の巨人たちが何をしてきたかは全然話題にならないし。分析はOpenAIのことだけで始まって終わるわけにはいかないよ。

└

ハイテクは何十年もUAEに巨大なコンピュータシステムや先進技術を売ってきたよ。AMDのGloFoスピンオフの元々の目的は、アブダビに最先端のファブを設置することだったけど、砂漠での悪いサプライチェーンや新鮮な水がない現実にぶつかってしまったんだ。

└

つまり、OpenAIは自分たちを特定されやすくしたと思うよ。民主主義を促進するって言ってるけど、実際はただの金儲けに過ぎないからね。

└

CiscoやOracleは、人類の向上を目指す非営利団体として始まったわけじゃないよね。Googleが「悪いことはしない」って言ってたのをやめて叩かれたのと同じことだよ。それに、過去に悪い行動を取った会社がうまく逃げられたからって、今後他の会社にも期待しちゃいけないっていうのはどういうこと？

└

低プロファイルの業界大手であるCiscoやOracleが、何十年もやってきたこと。実際、IBMはホロコーストを実行するコンピュータを提供していたから、もう何十年も前からだよ。

クリス・レハーンのウィキペディアページは、彼の履歴書に追いついていないみたいだね。https://en.wikipedia.org/wiki/Chris_Lehane 彼はまさに優れたフィクサーだよ！

UAEとビジネスをして利益を得る方が、中国にその利益が行くのを許すよりはマシだよ。中東を永遠に抑圧しようとするのは明らかにうまくいっていないから、これはリアルポリティクスで、今行われていることが明らかに正しい選択だと思う。サウジアラビアはどのみち独裁的になるだろうし、これは現実の「ハーツ・オブ・アイアン」の良いプレイだね。

その暗示は逆の方向にあると思う。十分に注目されている技術は、どんな政府も独裁的・全体主義的に変えてしまう可能性がある。権力を持つ人たちにとって、すべてをコントロールしたいという誘惑はすごく大きいから、ひどい国や人々の統治が生まれるんだよね。

正直言って、独裁者のために何かを作るのは民主主義にとって良くないと思う。民主主義を健全に保ちたいなら、労働者階級の富を最大化することが大事だよ。自分や家族、コミュニティのことを気にかけられるくらいの余裕がある人たちは、民主主義に意味のある形で参加するための時間や教育を持てるからね。アメリカの独裁者でも、湾岸諸国の独裁者でも、ロシアの独裁者でも、何でも... そういうことはやらない方がいいんじゃないかな？（言うのは簡単だけどね。）

└

あなたの発言はちょっと関係ない気がするけど？それとも、独裁国家での民主主義への参加ってどういう意味？皮肉なことに、技術が特異点（またはそれに近い状態）に達するにつれて、西側、特にアメリカではディストピア的な傾向が強まっているのを感じるよ。多くの低スキルや中スキルの仕事が自動化されるからね。一方で、これらの独裁国家は、いつからかはわからないけど、市民や最近では住民のために強力な福祉制度を持っていて、AIブームの恩恵を受けるのに良い位置にいると思うよ。

民主主義自体も、民主主義には良くないよ。失敗したアイデアだと言ってもいいね。