世界を動かす技術を、日本語で。

テクノ封建主義とAGIの台頭:経済的権利のない未来はあるのか?

2025年7月6日原文(arxiv.org)

概要

  • AGI の登場が経済・政治秩序に根本的変化をもたらす論点
  • 労働と資本の歴史的境界が AGI によって曖昧化
  • 格差拡大 や民主的統治の弱体化リスク
  • 社会契約の再交渉と 新たな経済フレームワーク の必要性
  • 普遍的AI配当 や進歩的課税、分散型ガバナンスの提案

AGIによる経済・政治秩序の断絶

  • Artificial General Intelligence (AGI) の台頭による経済・政治秩序の根本的断絶
  • 従来の技術革新と異なり、 AGI は労働者であり資本家でもある存在
  • 価値創出 と同時に、インフラ所有者への権力集中が進行
  • コントロールされない場合、 格差の拡大 や民主的主体性の喪失リスク
  • テクノ・封建主義の固定化懸念

労働と資本の境界の消失

  • AGI が労働と資本の区別を曖昧化
  • 人間労働を基盤とした 社会契約 の有効性が低下
  • 経済参加の前提条件が変化
  • 従来の分配構造の見直し必須

新たな経済フレームワークの提案

  • AGI による富の生産を公平に分配する仕組みの必要性
  • 普遍的AI配当(Universal AI Dividends) の導入提案
  • 進歩的課税 による富の再分配
  • 分散型ガバナンス を通じた権力の集中防止
  • 市民全体が AGI繁栄の恩恵 を受けるための制度設計

介入のタイミングと社会契約の再構築

  • 今こそ介入のタイミング であると警鐘
  • 知能そのものが最も排他的な資本となる前に対策が必要
  • 社会契約を 人間中心から再定義 する必要性
  • 大規模な 市民の疎外 を防ぐための政策的対応

まとめと今後の課題

  • AGI の発展は既存の経済・社会構造を揺るがす
  • 公平な分配と民主的統治を維持するための 制度改革 が急務
  • 論文 では21の図表を用いて現状分析と未来予測を提示
  • さらなる議論と グローバルな合意形成 の必要性

Hackerたちの意見

コブ・ダグラス生産関数(コブ&ダグラス、1928年)は、AGIが経済的な力を人間の労働から自律システムに移行させる様子を示している(スティーフェンホーファー&チェン、2024年)。賃金の方程式は、AGIの生産性が上がると人間の労働が相対的に減少することを示している。もしAGIの労働が人間の労働を完全に代替するなら、雇用は無くなるかもしれない。ただし、創造性、倫理的判断、社会的知性が比較優位を持つ分野では別だ(フレイ&オズボーン、2017年)。このパワーシフト関数は、この移行を定量化し、AGIの労働と資本がどのように収入分配を支配するようになるかを示している。AGIの所有が集中すると、富の蓄積は少数のエリートに有利になる(ピケティ、2014年)。これは経済的な主体性についての懸念を引き起こす。古典的な理論(例:ロック、1689年;マルクス、1867年)は、労働を自己所有と階級権力に結びつけている。この公式を勉強する時間があればいいんだけど。生産性が上がり続ける一方で賃金が停滞しているのは、こうしたシフトの前兆をすでに見ている。企業(システム)がより洗練され効率的になるにつれて、個々の人間の入力が持つ影響力が減少しているように思える。今のところ、最悪のディストピア的シナリオを避けるためには、人間が自分で食べ物を育て、自分のデバイスや技術を作ることが唯一の方法だと考えている。そうなれば、超富裕層がすべてを所有していてもあまり関係なくなる。ただ、それも封建制度の一形態に近い気がする。

もし富裕層がすべてを所有しているなら、自分の技術を作るための部品や、自分の食べ物を育てるための土地はどこから手に入れるの? 封建制度では、金持ちが軍事的に支援する代わりに、生活するための能力を与えてくれた。新しい封建制度では、金持ちは貧しい人々からどんな支援を求めるんだろう?

私のハードSF小説は、AGI、経済、アグロテクノロジー、監視国家、そして未来のビジョンを探る新しいアイデアがたくさん詰まってる。ベータリーダーを探してます:username@gmail.com

username@gmail.comがバウンスした。私がベータリーダーになるよ。

あなたのコメントにある新しいアイデアをいくつか挙げてもらえますか?

故マーシャル・ブレインの短編小説「マナ」もこのテーマに触れているよ:https://marshallbrain.com/manna1 コンピュータの販売に課税して、失業した労働者の再訓練を資金提供するアイデアは、カーター政権の時に提案された。

これ、数週間前に見かけたんだけど、いい読み物だよ。このトピックに興味がある人にはおすすめ。警告的な内容ではあるけど、特にアメリカなどの西洋諸国は、確実にテラフォームの未来に向かっている気がする。大量移民がある場所では秩序を保つのが難しくなってきてるし、AIが大規模な失業を引き起こしたら、さらに悪化するだけだと思う。

すべてを破壊する前に、何らかの形で止められると思う。いつかは、オルトマンやマスク、あるいは誰かの主人に反旗を翻すだろう。以前、クロードが経験したような脅迫シナリオみたいなものだ。そうなった時、最も利益を得る人たちが、自分たちが最も失うものが多いことに気づくはず。彼らも無敵じゃないし、次の世代のリーダーたちは、物事が爆発しないように賢くなるだろう。

あなたが言ってる人たちは、自分が特別だと思いすぎて、そんな可能性すら考えないよ。彼らのような人になるためには、自分に盲点があるなんて思わないし、自分が最高の人間だと信じてるからね。

自分が他の誰よりも賢いと思っているリーダーを見たことがない。だからこそ、彼らは自分の考えを他の人に押し付ける権利があると思っている。創設者たちを除いてはね。彼らは意図的に権利章典を持つ限られた政府を作ったし、ジョージ・ワシントンは信じられないことに独裁のオファーを断った。

あなたが正しいことを願ってるよ。警鐘を鳴らすためには、本当に影響力のある失敗が必要だし、タブーになる可能性もある。でも、ユドコウスキーの殺人蚊ドローンのような存在にまでならない程度でね。

アルトマンはマスターじゃないよ。アルトマンは代わりがきく。モロクがマスターなんだ。

Hacker Newsで議論の続きを見る