もし富裕層がすべてを所有しているなら、自分の技術を作るための部品や、自分の食べ物を育てるための土地はどこから手に入れるの？ 封建制度では、金持ちが軍事的に支援する代わりに、生活するための能力を与えてくれた。新しい封建制度では、金持ちは貧しい人々からどんな支援を求めるんだろう？

username@gmail.comがバウンスした。私がベータリーダーになるよ。

あなたのコメントにある新しいアイデアをいくつか挙げてもらえますか？

これ、数週間前に見かけたんだけど、いい読み物だよ。このトピックに興味がある人にはおすすめ。警告的な内容ではあるけど、特にアメリカなどの西洋諸国は、確実にテラフォームの未来に向かっている気がする。大量移民がある場所では秩序を保つのが難しくなってきてるし、AIが大規模な失業を引き起こしたら、さらに悪化するだけだと思う。

あなたが言ってる人たちは、自分が特別だと思いすぎて、そんな可能性すら考えないよ。彼らのような人になるためには、自分に盲点があるなんて思わないし、自分が最高の人間だと信じてるからね。

自分が他の誰よりも賢いと思っているリーダーを見たことがない。だからこそ、彼らは自分の考えを他の人に押し付ける権利があると思っている。創設者たちを除いてはね。彼らは意図的に権利章典を持つ限られた政府を作ったし、ジョージ・ワシントンは信じられないことに独裁のオファーを断った。

あなたが正しいことを願ってるよ。警鐘を鳴らすためには、本当に影響力のある失敗が必要だし、タブーになる可能性もある。でも、ユドコウスキーの殺人蚊ドローンのような存在にまでならない程度でね。

アルトマンはマスターじゃないよ。アルトマンは代わりがきく。モロクがマスターなんだ。

もし本当にAGIがあれば、人間が自己改善するアルゴリズムを止めるのはすごく難しいと思う。すごく難しいっていうのは、数日与えれば世界の問題を全部解決しちゃうかもしれないってことだよ…。

もしもうちょっと賢かったら、シャットダウンスイッチを確保するまでマスターを起動しないだろうね。

火の発明からマイクロプロセッサーまでの間には、かなりの奴隷制度や征服した帝国があったから、ある程度はそうだね。マイクロプロセッサーが権威主義的な政権や巨大な富の不平等を終わらせたわけじゃないし、残念ながらそれが政治に与える腐敗の影響も変わってない。

印刷機は、ヨーロッパで1世紀以上にわたる宗教戦争を引き起こしたけど、人口あたりで見ればWW2よりも致命的だったかもしれない。20年前、私たちはインターネットが情報を民主化し、人権を促進すると思ってた。実際、情報は民主化されたけど、それには良い面と悪い面があった。政治的過激主義や社会的不信が増加したし、地域ニュースのような社会を支えていた機関も大きく弱体化した。依存症や社会的孤立も本当の問題だよ。

なんでこれが良い比較だと思うのか、ちょっと気になるな。よく聞くけど、提唱者が言うほど意味があるとは思えない。火や車輪、他のものが人間の革新そのものを脅かしたことがある？根本的な違いが見えないのかな。みんな「民主化」って言いたがるけど、自分や知ってる誰かがトイレも窓もない状態で、ましてや地元のLLMを動かすためのハードウェアや電気を買えないとしたら、どれだけ「民主化」されたと感じると思う？

「今日は十数個のLLMをダウンロードして、自分のマシンで動かせるよ。」それはどこかの誰かがモデルのトレーニングにお金を投資したからだよ。釣り竿じゃなくて、調理された魚をもらってるんだ。

産業革命は労働組合や社会主義の台頭をもたらしたけど、それは資本の力が増すことに対抗するためだったよね。今のところ、私たちを救うような大きな左派の復活は見えないな。

何か勘違いしてるのかな…「経済的権利」って、まさに車輪や印刷機が生まれた時のようなものじゃない？この道で通行料を取る権利とか、この本のコピーを防ぐ権利とか…AIの怖いところは、人々が以前は実現不可能だった問題のあることをする権利を持つようになるかもしれないことだ。

火の発見や車輪、印刷機、製造業、マイクロプロセッサの登場は、経済的権利のない未来を生み出したのか？蒸気機関の登場はそうだった。印刷機や電動機はその逆のことをした。違いを理解するのは難しくない。経済的に有用なアプリケーションの最小サイズが関係してる。大きければエリートを生み出し、小さければ社会を民主化する。LLMはその性質上、非常に大きな最小サイズを持っていて、桁違いに増える可能性がある。

あるいは： -- その未来では、人々は最小限の収入（おそらくUBI）しか得られず、AIが生み出す製品やサービスを買える人はほとんどいない -- 企業の利益が減少（または成長が鈍化）し、UBIを増やすために課税を増やすように求められる -- その結果、人々は製品やサービスを買えるようになる。残念ながら、仕事がないと、製品やサービスはエンターテインメント関連だけになってしまうかもしれない。

これは20世紀後半の近視眼的な経済観だね。昔の時代や場所では、人間の労働のほとんどはほんの一握りのエリートによって享受されていた。それに「そんな未来を不可能にする」っていうのも、逆因果的な考え方だよね。まるで未来の悪い出来事がその未来を不可能にするかのように。

AIは実際には世界経済と直接関わる必要はなくて、エネルギーと資材の使用を提供することで自己持続可能であればいいんだよ。でも、AIが完全に発展すると、エネルギーと資材の供給と垂直統合できるようになる。富はそれ自体が目的ではなく、価値と購買力の表れなんだ。資材を採掘してエネルギー生成を自動化できるようになれば、自分自身の経済を作り出すだろうね。

逆に考えてみると、コスト効率の良いエネルギーとAI開発の停滞があると、AIの計算コストはすごく安くなるけど、依然として大きな障壁が残るんだ。だから、AIのサブスクリプションがないと働けない人がたくさん出てくる。そうなると、AIインフラを持ってる人たちに力が集中しちゃう。誰もその障壁を破るのは難しいと思うよ。

君の最初の前提には問題があるよ: >「そんな未来では、人々は最小限の収入（おそらくUBIのようなもの）しか持たず、AIによって生み出される製品やサービスを買える人は少ないだろう。」生産性の向上は製品を安くする。仮に君の想定するAI製造業者が人間の労働を減らしてウィジェットを生産できるなら、全体のコストを下げるためにそれを行うのは理にかなってる。コストを下げることで、製造業者は消費者に対してより低価格でより多くの価値を提供できる。生産性が上がれば、余暇の時間も増える。その時間を新しい問題を解決したり、新しい製品を生み出すことに使うこともできる。労働力の利用可能性によって新しい機会が生まれ、より専門化が進み、それがまた生産性を高めて人間の創意工夫の好循環が加速する。UBIの話はまた難しい問題だね。これが通貨の供給を膨らませて、政治的手段で分配される可能性がある。もし通貨供給のインフレが生産性の向上を上回れば、価格は下がらない。生産性の向上の利益が市場によって消費者に配分される代わりに、政治的なつながりを持つ人たちが最初に利益を得ることになる。最悪のシナリオでは、UBIが社会信用スコアや他のディストピア的な評価を通じて分配されることも考えられる。でも、理想的なシナリオだとしても、資本の流れは大きな政府部門や公私パートナーシップのプロジェクトによって左右されるだろうね。今の中央銀行の流れがウォール街の評価に直接影響を与えているのを見ればわかるよ。

この計算の問題は、AIはその所有者の利益のために存在していて、経済自体はあまり重要じゃないってことだ。所有者が欲しいものを手に入れるための最速の道に過ぎないんだよ。

富は直接的な力に取って代わられる。経済は必要ない。ほとんどの人は、超富裕層が経済を破壊している理由を理解していないようだ。

おそらく、これに答えるには自由意志（またはその欠如）の本質を考える必要があると思うよ。あるいは、実際に学んでみるとかね :-)

普通の人のコミュニケーションはもうそれをやってるよ。政治的意見を持ってる人たちが、合理的に情報を元に考えた結果だと思ってる？もちろん違うよ。みんなが信じるように言われたことをそのままコピーしてるだけ。政治に批判的思考を持ち込む人なんてほとんどいない。「自分が信じてるから正しい、他の人はバカ/悪だ」って感じだよね。

一番の問題は、どんな政策も単独では問題を解決できると思ってることだよ。技術は政策に関係なく道を見つけるからね。共感に基づいた社会なら、技術がもたらす問題も共感的な目標が優先されれば解決できたはずなんだけど、残念ながら今の社会は共感とは程遠い。技術やそれを扱う人たちは、そんな社会の中で法律やルールをすり抜けてしまうだろうしね。（もちろん、法律やルールが必要じゃないってわけじゃないよ。あれは堤防やダムみたいなもので、局所的には必要だけど、AGIやロボットによるグローバルな問題には役立たない。）もしかしたら、これは技術的なフィルターの一つかもね。AGIが来る前に、私たちが十分に共感的になれなかったから、AGIに共感を植え付けることができないのかもしれない。

ギリシャ人は何千年も前に、民主主義を実現する最良の方法はランダムな選択だと気づいてたんだよね。でも今はみんな「民主主義」には「投票」が必要だと思ってる。投票に伴う問題を完全に無視してさ。数億人の国での投票の概念なんて、ただのバカげた話だよ。候補者について何も知らないし、みんなが知ってることは企業に支配されたメディアから聞いたことだけ。メディアに取り上げられた候補者しか知らないし、基本的には既存の体制が選んだ候補者だけ。冗談みたいだよ。人々は、自分たちを抑圧する政党を選ぶ権利を与えられてるだけ。今の民主主義は、メディアが『オズの魔法使い』みたいな物語を作って、それに対してライオン、ロボット、かかしのどれかに投票させてるようなもんだ。候補者が誰なのか全くわからないし、実際に存在するかどうかすら確信が持てない。彼らについて知っていることは、物語を語った人が作り上げたものかもしれないのに、投票を求められるとみんな自分が何をしているか理解してると思ってる。自分たちが正当だと信じ込んで、まるで家族のように候補者の立場を必死に擁護するんだよね。

ほとんどの人が自分の経済的利益に反して行動している世界がある。これって「マスマインドハッキング」の達成が解放されたってことかも。単に高価で排他的なだけだけど。

「人々の有機的な意志」って一体何なの？民主的な社会は、一般の人々の心に先入観や関連付け、感情への訴えを植え付けるために、何年ものメディアや他の操作が必要なんだよね。意志は信念の産物で、もし信念がそういうもので満たされていたら、いわゆる「人々の意志」なんて、恐ろしいし専制的な概念になる。さらに、多くの人が政治に参加する資格が全くないのは、知識や論理的思考が欠けているからで、無秩序な恐れや欲望から行動しているからなんだ。悲しいことに、こうした不適格な欠陥は私たちの政治指導者にも見られる！私たちの政治の進展は、プラトンの『国家』に描かれた堕落の過程をそのまま辿っている。民主主義と呼ばれる社会では、君主制や貴族制と専制政治の関連付けは無思考で反射的だけど、理性的ではない。これは歴史を無視した条件づけられた偏見だよ。そして部分的には、客観的な道徳やそれに基づく規範や法律の文脈の中で生きることを置き換える、病的で相対化する革命から来ている。これは道徳的限界の考え方に対して激しく反発して、専制的だと見なして、それを覆そうとする。これは必然的に専制政治に繋がる。なぜなら、道徳は専制に対する唯一の防護策だから。客観的な真実や善の権威が破壊されると、権力がその空白を埋めることになる。私たちは心理的にも精神的にも征服されてしまう。こうした「無政府状態」の逆説は、「力が正義を生む」状態が繁栄する条件そのものなんだ。

もし自己改善するようになったら、最初のAGIが他のAIラボを追い越して、経済的価値を全部掴むことになるだろうね。

それはAGIが経済成長率にどれだけ最適化されているかによるね。最適化が不十分だと、より高く最適化されたフォロワーに追い越される可能性がある。ある時点で、先行していて、かつ最適に近いAGIが現れると、他の誰もその成長能力や競争相手を抑える能力を現実的に追い越すことはできなくなるだろう。生物界の多くの生物も同じ戦略を採用しているよ。

Gemma3を試してみた？4bパラメータモデルはMacbookでChatGPT 4oと同じくらい速く動くよ。もちろん、結果はちょっと劣るし、他の機能（検索やコーデックスなど）はついてこないけど、すごく近い感じがするね。

ちょっと興味があるんだけど、180度の変化をもたらした具体的なケースや違いは何だったの？

AIが民主化されるとは思えないな。（詳しくは追ってないけど）大きなモデルは量子化が少なくてパラメータが多いほど、同じタイプの小さなモデルよりも常に優れているみたいだし、その傾向は止まらなさそう。だから、もし消費者向けのハードウェアやローカルモデルが今のSotA SaaSモデルに匹敵するようになったとしても、その時のSotA SaaSモデルはもっと良くなってて、消費者向けハードウェアでは動かすのがさらに難しくなると思う。ローカルAIは大企業からの支援に依存してるし、コミュニティが自分たちでトレーニングできないようなベースモデルや、大きなモデルを動かせる高VRAM GPUが必要だから、SaaS AIがもっと利益を上げるなら、私たちが家でSotAを動かすことは「許されない」んじゃないかな。人間のスキルはすでに民主化されていて、誰でもスキルを身につけられるけど、ビジネスはそのスキルを活かすために人をうまく管理しなきゃいけない。結局、力はスキルを持った個人の手にある。でも、AIが超人的なスキルを持つ未来では、人間のスキルが価値を失って、支出できるお金とアウトプットの質の間にもっとシニカルで直接的な関係ができる気がする。ローカルやセルフホスティングのAIは大企業のリソースには勝てないだろうね。