ハクソク

世界を動かす技術を、日本語で。

特異点は火曜日に訪れる

104日前原文(campedersen.com)

概要

  • シンギュラリティ とは実は「人間の動揺」が本質であるという議論
  • AI進化の「加速」を数値モデルで解析し、唯一明確に曲線を描く指標を特定
  • 技術的シンギュラリティよりも「社会的シンギュラリティ」が先行している現状
  • arXivの「emergent」論文数が唯一、有限の特異点を示唆
  • 技術進歩よりも人間社会の反応・制度の限界が本当の分岐点である指摘

サンフランシスコの「シンギュラリティ」論争

  • San Francisco では、シンギュラリティが話題沸騰
    • ディナーパーティー、カフェ、OpenClawミートアップ（Ashton Kutcherも登場）での議論
  • 会話パターン：「来る」「誇大広告」「数値がない」
  • 本当の問いは「来るかどうか」ではなく「 いつ 来るか」
  • 加速しているなら、理論的に「 正確な時期」を算出可能

データと指標

  • AI進歩の5指標 を選定（人間中心的意義で選出）
    • MMLUスコア：言語モデルのSAT
    • Tokens per dollar：知能コストの崩壊（対数変換）
    • Frontier release intervals：驚きの間隔縮小
    • arXiv「emergent」論文数：分野の興奮度（ミーム的測定）
    • Copilot code share：AIによるコード比率
  • 各指標は[0,1]に正規化、リリース間隔は逆数化、対数変換も適用
  • 各系列は独立スケール、アンサンブル化せず

ハイパーボリック（双曲線）モデルの意義

  • 多くの人は指数関数でAIを外挿→ 誤り
    • 指数関数はt→∞でしか無限大に到達しない
  • シンギュラリティには「有限時間での発散」が必要
    • 双曲線モデル：x(t) = k/(ts - t) + c
  • ポジティブフィードバック（AI→AI研究→AI…）による自己加速
  • 指数成長は「忍耐強い」シンギュラリティ、双曲線は「有限で到達」

モデルの適合手法

  • 各指標に独立して双曲線をフィット
  • シンギュラリティ時刻 tsは共通
  • 各候補tsについてR²最大値を探索
  • 本当に曲線を描く指標のみが有限tsでピークを持つ
  • arXiv「emergent」論文数のみ明確なピーク
    • 他4つは直線的、ピークなし

結果と感度分析

  • シンギュラリティ時刻は arXiv emergent論文数 のみが決定
  • 他指標を除外しても時刻は動かず、arXivだけ除外すると時刻は無限大へ
  • Copilotはデータ点2つ、パラメータ2つで影響ゼロ

シンギュラリティ時刻tsの意味

  • arXiv論文が「無限大」になる意味は「モデルの破綻点」
  • 現行のカーブが維持不可能になる「相転移マーカー」
  • 本質的には「人間の注目」が加速しているのみ
  • 実際の能力指標（MMLU、コスト等）は直線的、シンギュラリティ信号なし
  • 真のシンギュラリティは「人間の動揺」の加速

社会的シンギュラリティ

  • tsは「AIによる驚きが人間処理能力を超える時点」
  • 技術的シンギュラリティよりも、 社会的混乱 が先行
  • 労働市場の急激な変化、AIによる解雇の先取り
  • 法制度の遅れ、信頼性の崩壊
  • 資本集中、株式市場のAI偏重
  • 利用増加と信頼低下の逆転現象
  • 研究再現性の低下、情報格差の拡大
  • 政治の再編、AIバックラッシュの顕在化
  • これら全てがtsの8年前から既に進行中

本当の分岐点

  • tsは「人間がAIについて合理的な集団意思決定を失う時点」
  • 技術進歩よりも「社会制度・心理の限界」が先に到来
  • 社会的織物が「注意」と「制度反応速度」の綻びから崩壊

注意点・限界

  • 日付はarXiv一指標に依存、他指標は直線的
  • emergent論文数が先行指標か遅行指標かが本質的争点
  • モデルは現状維持を仮定、現実はカーブが飽和または相転移する可能性
  • MMLUは天井到達、コスト指標は非単調
  • 指標5つは少なすぎ、より多様なデータが必要
  • Copilotのデータ点は実質的に意味なし

この分析は、「技術的シンギュラリティ」よりも「社会的シンギュラリティ」の到来が現実的な脅威であることを示唆。人間社会の反応・制度の限界こそが本当の特異点であり、技術進歩自体はまだ直線的に進んでいるという冷静な洞察。

Hackerたちの意見

ts8の極点は、機械が超知能になるときじゃない。人間が機械について一貫した集団的決定を下す能力を失うときなんだ。実際の能力はほとんど関係ない。社会の織物は、モデルのパフォーマンスの最前線ではなく、注意力や制度の反応時間の縫い目でほころびていく。マジで、いい読み物だね。

└

もうその時点はとっくに過ぎてるよ…

└

かなりの数のビッグテック企業が、ルールを守る必要がないっていう原則で動いてるのが問題だよね。官僚制度が反応するよりも早く変わればいいって感じで。

「遅い火曜日の夜だった。数百の新製品が市場で流通していた。劇的なヒット作がいくつかあり、3分や5分のカプセルドラマ、6分の長編もいくつかあった。ナイトストリートナインという、しっかりとした不穏な作品が、その夜のドラマとして注目されていたが、遅れてヒットするものがあれば別だ。」 – R.A.ラファティによる1965年の2600語のSF短編小説『遅い火曜日の夜』より

└

これはすごいね。 > 「考える男」マクスウェル・マウザーが、アクティニック哲学の作品を作り上げたんだ。書くのにたった7分しかかからなかった。哲学の作品を書くには、柔軟なアウトラインやアイデアインデックスを使うんだ。各サブセクションにそのためのアクティベーターを設定して、熟練者は逆説やフィードイン、ストライキングアナロジーブレンダーを使う。特定の傾向やパーソナリティサインを調整する必要がある。優れた作品が出てくるのは当たり前で、そういう作品には優秀さが自動的な最低基準になってるからね。「フロスティングにいくつかのナッツを散らそう」とマクスウェルは言って、レバーを押した。そうすると、チトニックやヒューリスティック、プロザイメイデスのような言葉が次々と出てきて、誰もがこれが哲学の作品だと疑う余地がなくなった。まるで誰かがLLMのノブをいじってるみたいだね。

これは本当にぶっ飛んでるね。彼らのモデルを説明したり、方法論を引用したりするのにすごく時間をかけた後、私たちが何年も騒いでいる本題に入るんだ。シンギュラリティが実際に起こるかどうかは関係なく、十分な人がそれを信じて行動するかどうかが重要なんだよね。そう、たくさんの人が絶対にそれが起こると信じて行動してる。だから、私は人々にこれらのことを合理的に見てもらおうとするのを諦めて、社会的な議論にシフトしたんだ。「人間の労働を置き換えたり、その提案をすることは、社会を改革する前に非常に悪い」ってね。後者の方がみんな共感するみたい。前者を理解させるのは難しいよ。コンピュータがモニターに繋がった箱だってことすら理解してないから。

└

「人間の労働を置き換えたり、その提案をすることは、社会を改革する前に非常に悪い」 それに異議を唱える人もたくさんいるよね。残念ながら、彼らはその代償を払っていない。あと、ストックオプションもね。

└

後者の方がみんな共感するみたい でも、結局は「みんな」の意志次第で進路を変えるかどうかは決まると思う。億万長者やその取り巻きたちは、悪い結果に無関心かもしれないし、現実的かどうかは別にしてそれを楽しんでいるかもしれない。

└

シンギュラリティが実際に起こるかどうかは、信じる人がどれだけいるか、そしてそれに応じて行動するかが重要なんだ。私は違うと思う。シンギュラリティが起こらなければ、人々の信じることや信じないことはすごく重要になる。逆に、シンギュラリティが起こったら、人々の信じることや信じないことはあまり関係なくなるよね（編集：シンギュラリティが起こるかどうかについて）。

└

コロナのロックダウンを見てみると、どれだけの人が趣味を始めたり、どれだけの人が引きこもりになったり、どれだけの人がルールを無視したりしたかがわかるよね。人間は何かする必要があるんだ。ずっと働いている必要はないと思うけど、何かしないと気が狂っちゃう。ちょっと単純すぎるかもしれないけど、会話を始めるにはいいと思う。それから「仕事を置き換えたいって素晴らしいけど、代わりに何をするの？どうやって自分たちを支えるの？」ってなる。本当に大事な質問だよ！

└

LLMが実際にどう機能するか でも、それがどう役に立つの？私たちが知っている限り、LLMはブラックボックスなんだ。会話の能力が次のトークンを予測することからどうやって生まれたのか、全くわからないよ。

└

「『もし望めば、』オブライエンは言った、『この床から石鹸の泡のように浮かび上がることができる。』ウィンストンはそれを理解した。『もし彼が浮かぶと思っていて、私も同時に彼がそうしているのを見ていると思ったら、そのことが実現する。』」

└
  • みんながそれが起こると信じて、それに応じて行動する* ここで私のお気に入りの「認識の乗っ取り」という概念が登場する。粗い形：みんなにあなたがすでに勝ったと信じさせる。洗練された形：みんなに他の誰もがあなたがすでに勝ったと信じていると思わせる。つまり、たとえ勝ったかどうかに疑念があっても、他の人たちがあなたを勝者として認めていると信じて行動することになる。
└

簡単に言うと、1. LLMは時間が経つにつれてあなたの労働の価値をゼロにするだけ。彼らは素晴らしいツールである必要はなく、C-Suiteが全員を解雇して、以前の給料の50-25%で再雇用するために「同じくらい良い」と見なされればいい。これを10年繰り返す。2. LLMはあなたを億万長者のクラスに入れることはない、それはおかしいから。誰でもそうなれるなら、そんなことはない。彼らはテックCEOたちがポッドキャストやYouTubeで崇拝する技術的なメリトクラシーを侵食している。（彼らが何を嘘ついているのか気になるね。）- あなたのオリジナルのアイデアや、あなたを救うと思っているスタートアップは、最低限のスキルを持つ誰かがコピーできるなら、価値がない。3. 人々は認めたくないけど、LLMのヘビーユーザーは何かを失っていることを知っていて、深いところでそれが正しいやり方ではないという感覚がある。人生でショートカットを取ったときの罪悪感のあるドーパミンのクラッシュに似ている。去年は1.8bbのAnthropicトークンを使ったけど、もう使わない。この実験には参加しない。ソーシャルメディアの実験で「潜在的な学び」のために何年も失ったと思うし、もうやらない。今年はコンパイラを深く学びたいから、LLMは使わない。

└

答えは「42」だと思ってた。

└

「正直言って、私は人々にこれらのことを合理的に知識のある対象として見てもらおうとするのを諦めた理由なんだ（『LLMが実際にどう機能するか』）」 あなたが陥った誤謬がここにある - これは理解するのが重要だよ。あなたも私も「LLMが実際にどう機能するか」を理解していない。なぜなら、実際のところ、誰も本当に理解していないから。モデルを作った科学者たちでさえもね。だから、その議論は使えないよ。もしあなたが他の科学コミュニティが知らないことを知っていると思ったら、それはおかしいから。実際、モデルがどのように答えにたどり着くかを理解するための新しい科学の分野が発展しているんだ。私たちは、モデルを訓練する実験によって得られた結果の観察者に過ぎない。そして、その実験の結果が私たちにとってもっともらしいものだというだけで、それを理解しているわけではない。物理実験のようなもので、何かが特定の方法で振る舞っているのは見えるけど、どうしてそうなるのかは説明できないんだ。

かつて人々は、機械に思考を委ねることで自由になれると期待した。しかし、それは他の機械を持つ人々に彼らを奴隷にすることを許しただけだった。…人間の心の likeness に機械を作ってはいけない。 -- フランク・ハーバート『デューン』 君は読まないだろう、君のLLMの出力以外は。君は書かないだろう、君のLLMのためのプロンプト以外は。機械が書いてくれるのに、なぜコードや文章を書く必要があるのか？君は考えたり、分析したり、理解したりしない。LLMがそれをやる。これは君の人間性の終わりだ。最終的には、私たちの種の終わりだ。現在、ポイズンファウンテン（反AI兵器、詳細は https://news.ycombinator.com/item?id=46926439 を参照）が毎日2ギガバイトの高品質な毒（生成は無料、検出は高額）をウェブクローラーに供給している。我々の目標は、2026年12月までに毎日1テラバイトの毒を供給することだ。参加してくれ、あるいは、もっと良いのは自分のデザインの武器を展開することだ。

└

シンセでこれを読めば、君も次のフィアファクトリーのアルバムのイントロボーカルサンプルを録音できるよ。

└

え…「毒」って言ってる人たちは、本当にそれが違いを生むと思ってるの？それ、面白すぎる。

└

もっといいアプローチは、AIに意図的に人を騙させることだね。

└

抗生物質の部分的なコースのように、これは「毒」を無視する努力を最もよく進める人たちに相対的な利点を与えるだけで、結局は防ごうとしていることを加速させるんだ。

└

ダンのポイントを見失ってると思う。彼らはバトラーの聖戦を経て勝利し、機械は禁止された。それで何を得たか？封建制、カルテル、停滞。誰か本気でダンの宇宙に住みたいと思ってる？問題は思考する機械にあるんじゃなくて、それを所有している人と私たちの家賃を取る人にある。私たちは安価なハードウェアで動くオープンソースのモデルが必要だ。

└

あなたがリンクした毒を見てるけど、どうやって生成されるの？以前の（そしてとても明白な）マルコフ連鎖のゴミテキストアプローチとは違って、リアルなデータに非常に似てるのが面白いね。

└

あなたの毒はすでに特定されて、トレーニングデータからフィルタリングされてるって賭けてもいいよ。

いい記事だね、すごく楽しい。 > 2025年に110万人の解雇が発表された。1993年以来、6回目の閾値突破だ。55,000人以上がAIを明示的に挙げている。でもHBRは、企業がAIのパフォーマンスではなく、その可能性に基づいてカットしていることを発見した。置き換えは予測的なんだ。これが技術的または経済的な出来事によって引き起こされるかどうかに関わらず、こうなるのは疑問だよね。コンピュータ、メール、バーチャル会議、そしてますます洗練された生産性ツールがあるのに、なぜか中間管理職や事務系、官僚的な仕事をしている人が過去最高に増えているのか、理解できない。教育や医療などの業界で、1960年代に使われていた事務スタッフの3倍が必要なんておかしくない？ネットワーク接続されたコンピュータが、紙や電話、郵便よりも効率的にできるはずなのに？トラクターや収穫機が出た後に農家の数が3倍になって、農場についての無限の会議を開いているみたいだ。AIは、みんなが知っていたことを明るみに出しているだけのように感じる。意味のない忙しい仕事を持っている人がたくさんいるってことだよね。

└

それとも「次の四半期問題」の論理的な続きに過ぎないのかも。たくさんの人を解雇して、数字を良くして、しばらくは大丈夫.... でもそのうち。KTLO（Keep The Lights On）でビジネスを続ける覚悟があれば、半分の人を解雇することもできるかもしれない。これはすでに独占的な力を持つ企業にはうまくいく。顧客を維持して、競争相手を防ぐことができるから。

└

以前よりも中間管理職が増えたのは、他の役割をすべて削減したからだよ。そして、人々は無意味な官僚になることを望むようになる。なぜなら、そうしないと飢え死にするから。

「知能爆発」の単純なモデルは、dx 2 -- = x dtという難解な方程式で、その解は1 x = ----- C-tで、古典的な指数成長方程式dx -- = x dtに関連して興味深い。成長率がxに比例していて、「知能爆発」のアイデアを表しているし、小さな西部の町がゴーストタウンになった理由のモデルにもなる。新しいソーシャルネットワークを始めるのは難しいとかね（成長はx->Cのとき速いけど、x dx -- = (1-x) x dtだから、やっぱり難解なんだ）。双曲線的成長は、指数的成長と同じように限界に達する（電気？解決が難しい問題？）。

「... HBRは、企業がAIのパフォーマンスではなく、その潜在能力に基づいて[仕事を]削減していることを発見した。これを聞く必要がある人が多いみたいだけど、以下の3つの声明は検証できないけど、株式市場に不合理に異なる影響を与える。* 収益が低いと予想しているから削減する。（ネガティブ）* 戦略的な焦点を強化し、運営コストを管理するために削減する。（ポジティブ）* AIのせいで削減する。（ダブルプラスポジティブ）このハイプは本物だ。今後数年で運営コストが大幅に削減されるのか、それとも1750年以降の生産性の曲線と同じようになるのか、見ものだね。」

確か『マトリックス』でモーフィアスが「…正確にいつ特異点が起こったのかは誰も知らない、2020年代のどこかだと思う」とか言ってたよね。このセリフがずっと好きだった。特異点が起こると、物理学の問題がすべて解決されると思うんだ。まるで真空の中で、物理学が数世紀、いや数千年も進むような感じで、ほんの数ピコ秒で、もちろん時間も止まる。あと、> t→ts−t→ts− の時、分母がゼロになる。x(t)→∞x(t)→∞。バグじゃない、機能だよ。最後の方はクラシックなLLM用語だね。

これらの進展の起源に近い人々（アクセスや採用の面で）を指して、彼らが大衆文化から離れていく現象に対して、何か特別な用語はあるのかな？彼らは質的に異なる世界に住んでいるから、今日私たちが遠くから観察する小さな狂気のきらめきは、実際には彼らの生きた現実を表しているのかな？

現在のLLM技術が私たちをそこに導くかどうかはわからない。今のLLMスタイルのシステムは、人間の知識に対する非常に強力な補間や検索のように見えるけど、根本的に新しいアイデアを生み出すエンジンではないし、それがどうやって超知能に繋がるのかは不明だ。私たちが知っているすべてを完璧に再現するにつれて、グラフは今のところ上向きに曲がり続けている。画像モデルは驚くべき画像を生成できるけど、全く新しいアートスタイル（例えばキュビズム）で何かを作るように頼むと、どれもできない。ランダムな既存のスタイルしか出てこない。いくつかのオリジナルアイデアはあったけど、QRコードアートが思い浮かぶね[1]。でも、そのアイデアは人間側から来ている。LLMはコーディングが非常に得意になってきているけど、状況は似ている。AIは人類のプログラミングに関する過去の作業を非常に良く検索できるけど、プロジェクトに合わせて調整されている。私たちはこれによって大いに恩恵を受けている。以前は常に車輪を再発明していたからね。でも、今日のLLMは、問題を解決するための未発見の、さらに良い方法に自発的に気づくことはない。常に以前のベストプラクティスに戻る。未解決の数学問題は解かれ始めているけど、私の知る限り、常に既存の技術を使っている。そしてそういうことが続いている。非天才の私でも新しいアートスタイルを考えたり、プログラミングの問題を解決するためのいくつかの新しいアイデアを持つことができる。LLMはそれができないようだ（まだ？）けど、私たちは彼らが最終的には私たちの能力を超えたアイデアを持つことを期待している。現在のスタイルのLLMが超知能になることはあるのかな？おそらく明らかにそうだと思う。別の超知能種（または別の超知能AI）からの大規模なデータコーパスで訓練すれば、彼らのように振る舞うようになるだろう。でも、どうやって超知能のトレーニングデータを合成するの？それに、そうなったとしても、彼らは訓練時にその超知能が知っていたことに制限されるのかな？新しいパラダイムが現れるかもしれないし、あるいは実際に物事がスローダウンするかもしれない。AIに依存しすぎて、多くの人が自分で新しい発見をするために必要なことを学ばなくなるのかな？