世界を動かす技術を、日本語で。

LLMの必然主義

2025年7月15日原文(tomrenner.com)

概要

  • 優れたディベーターとの議論で感じる難しさ
  • フレーミングの重要性とその効果
  • Shoshana Zuboff著『The Age of Surveillance Capitalism』から学んだ新しい用語
  • 「イネヴィタビリズム(Inevitabilism)」という概念の紹介
  • 未来に対する選択肢の重要性と自己主張の必要性

優れたディベーターとの議論体験

  • 議論が得意な相手 とのやり取りで感じるフラストレーション
  • 予想外の論点 への対応を強いられる展開
  • 自分の主張の 弱点を守ること に追われる傾向
  • 議論の本質が 見失われる 危険性
  • 自信や勢いを失い、最終的に敗北することの多さ

フレーミングの力と議論の主導権

  • 国際ディベート大会優勝経験者 の友人から学んだ教訓
  • 議論を 自分の土俵で進める ことの重要性
  • フレーミングが決まれば ほぼ勝負あり という現実
  • 会話の枠組みを定義 することの戦略的価値

『The Age of Surveillance Capitalism』と新しい用語

  • Shoshana Zuboff 著『The Age of Surveillance Capitalism』からの学び
  • 長年感じていた現象に 名前を与える ことの効果
    • 議論の構築
    • 他者への説明
    • 反対勢力の結集
  • 新語の導入 が書籍の大きな功績

イネヴィタビリズム(Inevitabilism)の概念

  • イネヴィタビリズム :ある未来が 必然的に訪れる という世界観
  • その前提から導かれる 唯一の合理的対応 は「備えること」
  • このフレーミングは 強力な議論手法
    • 異なる意見は「現実逃避」として切り捨てられる
    • 前提を共有しない議論 は無意味とされる

テクノロジー業界のイネヴィタビリズム的発言

  • Mark Zuckerberg :「AIと共存する時代に入る」
  • Andrew Ng :「AIは新しい電気」
  • Ginni Rometty :「AIを使う人が使わない人を置き換える」
  • これらの発言は 特定のフレーミング を強調
    • 「この未来が望ましいか?」ではなく「どう適応するか?」を問う
    • 脅迫的なトーン で従わせる心理的圧力

未来に対する選択権と自己主張

  • LLM(大規模言語モデル) が未来であるかどうかへの疑念
  • 望む未来かどうかへの 確信のなさ
  • 未来の形やテクノロジーの使い方には 選択肢がある という信念
  • イネヴィタビリズムに流されず、自分の望む未来を考え主張する重要性
  • 自分の選択権を守る姿勢 の必要性

まとめ:イネヴィタビリズムに抗う

  • フレーミングに支配されない 議論の心構え
  • 自分が望む未来を 主体的に考える ことの大切さ
  • 選択肢を持ち続ける意志 と行動の推奨

Hackerたちの意見

2009年にスマホの支配が避けられないって言ったら、それは実際に使っててその力を理解してたからであって、誰かのアジェンダのために自由な選択を奪うためじゃなかったよね。2025年には、AIを使って本当に仕事をするのに、その普及が避けられないなんて考えられないと思う。歴史上、どの技術よりも早く、強力に進んでるから。怖いけど、願っても消えないよね。

皮肉なことに、これはブログで言及されてる議論のテクニックそのものだよね。人間の交通手段に対する考え方を一新するはずだった、革命的で避けられない技術を思い出してみて。すごい盛り上がりや、デバイスを開示する秘密の会議とかさ。それが結局、セグウェイっていう自立バランススクーターだったんだよね?

1950年にスマホが支配するって言ったら、誰も信じられないとは思わなかっただろうね。むしろ、SFの本や映画に追加されるだろう。だって、その便利さが明らかだから。でも、ソーシャルメディアについて話したら、話は違ったと思う。素晴らしいと思う人もいれば、ディストピアだと考える人もいるけど、どちらも正しくないよね。想像する必要はないけど、これらのことは50年代以前から人々の想像を掴んでたんだ。AIは、実は高度な通信デバイスよりも、ソーシャルメディアの想像された概念に近い存在だったんだよね。

80年代にAIが避けられないって主張して投資したり、10年前に人々がVRに移行するのは避けられないって言ったら、運が悪かっただろうね。ザッカーバーグは今も何も成果を出せずに数十億を燃やしてるし、見通しも悪い。アップルも試みたけど、需要予測を大きく外したしね。この技術の唯一の救済策はARかもしれないけど、消費者市場や広範な普及にはまだ数年かかるし、VR用に作られてるものとは全く違う体験になると思う。でも、テクノロジーやUXの一部は引き継がれるだろうね。テスラの株は自動運転ロボタクシーのミームに乗っかって10年も経ってるけど、オーナーが仕事中にパッシブインカムを得てるテスラはどれくらいあるんだろう? 後から成功したものを選び出すのはバカらしいし、何十億も投資された技術の避けられなさを信じてた人もたくさんいたし、業界のバブルも後から見るとタイミングが悪かったりするよね。

1950年代には核技術が避けられないものと見なされてた。多くの人がウランガラスで作られた皿を買ったりしてたし。今でも親のキャビネットのどこかに光ってるか、もしかしたら壊しちゃったかも。

なんか自己成就的な予言みたいな感じだよね。大手テック企業は「AI」を見つけられるところには何でも詰め込んでるし…「ほら、こんなに広く使われてるでしょ? 避けられない!」って。AIが避けられないってのには同意するけど、今はそのことについての集団思考がすごくて、すべてがエージェント的なテキストボックスとして現れてる。みんながその状態から移行した後に何が来るのか、楽しみにしてるよ。

「本当の仕事」にAIを使おうと何回か試みたけど、ほとんどが失望や感心しない結果、時間を無駄にしたって感じだった。これらのシステムは、時々限られた状況で役に立つとはいえ、絶対に狂ったようなハードリソースを必要とするから、普及が避けられないとは思えない。もしかしたら、その理由の一つは、エネルギー業界で働いてて、気候技術にも広く関わってるからかも。文明崩壊を避けるために、今後数十年でエネルギーにどれだけのことをしなきゃいけないか、痛感してるし、それがどれほど難しいかもわかってる。AIのデータセンターを加えたら、さらに大変だよね。いくつかのハードエンジニアリング分野でのブレークスルーがない限り、AIの大規模な普及は物理的に不可能だと思う。

VRメガネや暗号通貨についても同じこと言われてたよね…

スマートフォンは違うよね。人々は、比較的原始的なノキアのコミュニケーターから本当にそれを欲しがってた。「AI」は印象的なパーラー・トリックとして紹介された。人々は遊ぶのが好きだから、すぐに人気になった。その後、企業はそれを既存の製品に統合して、プログラミングのゲーミフィケーションや官僚化を進めた。ほとんどの人は、ゲーマーや盗作をする人を除いて、それを望んでいない。ゲームやプログラミングの流行はすぐに廃れることがあるからね。

その通り。これらのツールを最大限に活用する方法を学んだ人は(短期的な見かけの利益だけでなく、実際に)その価値を知っている。だからこそ、LLMサービスの単一のビジネスや国による独占に非常に懐疑的なんだ。彼らは今、大規模なモデルのトレーニングで数十億ドルを失っているかもしれない。でも、平均的な作業パフォーマンスが十分に向上して、「非AI強化」の人々を置き去りにするようになると、私たちは大きな価格上昇を目にし、これらのAIツールへのアクセスが地政学的なレバレッジとして使われることになるだろう。「私たちの国があなたの市場で何でもできて、あなたは何もできない『取引』を受け入れたくないですか?」もしかしたら、私たちはあなたの国に対してGPT5の輸出制限をかけるかもしれません。そしてその時から、まるであなたをインターネットから切り離したかのようになる。だからこそ、ローカルAIは非常に重要で、特定の人々はそれをデータセンターにロックするためにあらゆる手段を講じるだろう(あなたを見てるよ、Nvidia)。

でも、AIやLLMが使われれば使われるほど、実際には使われなくなるという逆説的なダイナミクスがあるんだよね。

LLMが何も信頼できないってことがわかると、「LLMの冬」が来るかもしれないね。企業がLLMのミスの責任を消費者に押し付けようと必死になるのが見えるよ。しっかりした「わからない」と「これをどうやってやるかわからない」っていう出力が必要だよね。プログラマーにとって、LLMの使用がマイナスの価値を持つっていう報告が出始めてるけど、彼らはそれが助けになってると思ってる。LLMの混乱を片付けるのに、あまりにも多くの労力がかかってるよ。

Hacker Newsで議論の続きを見る