AGIがすぐそこにあるとは思わない

2025年7月7日原文(dwarkesh.com)

概要

AGI到達のタイムライン に関する議論と著者の現時点の見解
現行の LLMの限界 と、なぜホワイトカラーの労働が大規模に自動化されないかの理由
継続的学習（Continual Learning） の重要性と現状の課題
今後数年での 変革的AI普及への懐疑 と、長期的なAIの大きな可能性
AIエージェントの進化 と、実現までの技術的・データ的なボトルネック

AGI到達のタイムラインと現状のLLMの限界

AGI（汎用人工知能）到達の時期 について、ゲストによって「20年後」から「2年後」まで幅広い予測
現行の LLM（大規模言語モデル） が経済的にインターネット以上の変革をもたらすという意見には懐疑的
Fortune 500企業 がLLMを使って業務を大きく変革しない理由は、経営層の保守性ではなく、LLMの本質的な能力不足
LLMは 人間のような継続的な学習や改善 ができず、アウト・オブ・ボックスの能力に依存
システムプロンプトを調整しても、 人間の従業員のような成長や適応 は実現困難

人間の学習とLLMの違い

人間は 文脈の蓄積、失敗の内省、反復的な改善 によって成長
サックスの演奏を教える例のように、 一度の指示や説明だけでスキルを習得するのは不可能
LLMに対するユーザーの「教え方」は、 人間の学習プロセスとは根本的に異なる
RL（強化学習）による微調整も 人間的な適応や学習には及ばない
編集者やスタッフの成長 は、日々の小さな気づきや工夫の積み重ねによるもの

継続的学習とAIの未来

継続的学習（Continuous/Online Learning） が実現すれば、AIの価値は飛躍的に高まる
現状のLLMには セッションごとに学習内容がリセットされる という大きな制約
長大な コンテキストウィンドウ や要約による記憶保持も、テキスト以外の分野では脆弱
Claude Codeのようなモデル でも、要約に重要な最適化理由が残らない場合がある

ホワイトカラー自動化への懐疑と長期的展望

「AI進歩が止まってもホワイトカラーの仕事の大半が自動化される」という意見に反論
現状のLLMでは<25%のホワイトカラー雇用しか置き換えられない と予測
継続的学習が進まない限り、 AIは実際の従業員のような運用は困難
逆に 継続的学習が実現した場合、AIの経済的インパクトは爆発的
- 一つのAIが世界中の様々な仕事を一斉に学び、知識を共有できる
- ソフトウェア的な「知能爆発」に近い現象が起こる可能性

継続的学習ブレイクスルーの予兆と現実

OpenAIやAnthropicのような研究機関 は、イノベーションをすぐ公開する傾向
本格的な継続的学習の前に、 不完全な初期バージョンが先にリリースされる と予想
大きな技術的転換点 の前には、段階的な進展や警告サインが現れる見込み

AIエージェントの進化と技術的ボトルネック

AnthropicのSholto DouglasやTrenton Bricken は「来年末までに信頼できるコンピュータ利用エージェントが登場」と予測
例：「AIが税務処理を自動化し、必要な情報を集めて申告まで完了」
著者はこの予測に懐疑的
- 長時間のタスク実行やマルチモーダル処理 は計算コストが高い
- マルチモーダルなコンピュータ利用データの大規模事前学習コーパス が不足
- RLや合成データ生成の効率にも限界
- DeepSeekのR1開発のように、アイデア実装には多大な時間と労力 が必要

現行AIの驚異的進化と今後への期待

o3やGemini 2.5の推論トレース は、実際に問題を分解し、自己修正する「思考」を示す
Claude Code など最先端モデルのパフォーマンスは、領域によっては人間を凌駕
一方で、 楽観視も悲観視も極端になりすぎず、現実的な進化速度を見極める必要

このように、現状のLLMには 継続的学習の欠如 という本質的な限界があり、 ホワイトカラー自動化や本格的なAIエージェントの普及 にはまだ大きな壁が存在。しかし、 継続的学習のブレイクスルーが起きたとき、AIの価値は指数関数的に高まる という長期的な期待も強調されている。

Hackerたちの意見

俺は、これがすぐそこにあるとは全然思わないし、そもそも可能だとも思えない。少なくとも、従来のコンピュータハードウェアを使って実現できるとは思わないんだ。情報を理解できる形で吐き出すことが知能の測定として適切だとも思わないし、役に立つとも思わない。もし人工知能が実現できたとしても、最初の形態は人間の基準で見れば非常に低い知能かもしれないけど、自分で学ぶ能力は本当にあると思う。

└

何かがただの誇大広告かどうかを見分ける簡単な方法がある。人間の脳よりも賢いものを意図的に作ることは絶対にできないってこと。自然に起こるか、偶然に頼るしかないんだ。投入する計算能力の量は、その運をほんの少しだけ変えるだけだよ。

└

なんで？

└

その通り。最初から言ってるけど、AGIは現実を高精度でシミュレートできて、現実よりも早く処理できることが必要なんだ（人間の脳をシミュレートできることも含めてね）。今のところ、それは不可能みたいだね（計算の不可逆性のせいで）。

└

それに、問題のもう一つの側面があるよね。もし君のツールが君より賢かったら…どう対処するの？ネットでは、同僚がチャットGPTを使って他のチームメンバーの質問に答えてるって冗談を言ってるけど、もう何が起こってるのか誰もわからないよ。

└

「情報を理解できる形で吐き出すことが知性の適切な測定基準だとは思わない。知性を測るのは難しくて、本当に良い定義が必要なんだ。LLM（大規模言語モデル）は、ある意味で定義を簡単にしてくれた。今では、コンピュータに対して具体的な質問を投げかけられるからね。『なぜLLMは知的でないのか？』彼らの能力と欠点を考えると、現在の『AI』技術が何を欠いているのかを答えることで、知性をより良く定義できるようになるだろう。これは、LLMが最先端の百万匹の猿であり、知性がそれを最適化することとは異なる道にあると仮定した場合の話だ。」

└

同じことを思うよ。私たちみたいな人を何て呼ぶの？AIの悲観論者？AIのブーマー？

└

実際に不可能なのは、人間には一般的な知性を導く何か魔法のような、根本的に測れないものがあると信じる時だけだと思う。そうでなければ、結局私たちはただの機械だよね。理論的には、人間の脳は標準的な生物学的メカニズムの外で再現可能だし、十分なナノレイザーがあればね。もしかしたら、私たちの最初のAGIは、そこそこ良いPython APIを持ったペトリ皿の脳かもしれない。でも、もっと砂ベースかもしれないね。

└

君が懐疑的でいるのはすごく正しいと思う。こういう意見を見るのは新鮮だね。技術的な人たちが、根本的な問題があるのにこの考えが進行中だと仮定しているのを見るのは本当に奇妙だよ。非技術的な人たちがそれに夢中になる理由はわかるけど、真剣な人たちはもっと批判的に考える必要があると思う。

└

問題は、知性があまりスケールしないことになると思う。システムをモデル化するために必要な計算能力は、そのシステムの複雑さや混沌さに対して、何らかの形で指数関数的でなければならない。つまり、知性の効果は本質的に単純で秩序あるシステムに制約されているってことだね。頑丈な技術を設計する最も効果的な方法が、できるだけ多くの変動要因を排除することだというのは、かなり示唆に富んでいるよ。これが知性が実際にうまく機能する唯一のモダリティかもしれないね、スーパーかどうかは別として。

└

同意するよ。AGIが何を意味するのか、合意された定義はないからね。むしろ、AIが得意なテキストや画像生成、コード生成などの分野で、徐々に改善が続いていくと思う。AIが人類のすべての問題を解決して、みんながビーチで無限の繁栄を楽しむというユートピアの夢は、根拠がないよ。

どうやら、アメリカの成人の54%が全国的に6年生レベルかそれ以下の読み書き能力らしい。AGIはもうちょっとここにいるんじゃないかな。 https://en.wikipedia.org/wiki/Literacy_in_the_United_States

Hacker Newsで議論の続きを見る

ハクソク