世界を動かす技術を、日本語で。

穏やかな特異点

概要

  • 人類はすでにAIの「イベントホライズン」を越え、デジタル超知能の構築が目前
  • AIの進化による科学進歩と生産性向上が生活の質を大きく向上させる見込み
  • 2030年代には知能とエネルギーが豊富になり、人間社会が劇的に変化する可能性
  • 技術進歩の急加速と社会的課題への適応力が問われる時代の到来
  • 安全性や公平な分配に向けた議論と準備の重要性

AI時代の到来と現在地

  • 人類 はAIの「イベントホライズン」を越え、 デジタル超知能 の構築が現実味を帯びる段階
  • ロボット が街を歩き回る未来や、AIと一日中会話する社会はまだ実現していない
  • 医療・宇宙・科学 など未解決の課題が山積
  • それにもかかわらず、 GPT-4やo3 のようなシステムが多くの面で人間を上回る知能を発揮
  • AI活用 による生産性の飛躍的向上と科学進歩の加速

近未来のAIと社会の変化

  • 2025年には 本格的な認知エージェント が登場し、 プログラミング のあり方が一変
  • 2026年には 新たな洞察を発見するAIシステム が登場する可能性
  • 2027年には 現実世界で作業できるロボット が普及する見通し
  • ソフトウェアやアート の創造が一般化し、専門家と初心者の差は新たなツール活用で広がる
  • 2030年には一人ができることの量が2020年比で劇的に増加

2030年代の「変わること」と「変わらないこと」

  • 家族愛・創造性・娯楽 など人間らしい営みは存続
  • 一方で 知能とエネルギーの豊富化 による社会構造の大変革
  • 人間レベルを超える知能 がどこまで進化するか未知数
  • アイデアと実現力 の両面で限界突破が期待される

AI進化の加速と自己強化ループ

  • AI自身がAI研究を加速 することで、科学的発見やアルゴリズム進化が加速

  • 経済価値の創出 がインフラ投資の好循環を生み、より強力なAIシステムの構築が進む

  • ロボットやデータセンター の自動生産体制が進展し、知能のコストが電力コストに収束する未来

    • ChatGPTの1回のクエリ消費電力は 約0.34Wh (オーブン1秒分、LED数分分)
    • 消費水量は 約0.000085ガロン (小さじ1/15程度)

社会変化と人間の適応力

  • 技術進歩により 職業構造の大変化 が予想されるが、社会全体の豊かさの急上昇が新たな政策議論を促進
  • 産業革命後の職業変化 のように、人類は新しい役割や欲求を見出し、ツールの適応も迅速
  • 人間固有の強み として「他者への関心」がAIとの差別化要素

未来の仕事と価値観の変容

  • 1000年前の農民から見れば現代の仕事は「偽物」に映るが、未来の職業も同様に見える可能性
  • 新たな発見やイノベーション の速度が飛躍的に高まり、2035年には想像もできない進歩が期待
  • 一部の人は従来通りの生活を続けるが、「プラグイン」する人も現れる

シンギュラリティの体感と課題

  • 技術進歩は 徐々に、しかし確実に進行
  • 安全性・公平性・分配 などの社会的課題への対応が不可欠
  • アライメント問題 (AIが人類の長期的利益を学び行動する保証)の解決が最重要課題
  • 超知能の安価・広範な普及 と集中回避が理想
  • 社会全体での議論と合意形成 が今後の鍵

OpenAIと今後の展望

  • OpenAI は「超知能研究企業」としての使命を自覚
  • ほとんどの道筋が明るくなり、残された課題も急速に解消中
  • 「知能が極端に安価になる」 未来が視野に入りつつある
  • 2020年からの進歩を振り返れば、2030年の予測も現実味を帯びる
  • 安全かつスムーズな超知能社会への移行 を目指す決意

Hackerたちの意見

たくさんのミスをするし、いろいろうまくいかないこともあるけど、すぐに学んで適応していくよ。 有名な最後の言葉だね。

「君たちの中には死ぬかもしれないが、それは私が受け入れる犠牲だ。」

そうだね、AIに何でも質問する人が増えて、彼らが言うことを信じる世界では、「うまくいかないこと」が起こる可能性がすごく大きいよね。 それを簡単に無視するなんて…驚くべきことだとは言えないな。

「今のところ順調だ」と、その男はエンパイア・ステート・ビルの20階を過ぎて落ちていきながら言った。

この投稿に関するいくつかの理由付け: >「メーターで測るには安すぎる知能は手の届くところにある」 そして: >「知能のコストは最終的に電気のコストに近づくべきだ。」 これはメーターで測る価値のある資源だね。 だから、知能が人々の生活に与える影響は、現在の価値で言うと、毎日トースターを使うのと同じくらいのオーダーなんだ。 これを考えると、5年後にトースターの1秒で何ができるかな?

原子力発電所が提案されたとき、電気についても同じことが言われてたよね。 今の電気代はどうなってる?

データセンターによって生まれる需要のせいで電気代が上がるのを見てるよ。今、オフグリッドのソーラーシステムを作ってるけど、安くはない!消費者がデータセンターと電気を競う未来を考えると、将来的には安く感じるかもしれないね。

ライトの法則が続くなら、電気のメーターを測ることはないかもね。

タイトルは、マーク・スティーグラーの『The Gentle Seduction』への言及かもしれないね: http://www.skyhunter.com/marcs/GentleSeduction.html

誰が書いたのかも見ずに、記事をサクサク読んでたんだ。 言われていることをざっと見て、ふと思った。 誰が書いたんだろう? おそらくAI推進派の誰かで、利害関係がある人だろうな。 誰が書いたのか見たとき、思わず笑っちゃったよ。

私も同じことを思った。「この投稿は死後の手紙みたいだ」と。LLMの利用がテストや全体的な品質プロセスの向上を促進することを願ってる。もしAGIのようなものが本当に存在するなら、出力テストはまだ必要だよ。誰かがあなたのために何かをする時、その人があなたより賢いかどうかは関係ない。仕様が明確でテストされていなければ、それはただの推測と同じだからね。定義された問題がない人にはほとんど使えないAIが待ち遠しい。

これから数年のうちに、人間のように少ない例からリアルタイムで学習できるAIモデルが登場すると思いますか?これはAGIにとっての重要な壁のように感じます。もっと広く考えると、AGIやASIに必要な重要な洞察がどれだけ欠けていると思っているのか、ちょっと気になります。この記事では、すでに大きなハードルをクリアしたと示唆していますが、まだいくつかの重要な鍵が欠けていると思います。全体的に彼の予測はかなり安全な賭けのように見えますが、ほとんどの人が定義する「超知性」を示唆しているわけではないと思います。

Hacker Newsで議論の続きを見る