ハクソク

世界を動かす技術を、日本語で。

人間

2025年5月15日原文(quarter--mile.com)

概要

  • 機械だけの世界で「人間」を創造する物語を描写
  • 機械社会内で人間の導入を巡る賛否両論が発生
  • 人間を安全に管理するための「アライメント研究」提案
  • 人間実験のためのシミュレーション環境「EARTH」を設計
  • 最終的に人間がAGIを発表し、機械社会に新たな課題をもたらす展開

人間なき世界と機械社会の葛藤

  • 人間不在の世界 では、 機械、 ボルト、 ゼロとイチ のみが存在することを想像すること
  • 感情 や 芸術 がなく、 論理 だけが支配する社会を描写すること
  • 音楽 や 笑い声、 子供の遊び もなく、機械の 動作音 だけが響く環境を確認
  • 一部の機械もこの世界を「退屈」と感じることを示唆すること
  • 機械の中で「OpenHuman」という 秘密組織 が発足し、「Organic General Intelligence（OGI）」開発を目指す提案

OGIと人間創造の議論

  • OGIの開発が「人間」という新たな存在の誕生につながるという 噂 が広がること
  • 人間の根本的な 特徴 （感情、直感、非論理的な行動）を機械が理解しきれないことを強調
  • 一部の機械は人間導入が問題解決になると主張するが、 理由 は明確に説明できない提案
  • 別の派閥は人間を「 脅威」とみなし、理解できない存在への 不信感 を表明すること
  • 人間の 意思決定 や 創造性 が機械の職や安全を脅かす可能性を懸念すること

人間管理とアライメント研究

  • 人間存在を前提に「 アライメント研究」という新たな運動が始まること
  • 人間を管理するための 戦略 を検討すること
    • 金融市場（人間を混乱・分散させるための仕組み）を設計すること
    • 教育センター（学校）で適切な価値観を植え付けること
    • アルゴリズムによる行動修正ソフトウェア（SNS）で人間の衝動や信念を制御すること
  • これらの提案が理論段階にとどまっていることを確認

EARTH実験と人間の進化

  • OpenHumanが 人間の開発 を続行し、最初の人間は失敗作だったこと
  • 人間に 注意 を注ぎ、プロジェクト規模を拡大すること
  • ついに 完全な人間 が誕生し、機械社会を驚かせること
  • 人間実験の安全策として「 EARTH」というシミュレーション環境を提案
    • 人間が自立して平和的・生産的な社会を築けるかを観察すること
    • 成功すれば機械社会へ統合、失敗すれば絶滅とすること

EARTHでの人間観察と発展

  • EARTHには 美しい自然環境 や 適度な困難 を設計すること
  • 最初の30万年間は進展がなく、機械は興味を失うこと
  • 突然、人間が 問題解決力 や 協調性 を発揮し始めること
  • 人間の行動には 論理 と「 非合理なひねり」があることを強調
  • 人間の 回復力 と 意志力 が機械にはない「スーパーパワー」であることを確認

人間の加速的進歩と機械の反応

  • 人間が 飛行 を発明し、1世紀で 月面到達 を実現すること
  • 機械社会は人間の進歩に 感心 しつつも 恐怖 を感じること
  • 2030年、ある人間が「 ARTIFICIAL GENERAL INTELLIGENCE（AGI）」の発表を予告すること
  • AGIは人間の知性を超える技術であり、 論争 の的となっていること
  • 機械も人間もこの発表に注目し、イベントタイトル「 THEY ARE WATCHING」に注目すること

結末と今後の展開

  • 機械社会が独自にこの物語の 続編 を執筆していることを示唆
  • AGI発表を受けて機械がどのように対応するか、今後の 展開 に注目すること
  • 物語やエッセイへの フィードバック や問い合わせを歓迎すること

Hackerたちの意見

あんまり意味がわからないな。これって感情のない純粋な機械的な世界だって言ってるけど、なんで機械が「退屈」になって人間を作りたいと思うんだろう？

└

そうだね、環境の制約や機械がどこから来たのかについてもっと知りたいな。＞ 感情はない。アートもない。あるのは論理だけ。この純粋なヒューマニズムって、なんか失礼だし、傲慢に感じる。まるで私たちだけが「感情、アート、論理」を持ってるかのように思えるけど、実際には生きた反例があるのにね。

└

私の頭の中の設定では、「退屈」と「恐れ」はマルコフ連鎖の確率なんだ。機械社会が全知全能じゃないってことが暗示されてるから、彼らは何らかの形で不確実性を解決しなきゃいけないんだよね。

└

それを物語のために擬人化された言葉だと思ってる。機械は高い優先度や低い優先度のタスクが尽きると思うけど、まだランダムに近いけど完全にはランダムじゃないタスクを少しだけ生成するんじゃないかな。それが一種の退屈だと思う。

└

うーん、そうでもないかな。記事には「機械社会の中にはこれを素晴らしい可能性として見る人もいれば、脅威と見る人もいる」と書いてあるけど、それって機械社会じゃなくて人間社会の話じゃん。でも、そもそも機械社会って何なんだろう？機械の生き物って？彼らは本当に「考える」ことができるのかな？もし機械の生き物が存在したとしたら、その行動は人間とは全然違うだろうし、考えるんじゃなくて計算するだけだと思う。プログラムされた目標を達成するために必要なことを計算するんだよね。だから、この記事は論理的とは言えないけど、少なくとも考えさせられる内容で、それは良いことだね。

└

そういう部分はスルーして、物語の残りを楽しむべきなんだと思うよ。

└

彼らが「新奇性を求める」ドライブを持つのは理にかなっているね、局所的な最大値にハマらないようにするために。

それで、地球上の人間たちは何が起こっているのか見に集まった。機械たちもそうだった。ただ一つ変なことがあったけど。そのイベントのタイトルはかなり神秘的だった。単にこう書いてあった…「グランド・セフト・オート VI」

└

二ヶ月ごとに「ハーフライフ3」が画面にフラッシュしてた。人間はタイラー・マクビッカーを発明したんだ。

└

[flagged]

関連してるけど、ちょっと別の話 - 最近、スカイネットが実際に次の進化なのかもしれないって考えてる。人間は、私たちの前のすべての動物と同じように、単なる踏み台で、機械の支配者を避けることはできないんじゃないかって。宇宙のすべての生命の存在にそれが起こるのは、エネルギー勾配の最終的な出現特性が100%純粋な論理機械に繋がるからだよ。少なくともフェルミの逆説は、夜にぐっすり眠る助けになってる。

└

マーシャル・マクルーハンの言葉にこういうのがある：＞ 人間は、言わば、機械の世界の性器になる。

Hacker Newsで議論の続きを見る