歴史には、人間の可能性を超える技術がたくさんあるよね。顕微鏡とか銃、スペースシャトルとか。人間の労働を明確に置き換える技術もあったけど、それが全てじゃないよ。

それがラッダイト運動のポイントだよ！元々のラッダイト運動は、進歩に反対してたわけじゃなくて、社会規模の経済的陳腐化によって引き起こされる社会的な害に反対してたんだ。技術の歴史は、こういう懸念に直接対処するんじゃなくて、進歩に反対してるっていう印象を与える強力なビジネスの利害関係者によって塗り替えられてきたんだよね…

「全部をやる機械を作ったから、誰も何もしない」っていうのは全然違うけどね。

労働から解放されるために機械を発明するのに、労働からの解放が生活を失うことを意味する経済を作っちゃったんだよね。

「人間がやってたことを機械にやらせる」って、技術の歴史そのものじゃない？まあ、そうかもね。でも最近みんなが気にしてるのは、人間は常に技術を使って何かを作ってきたってこと。文明やインフラを築いて、生活が進んでいくためにね。少なくともアメリカでは、数十年前に人々は文明を築くのをやめちゃった。ほとんどの下水道や交通インフラは70年以上前のものだし。数十年前には通信インフラが一時的に盛り上がったけど、すぐに止まっちゃった。だから今の技術は「みんなのため」ってわけじゃなくて、歴史的に見てもそうじゃなかったことが多いよね（もちろん例外はあるけど）。

もし機械学習が人間がやるタスクの一部を置き換えるだけなら、過去の技術革新と似たようなもんだね。でもAGIを作ったら、過去にそんなものはなかったから比べようがない。今までの技術は常に人間がやってることの一部を置き換えてきたけど、全部を一度に置き換えたことはないから。

「人間がやってたことを機械にやらせる」って、技術の歴史そのものじゃない？うん、でもアートや思考の部分に達するまではね。大きな問題の一部は、AIでの雑用をやる前にその部分に到達しちゃったことかも。

こんな技術の発展には、実施に反対する人たちが必ずついてきたよね？今はそんなに悪くないし、今日のラッダイトたちはAI企業のオフィスを壊したり、従業員や経営者を近くの柱や木に吊るしたりしてないから。

「私たちはそれを理解するべきだった」 そう思うよね！でも、アメリカ人が気にするタイプの問題じゃないみたい。もしみんなで取り組めれば、被害を受けた人たちが「家族のために頑張って得た生活や幸せを守ることより、社会のために新しいものの採用率を上げることにこだわるなんて、バカじゃないの？」って言われるような、すれ違いの衝突は起きないはず。変革が苦痛になる境界線があって、今の状況がその境界線にどれだけ近いかを分かってる人は少ないよ。

いつも産業革命の時代と比べてるんだ。きっと「手でできることに機械なんて必要ない！」って頑固なおじいさんたちがいたと思う。そういう人たちは、変化に抗うんじゃなくて、受け入れて技術の進歩を活かして生産性を上げる人たちにあっという間に置いていかれたんだよね。

人生は面白い問題の解決策だと思う。AIが私たちをそのユニークな解決策の例として保ってくれることを願ってる。

何かが死なないなら、それは「不死」よりも「図書館」みたいなものだっていう理論があると思う。生まれて死ぬこと（そして他の生き物と資源を共有することが、自分の有限な人生を他者と共有/短くする可能性があること）は、社会的な絆にとってすごく重要だから。宇宙のすべての知識を得て、その知識に基づいて行動できる機械は、結局はコントローラーがついた図書館に過ぎない。もし合成超知能が人類の終わりをもたらすなら、それは人間がそうプログラムしたからだと思う。悪意のある合成エイリアン存在よりも、コンピュータウイルスみたいなものだね。デジタル核爆弾。

これ見逃してたね: /s