政治家のことは心配しなくていいよ。もし多くの人が仕事を失ったら、きっとGPT-10にギロチンの作り方を聞くよ。

今回の技術の波は、人間を単に置き換えるだけじゃなくて、新しい仕事のチャンスに対して人間よりも簡単にトレーニングできるんだ。今のところ、重要なことでは人間を置き換えられないけど、能力が向上すれば、置き換えられた人間はどうなるんだろう？AIが全てにおいて人間より優れない限り、人間はAIを監督して指導することになるだろうね。

でも、人間よりも簡単に新しい仕事のチャンスにトレーニングできるって、どうしてそう思うの？ 自動運転車は、何十億ドルもの研究費と数十年の実用テスト、反復、監視などを経てきたけど、まだ解決されていない問題がたくさんあるんだ。警察の交通誘導を無視したり、工事のバリアを突っ切ったり、最近ではLAの暴動で焼かれちゃったりして、周りの混乱に全く気づいていなかった。人間のドライバーは、AIよりもずっと適応力があって、トレーニングも少なくて済むし、厳格なルールに従った運転というアルゴリズム的なタスクの例外に対処する準備ができてるんだ。そんな技術を、運転よりもずっと複雑で微妙な分野に自信満々に適用しようとするのは、無人環境でのヒューマノイドロボティクスの適用が人間の介入や操縦、メンテナンスなしではさらに難しいと思う。失業率はまだ過去最低近くで、これはしばらく続くと思う。大量の引退者と、人口「ピラミッド」を支える子供が少ないという構造的な問題があるからね（最近はピラミッドというよりも、テーパーした長方形に見えるけど）。

置き換えられた人間はどうなるの？ 戦争で荒廃した国や崩壊した帝国（ソ連）に行ってみて。自分も両方を見て育ったけど、絶望感や人々の諦め、アルコール（出生率の低下と死亡率の上昇の有名な「X」交差）、薬物、犯罪、腐敗/武装勢力、農村コミュニティが最初に打撃を受けて完全に消えてしまい、小さな都市が消え、中規模の都市も消え、残るのは大きなハブだけ。科学、文化、教育の喪失。人々はただ消えてしまう。彼らが持っていた最新の避難所の廃墟だけが残り、かつての素晴らしい建築すら残っていない。かつて栄えていた文化の廃墟を何百キロ、何千キロも走り抜けることができる。数年前には、そこに住んでいるおじいさんが一人いたけど、今では誰もいない。これがこれから来ることだよ。

大工、造園業者、屋根屋、水道工、電気工、介護、看護師、料理人、サーバー、パン屋、ミュージシャン、俳優、アーティスト… これらの仕事は、たぶんまだ数十年は置き換えられないと思う。もしかしたら永遠に置き換えられないかもね。そして、これらの職業はもっと必要になるだろうし、皮肉なことに、これらは最も古い職業の一部なんだ。私たちがやることは、住居、交通、食事、医療、そしてちょっとした楽しみのためにお金を払うためのサービスなんだ。大部分は住居、医療、交通に使われる。医療費はAIの進歩で少し下がるかもしれない。研究開発は安くなるだろうし、知識も安くてアクセスしやすくなる。だけど、人々が気にすること、ずっと気にしてきたことは、時代と共に古くからある職業に残っていて、AIに完全に置き換えられるとは思えない。強化されることはあっても、置き換えられることはないと思う。平均的な人のために高品質な造園が存在する世界を想像してみて。これは、今のウーバーのドライバーのような人が庭のアンドロイドのチームを所有する世界が実現するから可能になるんだ。あるいは、将来的にはみんなが金融業界で働くようになるかもしれない。みんなが企業になる。ダラダラと話してしまった。

このトピックについては専門家じゃないけど、AIと他の非物理的な効率ツールの違いは何だろう？（本当に質問してるだけで、反論してるわけじゃないよ）。企業は常に競争したいと思うから、単にAIを使うだけじゃ足りないと思う。私たちは常により良いソフトウェアや機能を求めるから、そのレースは終わらないと思う。すべての開発プロセスの100%を管理できるAIができるまでは（まだそこには近づいてないみたいだけど）。ExcelからAutoCADまで、仕事量を減らすと期待されていたツールが、新しい機能や革新の需要によって実際には仕事量を増やしてきたことがたくさんある。AIが本当に良くなると思うのか、それともすごく良くなってプラグアンドプレイで人を完全に置き換えるのか、その違いがあると思う。

そして、人間を再教育する方がその仕事のために機械を作るよりも簡単だから、より多くの良い仕事が生まれた。 それはうまくいかなかったと思う。自動織機は多くの熟練した職人を追い出したけど、彼らはすぐに機械の織機を管理する仕事を見つけられなかった。（ラッド氏はその追い出された職人の一人だった。）さまざまな農業機械や化学製品が大量の農村の人々を追い出し、彼らは工業の仕事を求めて都市に行かなければならなかった。1880年にはアメリカの農業は労働力の50%を雇用していたのに、1930年には10%になってしまった。インターネットの登場は、メディア業界の多くの人々を追い出した。高級なジャーナリストから、求人広告の新聞で働いていた人たちまで。これらの混乱は一時的な危機を生み出した。なぜなら、これらの人々をすぐに雇用できる産業がなかったから。

今のところ、LLMが訓練できない仕事かもしれない。新しい仕事、ニッチな仕事、秘密の仕事や文書化されていない仕事…今や一般的なポイントは、LLMが一つのことに関する知識を別の、馴染みのないことに適用できないように見えることだ。それがしばらくの間、私たちの強みになるかもしれない。

皮肉だけど真剣な質問：この波が労働を本当に破壊するってどうやってわかるの？「AI」に置き換えられたX人の話を掘り下げるたびに、いつも収益が減っている会社ばかりなんだよね。それに、高価値なユースケースはモデルの厳しい監視が必要だし、過去3年間、監視なしのモデルがコードベースで暴れ回る夢が語られてきたけど、最新のClaudeモデルですら、5つのCRUDメソッドを持つ新しいRESTエンドポイントを書くのに信頼できるわけじゃない。何かを間違えちゃうからね。人間の監視だけじゃなくて、検証と修正には人間の専門知識も必要なんだよ。なんか、こういう言語はLLMの能力を過剰に誇張して、役割を端から端まで信頼性高く果たすっていうより、創造性や専門知識を必要としない狭い範囲のタスクをそこそこ信頼できる程度でしかこなせないって感じがする。

これ、めっちゃムカつく。多くのエンジニアがこのシステムで働くことにワクワクしてて、雇い主を喜ばせるために1日に20件もプルリクエストを出して「はい、ボス！」って言ってる。彼らは30万ドルの報酬があれば、自分たちが応援している未来に参加できると思ってるんだよね。でも、今週食料品を買いに行かなきゃならなかった人は、この技術がもたらす経済の低迷から逃れられないと思うよ。自分専用の完全装備のバンカーを持っていて警備がついてない限り、影響を受けることになる。

失業のユートピアなんてないよ。みんなが給料をもらって裕福で高い生活水準を持っていたとしてもね。そんな世界では、人間が繁栄することはできない。みんなが引退して自分の興味だけを追いかけているなんて。

無職のユートピアは、経済的にも歴史的にも人類学的にも、全く通用しないと思う。別の可能性の証拠として、アメリカでは、私たちはかつてないほど豊かだけど、障害を持つ人を支えるシステムはほとんどないんだ。生活を続けるためのお金がないから、いつも人が死んでしまう。地理的に同じエリアに住んでいるからって、権力者があなたに甘えさせてくれると思う？今のアメリカでは、税金すら平等に払ってないよ。別の世界で少し生活してみて：刑務所に行くとか、ハーフウェイハウスに住むとか、路上生活をするとか。ハードモード：発展途上国でやってみて。そういう経験をした人に「無職のユートピア」を信じているか聞いてみて。非常に成功したシステムで生きる陶酔的な社会資本主義者たちを、他の人の未来を占うために頼るのは危険だよ。

「すべてのソフトウェアエンジニアが今やコパイロットに大きく依存しているという点で、これはインターネットのバブルかもしれない。私の周りのプログラマーは、あまり使わないし、もちろん依存もしていない。彼らは単なるコードモンキー的なウェブプログラミングだけをしているわけじゃないから、これはサンプリングバイアスかもしれないけど、この点を反証するには十分だと思う。」

AIはすでに学術的な宿題を無意味にしてしまった。他の技術はこんな影響を与えたことはない、インターネットでさえも。

LED照明も追加してほしいな。どれだけ違いがあったか忘れがちだけど、光害もあるし、家がどれだけ暗かったかもね。CFLは白熱灯とLEDの間であまり長くは続かなかったし、白熱灯で照らされた家は全然違う雰囲気だよね。

「多くのエンジニアがコパイロットを使っていて、LLMが最も頻繁なパターンを出力するから、ますますソフトウェアが同じように見える可能性がある。それが同じパターンをさらに強化することになる。例えば、エムダッシュのやつは、上書きするために追加のプロンプトや指示が必要なんだ。何か変わったことをするには、もっと努力が必要になる。」

現在の社会的影響については、他の3つに近いかもしれない。でも、他の技術革新とは性質が違うと思わない？

AIはまだ最初に出たときの奇妙な黄昏のゾーンにいると思う。時々は素晴らしいけど、時々はひどい。ChatGPTの返答をGoogleで確認すると、まだ幻覚が見えることがある。一方では、言っていることは信頼できないけど、もう一方では、自分が書いたコードのバグを見つけられなかったのに、ChatGPTが見つけてくれたこともある。AIが人気で、企業が潰れていない理由の一つは、たぶん何十万、いや何百万もの人が幻覚のある返答を受け取っているけど、ユーザーはそれに気づいていないからだと思う。私もChatGPTが最初に出たときにこの罠にはまった。何でも聞くのが楽しくて、正しいように思えた。でも、後になってそれが情報の幻覚だと気づき始めた。どれくらいこの現象が広がっているかは言いづらいけど、やっぱり有害だと思う。でも、前にも言ったように、AIにはまだ使い道があって、それが評価を難しくしているんだ。

HNにはAIを過小評価する傾向があると感じてる。 この見解を見るのはいつも面白い。私の感覚はまったく逆なんだ。AIに関して、私にとってこれほど認識のズレが大きい問題はなかったと思う。時々、いろんな側が違う現実に住んでいるように感じる。

「…投票として…計量として…」それはグレアム、マンガー、またはバフェットの引用だったと思う。 > 「間違ってすらいない」 - いいね、パウリの好きな言葉の一つだ。

市場は集団の意見を表すだけだよ。短期的には投票機として、長期的には計量機としてね。政治経済の考え方や厳密さの方が好きなんだ。市場は好みを集約するものでもあり、調整メカニズムでもある。君のフレーミング（投票機と計量機）はもっと明確さを提供するの？もしそうなら、どういうこと？よく分からないんだけど。

市場はそれを受け入れたくない。 > なんて馬鹿げた前提なんだ。市場は気にしないよ。君は最初の文をあまりにも文字通りに読みすぎだ。文脈の中で意味があるんだよ — それは慈悲と好奇心を持って探求できるものだ。

でも市場は間違っていることはないの？社会の役に立つエンジンとして期待に応えられないって意味で。私が理解したところでは、この記事が言いたかったのは、AIが全体の方程式を完全に変えてしまうから、現在の市場の動きがOPにとって危険なほど非合理的に見えるってことだよ。君のコメントが何を意味しているのか、著者の社会政治的な哲学についての専門外を攻撃しているように見えるだけで、よく分からないんだけど。

誰の著作やポッドキャストを読む/聞くことをおすすめする？

100%。誰かがニューラルネットワークの仕組みを理解しているからって、経済や社会に与える影響を理解しているわけじゃないよね。もちろん、彼らが正しい可能性もあるけど、普通の賢い人と同じくらいの洞察しか持ってないと思う。

資源や材料はまだ必要だし、経済はこの取引から生まれるよ。

経済学は基本的に資源配分の研究だよね。配分が必要な資源があるんだから。AIが様々な分野で中央集権的な製造を必要とする規模の経済を中和するなんて、全く信じられないし、一般的な経済もそうだと思う。