そんなに大騒ぎするほどのことじゃないと思う。結局、彼らも人間だし、LLMの能力を過大評価してたんだよね。もっと重要なのは、これが市場に合った製品を示してるってこと。

「『開発者を置き換えるつもりだ』から『開発者を愛してる、トークンを燃やし続けて』に変わるのは皮肉だね。」 これ、めっちゃ真実だね。上手いこと言った。

それがイーロン・マスクの精神だね！

もし今後10年の間に政府の救済が必要になる可能性が2%でもあると思うなら、自分の製品を「死神」と呼ぶのは無理があるよ。

「AIをうまく使う企業が、そうでない企業を置き換える」って言いたいけど、今はモバイルだから大文字小文字交互にはできないんだよね。

大規模な失業が起きると、深刻な不況が訪れて、最終的にはほとんどのAI顧客に影響が出るから、利益を上げるための顧客が少なくなるんだ。AIビジネスにとっての最良のシナリオは、大規模な失業なしに生産性が向上することだね。

彼らは、IPOに向けて必要な小口投資家を惹きつけるために、何かを転換しようとしてるんだ。エロンのプレイブックから取ったみたいな、「AIが2030年までにアルファ・ケンタウリに連れて行く」とか、「AIが年末までに癌を治す」とかね。

これが私にとっても「全体像」だね。役に立つし、いくつかのことを早くするけど、長いことやってるからね。最先端のツールや中期的な未来は、特に終末的なものには感じないけど、マクロな力やスケーリングの影響、そしてそれに対する一般的な反応は別の話だね。

まるで彼らのビジネスモデルが、昔のチャットGPTが「ピザに石を乗せろ」って言ってた頃に書かれたみたいだね。

お金について何かを教えてくれるね、これが地球上で最も裕福な人たちの一部だってこと。正確に何かは分からないけど、倫理なんて無視して、適当なアイデアを壁に投げつけてみて、何がくっつくかを見るのが共通のテーマみたいだね。

これって、経営陣がどれだけ社員や顧客に無関心かを物語ってるよね。四半期ごとの利益が神様で、株価の祭壇で崇拝してる。AIを使って社員を活かして生産性を上げる方法を考えるんじゃなくて、すぐに社員を削減する方法に飛びつくんだ。成長思考とは真逆だよね。これらの経営者に、人に投資することが間違ってた時を見せてほしい。正しいことをして、人を大切にし、良い職場環境を提供することで罰を受けた企業なんて見たことないよ。この企業界の自殺的傾向、毎回労働力を削減するのは本当に驚くべきことで、株式市場がそれにポジティブに反応するのは恐ろしいね。

その通りだね。顧客の成功と営業が、顧客が何を大切にしているか（メールやトランスクリプトなど）の情報を簡単に落とせるシステムを作ったんだ。AIがそれを分析して、バックログの問題に文脈を追加するんだ。バックログにあるすべての問題は、誰にどんな利益があるのかを説明することに結びついてる。複数の情報源を統合して、自動的に文を書くためにAIを使ってるんだ。これでコミュニケーションがスムーズになることを期待してる。今のバックログの問題は、なぜそれが重要なのか、何が高次の目標なのかを非常に明確に説明する3-4ページになってる。最初はエンジニアたちも「うわ、テキストが多い」と言ってたけど、読んだ後は「これが今まで見た中で一番よく書かれた問題だ」と言ってたよ。いい感じで、プロダクトマネジメントを効率化して、顧客のフィードバックを開発パイプラインに自動化する準備が整って、君が指摘してる問題のボトルネックを劇的に減らしてる… と思ったら、今日は重要なハルシネーションの問題を見つけちゃった。顧客が言ったこととCS担当者が言ったことを混同していて、その結果、問題が完全に間違ってたんだ。これはOpus 3.7の拡張思考での話ね。（大きなトランスクリプトで、コンテキストウィンドウの限界を押し広げて、複数のスキルを読み込んでたからね）だから、可能性はあるけど、まだそこまで行ってない。これが完璧に機能しても、これらのモデルが一度に保持できるコンテキストは、人間の0.1%くらいだと思う（それ以下かも）。だから、難しい決断をするためには、まだしばらく人間が必要だね。これは、LLMの限界を押し広げている最先端のスタートアップの話なんだけど… それでもこのコンテキストがLLMの成功に最適化されている状況でも、人を置き換えるにはほど遠い。LLMからは多くの価値を得てるけど、言っておくと、問題の解決は単なるファクトチェックだけじゃなくて、それ以上のことなんだ。ある意味、コンテキスト管理に行き着くと思う。人間は何桁も多くのコンテキストを保持できる。コンテキストがボトルネックだね。技術はまだまだ十分じゃないし、たとえ十分になったとしても、正しいコンテキストをAIに入れるための運用上や文化的な障害がたくさんある。さらに、ジェボンズの逆説も考慮しなきゃいけない… まだまだ遠い道のりだね。今から一世代後には雇用がかなり違っている可能性があると思うし、そこに至る道筋はなんとなく理解できるけど、AIによって5年後に失業の大惨事が起こるとは全く疑わしいね。無関係な経済ショックはあるかもしれないけど、AIによるものではないと思う。

「でも助けるだけで、アイデアを考え出すことはできない。」 「もちろんできるよ、ただ聞けばいいだけ。」 今までに何度も、AIが自分の力で難しい問題を解決したことがあるんだ。正直、そんなことができるとは思ってなかった。AIに自分で実験ループをデザインさせて、各ラウンドから学ばせて、プロセスを繰り返させてる。何度も人間の介入なしで、実際に変化をもたらす結果につながったんだ。もちろん、そうじゃないケースもたくさんあるけど、以前思ってたよりもずっと能力があって、自分で解決できる問題の範囲がどんどん広がってる。ここでのコメントを読むのは、過去か別のタイムラインを垣間見るような感じだね。システムにはたくさんの慣性があるから、変化がすぐに起こるとは期待しない方がいいけど、「AIは仕事を奪わない」って言葉を今聞くのは、1990年代中頃に「誰もオンラインで買い物なんてしない！」って聞いた時に似てる。

企業は、AIにお金を使うのは、他のところでお金を節約するためだけなんだよね。だから、LLMがいくつかの作業を楽にしても、君が言ったような摩擦点がたくさんあって、全体的に納期に大きな影響を与えないなら、これらのトークンを買う正当性を見つけるのは難しいと思う。納期が同じでも、品質が上がったとしても、トークンの支出を正当化するのは難しいかもしれないね。

「もちろん、彼らに聞けばいいさ。」 これってAIの擬人化が大きな要因だと思う。AIは人間じゃないのに、人間のように扱い始めると、人間として信じたり考えたりするようになって、人間の安全チェックが抜けちゃう。人間をループから外すと、無防備な武器や危険な物体が放たれることになる。Excelのスプレッドシートから実際の武器まで、すべてに人間が必要なんだよね。

破壊的ではあるけど、終末的ではないよ。今の時代に一般的な職業のいくつかは消えるけど、逆に増える職業もある。全体的な生産性は上がるけど、無職になる人には辛い状況になるだろうね。確かに、ほとんどの人が働く時間が減ることはないと思うよ。ソースとしては、50年前にコンピュータやデータベースがペンと紙の業界に普及したことを見てみて。あれは今回のよりもずっと破壊的だったから。

一番イライラするのは、今の時代では、嘘をついたりごまかしたりすればするほど、報われるってことだよね。勝者はさらに少ない反発で嘘をつけるから、危険なサイクルが生まれる。

「どんな欠点があっても、オンラインで見つかる文章は本物だよ。ピッチレターやプレスリリースの切れ端から作られたミステリーミートじゃなくて、キラキラしたジャーナリズムの型にはめられたものでもない。」 - PG 2005年 20年でどれだけ落ちぶれたか…オンラインの文章は昔は完全に本物だったのに、今じゃAIのゴミの中から針を探すようなもんだね。

そうだね、「AIの黙示録」みたいな話は、宇宙の支配者たちによって危険視されてるって決まった感じがする。だから、話の内容も変わってきてるんだよね。危険っていうのは、もちろん、どれだけ悪化するかってこと。

そうそう、上でも言ったけど、先週『The Economist』がついに「これは本物だ」って言ったんだ。彼らの以前の立場からの逆転だね。『The Economist』は実際のデータを見るのが好きで、常にリアルタイムより遅れてるから、今は過去のデータでそれが起こってるのが見えるんだ。AIの導入は、鉄道やトラクター、さらにはコンピュータのような以前の産業革命よりもずっと早く進んでる。こういうものが世代を超えて普及する時は、吸収されるんだけど、大学教育よりも短い時間で進むと、大きな雇用問題が出てくるんだよね。

建築家たちの信じることは現実に基づいてるのか、それとも利益の夢に基づいてるのか？これを定義できないなら、彼らを考慮する意味があるの？

それって、君の（暗に）2つ目の提案だと思う。ここで誰かがAI企業がそんな発言を引っ込めるだろうって予想してたのが面白いよね。確か、エリック・シュミットのブーイングスレッドでだったかな。

彼らはただ適当なことを言ってるだけだと思う。そして、まるで何もなかったかのように正反対のことを言う。だから、次のトークン予測を思考と混同するんじゃないかな。AIを持ち上げるためじゃなくて、自分たちを正当化するために。

プログラミングは実際に自動化されてるよ。プログラマーは以前は生のバイナリコードやアセンブリ言語でプログラムを一行ずつ書いてたけど、今はC++やRustのような高水準の形式的なコードを書くだけで、コンピュータはそのレキサーやパーサーの「トークン」を処理して、全体をアセンブリやバイナリコードに翻訳するのに多くの時間を使ってる。これがうまく機能してるんだよね。

他人の仕事をまるで球体の牛みたいに無知で扱ってることが多すぎると思う。AI研究者だけじゃなくてね。LLMが登場するずっと前から、プログラマーは他人の仕事を自動化するのがどれだけ難しいかを過小評価してた。知識労働者は大工がただ木に釘を打つだけだと思ってるし、ブルーカラーの人たちは知識労働を「画面の前に座って、左のExcelから右のフォームに値をコピーしながらラテを飲むこと」だと思ってる。たった2.5年前、プログラミングはLLMに大きな影響を受ける最後の知識労働者の仕事だと思ってたのに、最初の方になっちゃった。AIモデルは今後も大きな影響を与えると思うけど、しばらくは知識労働を排除するんじゃなくて、ラストマイルの問題に変えるだけかもしれないね。

彼らは古いPRを更新したPRで引き戻してるね。