これを「侵入者」と読んじゃった。エクストラローパーって何？

すごく簡潔ですね、こういう洞察をシェアしてくれてありがとう。

だから、ここで反対してる人が多いのも納得だよね。みんな平均以上だと思ってるのかな。

これはAIに関する別の名言とも一致してるね。LLMから何か利益を得るためには、自分がLLMよりも多くのことを知っている必要がある。

平均以上の人もそれを使って平均的な結果を得ることができる。それも実際には役に立つことがあるよね。多くのタスクやユースケースでは、十分な結果の基準がかなり低いこともあるし。

「平均以下の人もAIを使って平均的な結果を得ることができる。でもそれは平均を上げることになる。」

そんなのありえない。npmのプロジェクトYで何かやり方が分からなかったら、GitHubからWebStormでチェックアウトして、ジュニに聞いてみなよ。すぐにいい答えが返ってくることが多いから。もしダメなら、コードベースを理解するための質問をしてみればいい。迷路のようなMapのデータ構造が分からなくても、どう使われているかをスキャンしてドラフトのドキュメントを作成してくれる。確かにJiraのチケットを指示してPRをもらうことはできないけど、ペアプログラマーとしては使えるよ。独りで作業するよりは速くはないけど、テストを書く量が増えて、エラーハンドリングについて議論することで、最終的にはより良い仕事ができるようになる。

そうじゃないよ。得意なこともあれば苦手なこともある。使えば使うほど、どっちがどっちか分からなくなってくる。

エージェントには、プロジェクトを立ち上げるのがあまり得意じゃなくて、中小規模の既存プロジェクトで使うとすごく良いけど、サイズが大きくなるにつれて徐々に悪化するカーブがあると思う。新しいプロジェクトだと、LLMが「例のような」コードに落ち込むことが多いんだ。これは本番環境には絶対に入れないようなコードだよ。（例として、クラウドが僕のプロトタイププロジェクトで、タスクごとのファイルログを配列にプッシュして、全体をJSONにシリアライズして、すべてのログイベントごとにファイル全体を書き換えたことがある。）

人々は自分がどれだけ間違える可能性があるかを認識していないし、そのエラーに気づくには努力と知識が必要なんだ。僕には高学歴の友達（PhDやMD）がいるけど、彼らはAIやLLMが間違いを犯さないと単純に思ってる。彼らは、幻覚が起こる可能性があることにショックを受けてた。完璧な文法や構造、そして自信に満ちたLLMの出力が、ユーザーに専門性を仮定させるハロー効果があるのかな？

エージェントモードを使ってコーディングしようとしても、最初はうまくいくけど、どんどん逸れていくのは明らかだよね。僕は、さまざまなクラウドモデルを使ってコードをインデントしようとするような、全く関係のないことをしようとするのを経験したこともある。

うん、チェスの例は面白いね。チェス専用のAIは人間より明らかに優れてるけど、一般的なAIは合法的な手を打つのもやっとって感じ。AIの限界は、今のLLMよりずっと高いのが明らかだね。

すぐに、一連の手を長く追跡できないことに気づくよ（通常は5～10手；私が見た中で最長は18手）。チェスでは、過去の手は関係ないし、LLMは無関係なデータをフィルタリングするのが得意じゃないからね。より良いパフォーマンスを得るためには、コンテキストウィンドウに関連するデータだけを含めるべきだよ：現在のボードの状態をね。

LLMがチェスをするのは大したことじゃないよ。チェスのゲームでモデルを訓練すれば、そこそこなELOでプレイできて、違法な手を打つことはほとんどない（つまり99.8%の合法手率）。そういうモデルはいくつかあるよ。訓練後はチェスの能力に影響が出ると思うし、OpenAIとかはそれをあまり気にしてないんじゃないかな。でも、LLMはちゃんとチェスをプレイできるよ。

いいポイントだけど、ちょっと言わせてもらうと（細かいことを言うようだけど）、機械やコンテナが「家畜」と呼ばれるのは聞いたことがないな。僕の周りではいつも「ペット」と「牛」って感じだ。これって地理的な違いなのかな？

おお、「ペット対家畜」のアナロジーは「職人対適当な作り手」の議論よりもずっといいね。LLMを使うことが、よく作られた理解しやすい結果を軽視することにはならないから。でも、コード自体を見る視点が大きく変わることを示してるよね。コードへの感情的な愛着と、目的を達成するための手段としてのコードの違いって感じ。

指摘してくれてありがとう。これは洞察に満ちたアナロジーだと思う。生成されたコードは、大規模なクラウドコンピューティングの管理と同じように扱うことになるんじゃないかな。これは、数年使われているレガシーコードには当てはまらないと思うけど、運用中のデプロイメントがより高い信頼を与えてくれるからね（変更による回帰エラーのリスクも高くなるけど）。あなたの考えについてブログに書いたことある？stillpointlab.comのサイトはあまり情報がないし、@stillpointlabも同様だね。

あなたがやってることを「チート」とは思わないよ！

どうやって「質がかなり良い」ってわかるの？その「どうやって」がわからないのに。質の向上は、最初にあるゴミに対して相対的なものに見える。結果に自分が感動する限り、実際に質が高くなくても関係ないのかな。

「AI」の答えって、あんまり正確じゃないと思うし、場合によってはリスクになることもあるよね。下の方に「AIの回答には間違いが含まれることがあります」って書いてあるけどさ。 >「redditやインスタ、tvtropesで答えを見つけるのとは逆だよね。」 ほんとそれ。redditとか他のフォーラムで、誰かがそのトピックをよく知らないって分かることがあるけど、たいていは誰かが知ってて答えがあるんだよね。残念ながら、「AI」はそういうのを学習してるから、正しい答えを出すのと同じくらい間違った答えを出す可能性がある。これは何の改善にもなってないよ。 >「UIの気を散らす要素、広告やSNSをかき分ける」 ああ、つまり「AI」がずっと無料でクリアだと思ってるの？今のうちに楽しんどけよ、だってこれらの「AI」企業は手に負えない状態で、まるで大動脈が消火栓みたいにお金を失ってるから、すぐにあなたの日常を明るくする広告やSNSがたくさん来るよ。無料の恩恵は永遠には続かないから、これは「損失リーダー」としてあなたをハマらせるためのものだと思って。

「正確」

グラフィックには、不平等が増加することを示す4つの研究と、不平等が減少することを示す6つの研究があるよ。

リンクありがとう。$70億のデータセンター（Meta）が必要だって信じてる人には明らかだと思うし、その投資はサブスクリプションで償却される（Metaの場合はユーザー監視の強化でも）。生産手段は小さな寡占にあり、残りは冗長か搾取される小作農になるだろうね。（「AI」が機能するという前提のもとで、少なくともその支持者たちは公然とそう言ってるけど。）

そうそう、グラフはすごく大きな仮定をしてるけど、それが裏付けられてるところはAIのマキシマリストの妄想くらいしかないよね。オンラインでビジネスとして展開される「雰囲気で作ったサイドプロジェクト」に関してもギャップがある。コードベースはすごく大きくて複雑なの？いや、そうじゃない。AIは初心者から入力を受け取って、この分野で「十分に良い」ものを作れるの？それも違う。

ある意味で同意するよ。必ずそうでなければならないとは思わないけど、白いラボコートを着ていると科学者っぽく見えるっていう感覚は同じだね。彼らの正直な試みは、物事の捉え方の関係を表現しようとしたんだと思う。これは、仮説を表しているというアイデアを明確に伝えられれば、価値のあるコミュニケーションの形として使えると思う。グラフに「仮説」とラベルを付けるのが一番シンプルだけど、微妙で識別しやすいビジュアルの変化の方がいいかもしれないね。軸に波線を使うのは、その表現のアイデアとして思いつくよ。ただ、値が軸を越えたときに起こる決定的なイベントについて仮説を表現する能力が心配だな。そういう場合は、直線が必要だと思う。もしかしたら、プロットが表示されるポイントを越えた軸の端に波線を持たせるだけで十分かもしれないね。それ以上に、この記事は、習得が進むにつれて曲線が平坦化することを前提にしていると思うけど、それが必然だとは思わない。比例的な改善を評価するからそう見えるのかもしれないし、スキルを対数スケールに暗黙的に置いているからかも。著者の投稿は、経済学者のリンクよりも誠実だと思う。みんなの意見を知りたいし、正直に言ってほしいな。もし彼らが確かなデータを持っているなら、それを示して仮説を確認する方法を教えてほしい。逆に、データを集めて、明示的に述べる勇気がない仮説を暗示する測定値だけを公開するのは良くないよね。

不平等 それは、電話やノートパソコンを持っている誰にでも無料だよ。

そうだね。退職した数学者として、28歳の熱心な生産性を求めているから、2025年にはAIに全力投球してるよ。今はClaudeの月200ドルのMaxプランに加入して、Claude Code Opus 4を制限なしで使っている。57ファイルのレガシーコードベースをレビューするために並行セッションを実行すると、やっぱり制限に引っかかることが多いね。しばらくの間、誰とも話さず、AIについての情報も読まなかった。自分の経験に合わないノイズばかりだったから。最近、HNには面白い意見がいくつかあったけど、これはそうじゃない。僕は、神経多様性のある人たちがAIを使うと成功しやすいと思ってる。これは簡単に空虚な言葉として片付けられるけど、この意見にはしっかりした理論がある。AIは巨大な連想エンジンなんだ。線形エンコーディング（「王 - 男 + 女 = 女王」みたいなやつ）は線形代数だ。僕は数十年にわたって線形代数を教えてきた。今日、眼科医に説明したように、三本の指で皿をバランスさせようとするとき、指が離れている方がうまくいくんだ。僕の人生の中で、人々は僕が状況をあまりにも遠くのアナロジーで分類するたびに目を回してきた。今、僕はAIと一緒にコーディングする時間がほとんどで、AIは僕が焦点を合わせようとしていることに対して「指が離れている」遠くのアナロジーに非常に良く反応してくれる。AIは線形代数に基づく連想エンジンで、僕は部分空間を説明する才能がある。AIは天井を上げているだけで、床を上げているわけじゃない。ポアンカレ予想のより良い証明を完成させようとしているところで、もし成功したら、大学院生への教訓は「ふーん。第二の上昇」じゃなくて、「この69歳のじいさんがノイズを無視してAIのサイボーグになった」ってことになるだろうね。

もちろん、AIは不平等を増加させるよ。自動化された梯子引き上げ技術だ。何かに優れるためには、下の段を通り抜けてスキルを身につけなきゃいけない。AIはその下のレベルの仕事をすべてこなして、経験を必要とする人たちを路上に追い出し、未来の専門家を奪ってしまう。最も利益を得るのは、すでに梯子の上にいる人たちで、彼らは何十億も投資して梯子をより早く上げようとしている。

自分が苦手なことについては、'スピードアップ'しているような錯覚を持たせてくれる。たぶん、それは個人的な天井を上げることなのかな？ 反対だと思う。それは個人的な天井を上げる錯覚に過ぎない。 --- 例1: アリスはシンプルなテキストだけのブログを持っている。彼女はウェブサイトのスタイルを更新したいけど、以前の投稿は残したい。彼女はページのスタイルを「モダン」に更新する方法を調べる。彼女はホームページ、投稿ページ、アバウトページを更新する。でも、ログインページは異なる要素を使っているから、壊さずに更新する方法がわからない。彼女は新しいフォーム要素を学ぶために調査し、その過程でログインシステムの構築方法に関する推奨を見つける。彼女はフォームのスタイルを変更する方法を学ぶためにテストページを作り、そのついでにログインシステムの構築方法も学ぶ。彼女はログインページを再デザインする。アリスは自分の達成できることの天井を上げたと信じている。アリスは正しい。 --- 例2: ボブもシンプルなテキストだけのブログを持っている。彼はウェブサイトのスタイルを更新したいけど、以前の投稿は残したい。彼はLLMにスタイルを「モダン」に更新する手助けを頼む。彼はホームページ、投稿ページ、アバウトページ、ログインページを更新する。でも、ログインページはもう動かない。ボブはLLMに修正を頼み、何度かやり取りした後、再び動くようになる。ボブは自分の達成できることの天井を上げたと信じている。ボブは間違っている。彼は自分の知識や能力を増やしていない。1週間後、彼の投稿は消えてしまった。 --- 両方の例の違いはほんの少しだけ。1. アリスはLLMを使わないが、ボブは使う。 2. アリスはページを再デザインする方法を知っているが、ボブは知らない。 3. アリスはログインシステムがどう機能するかを知っているが、ボブは知らない。ボブはLLMにログインページを再デザインするよう頼んだが、LLMはそれを実行した。ページが壊れたとき、ボブは自分が正しいユーザー名とパスワードを使っていることを確認したが、まだ動かなかった。彼はLLMに、自分のユーザー名とパスワードで常に動作するようにログインページを変更するよう頼んだ。LLMは、ハードコーディングされたユーザー名とパスワードを常に受け入れるログインフォームを生成した。そのハードコーディングされたチェックはクライアント側で行われ、ユーザー名とパスワードは今や公開されて見える状態になっていた。ボブはLLMにフォームを安全にするよう頼まなかったし、その必要があることすら知らなかった。彼は避けるべき足元の罠が何かも知らなかった。アリスとボブは同じ出発点から始まった。彼らはログインシステムをどう構築すべきかの知識が欠けていた。その知識はどこかに文書化されているから知られているが、彼らには未知だった。それは「知られている未知」だ。アリスがフォーム要素のスタイルを学んだとき、彼女はフォームがどう機能するかに関するリンクを読み、そこからログインシステムがどう機能するかに関するリンクにたどり着いた。その知識は彼女にとって、未知の知識から「知られている知識」へと変わった（彼女が今は知っている知識）。ボブがLLMにログインページを再デザインするよう頼んだとき、ログインシステムがどう機能するかの知識は彼にとって「知られている知識」にはならなかった。そして1週間後、退屈な子供がそのページを見つけ、フォームを右クリックして検査し、ログインに使えるユーザー名とパスワードを見つけることになる。