数学には自己検証ができるから、これがうまくいくんだよね。一度証明があれば、外部の証拠は必要ない。モデルの出力を評価するには専門知識が必要で、自己検証できないところでは、少なくとも自分の専門知識がモデルを正しい方向に導く助けになるかもしれない。でも、モデル自体が専門知識や情報を評価・活用するのが得意なら、これは関係ないよね。

一発で解決できない問題はどうなるの？助けが必要な場合は？

LLMはバイアスの集合体だよね。人間もまたバイアスの集合体。だから、自分のバイアスをLLMのバイアスを通して入力して、出力を得るんだ。だから、最適な出力を得るには最適な人である必要があると思う。この文には表現のポイントがたくさんある。最後に、私たちは自分たちが誰であるかを基にLLMを訓練している。これもまたバイアスの強化だよね。

それはレベルによるね。フィットネスレベルや年齢が違う人たちは、全然違うペースで走るから。じゃあ、車は彼らをより平等にするのか、それとも逆なのか？下の方では、潮がすべての船を持ち上げる。ほとんどの健康な人は運転を学べて、「まあまあ」運転できるから、A地点からB地点に行ける。街中では、車が違いを平らにして、みんな大体同じ時間でAからBに行ける。でも、トップのトップでは、ギャップが広がるかも。プロのF1ドライバーは、ランダムな人を周回するから。スピードが速いと、タイミングの小さな違いが大きな違いになるから、反射神経を強化するんだよね。AIコーディングは完全に同じではないけど、これにも二つのレジームがあると思う。単純なタスクでは物事を平らにする。データを掘り起こしたり、ひどいデザインのエラーメッセージを見ながらトリビアルなコンパイラの調整をしたり、GitHubの問題を見て「たぁだぁ」絵文字がたくさんついてるコメントを探して問題を解決したりするタスクは、今や誰でもできる。おじいちゃんが食料品店に運転するのと同じだね。でも、もっと高いレベルで物事を進めようとすると、今度は自分のAI以上の能力が重要になる。AIが得意なことを引いたら、どれだけ他の専門知識が残るのか？これが人によってどんどん大きな違いになるんだ。

このモデルが誰を報酬するか、誰を力づけるか 簡単でストレートな答えは「モデルを持っている人たち」だね。他に誰が得をするかはもっと複雑な質問で、見ていかなきゃね…

人生と同じで、もしかしたら「勝者」はただ行動する人なのかも。 ただ行動する人でも、エラーや失敗に対処できる能力が必要だよね。そこで専門家や一般人がアドバンテージを持つかもしれない。

その通りだね。個人的なコーディングプロジェクトで「私はプロのソフトウェアエンジニアで、これは趣味のプロジェクトだけど、ただの雰囲気でコーディングするつもりはなくて、信頼性のあるソフトウェアを作りたい」と言ったら、エージェントが突然、コードをより堅牢にするためのいろんな提案をし始めたよ。

AIの使用が、初心者がC++の本やPythonの本、CSSのチュートリアルを読むという基礎的な学びを置き換えるべきだとは思わないな。プロになりたいなら、そういうことはやらなきゃいけないし、強いアマチュアになりたいなら同じくね。でも、多くの人はただ作業を終わらせたいだけなんだ。メカニックになりたいわけじゃなくて、AからBに運転したいだけなんだよね。

ただ、LLMは知っていることの中で最も一般的または平均的なものを基準として共有する傾向があるから、そこから逸脱する（新しい方法を含む）ことには抵抗があるかもしれない。専門家は、LLMが一般的に冗長になりすぎないように、異なる枠組みを提供できるし、それはコード生成や複雑さにも転用できるんだ。