まあ、最後の消費者が間違った使い方してるのは当然だよね。なんで？最後の消費者は目の前にいるけど、他の人は7つのプロキシの向こう側にいるから。

そうだね。ここでの主な警告は、リスクが増えるってことだと思う。ちょっとした不具合があちこちで起きて、最終的に何かが壊れるまで。

LLM以前の時代が「質の黄金時代」だったわけじゃないし、むしろその逆だよ。LLMが急いで作られたクソみたいな仕事のサインをまた一つ消し去ったってこと。

LLMが正しい時間枠で、誤字がなくて、見た目が良いレポートを作るっていう主張には、私も同意できるかどうかわからないな。明らかにサインがある人間やLLMのレポートは無視する覚悟もあるし。LLMでも人でも、雑な仕事やエラーだらけのものを作ることができる。良いレポートと悪いレポートの区別が難しくなってきてるかもしれないけど、それが評価者に負担をシフトさせるのを助けるんだよね。特にコストに基づいてLLMの使用が分かれてくると、そうなる。高品質なフロンティアモデルは高いコストでより良い仕事を生み出すかもしれないけど、下からの経済的圧力もあるし。人間のコンサルタントや従業員と同じように、高品質な仕事にはもっとお金がかかるよ。何を主張したいのか、ちょっとわからなくなってきたけど、LLMが低品質なレポートを作らないなんて考えは、私にはちょっと馬鹿げてると思えた。

自動化の目標は、一貫して完璧な能力を自動化することであって、人間の失敗を自動化することじゃないよ。人間と同じくらいの精度で、しかも頻繁に間違える計算機なんて使わないでしょ。

私にとっての問題は、ミスに対する人間の説明が欠けていることなんだ。人間の場合、質の低さには原因がある。知識の不足だったり、時間的なプレッシャーだったり、自己中心的な目標だったり。最も重要なのは、そういったエラーの原因が一貫していること。あるインターンが注意深いけど無知だったり、赤ちゃんがいる先輩が知識の宝庫だけど、睡眠不足で明らかなことを見逃したりするのは信頼できる。AIの場合は、誰にも予測できないから厄介なんだ。完璧にコードを実装しても、同じ実行で初歩的なミスをすることがあるからね。だから、極端に有能な機械に対して、完全に無能だと仮定してレビューするという直感に反する作業をしなきゃいけないんだよ。

それは、ポジティブなフィルターじゃなくて、ネガティブなフィルターなんだ。つまり、誤字や基本的な事実誤認があると簡単に仕事を拒否できるけど、それがないからといって質が良いとは限らないってこと。通常、こういったチェックは最初の段階であって、唯一の基準じゃない。これがあると、最初のチェックを通過した後に実際の問題を特定しやすくなるから価値がある。同じ理由で、コードの質やリントスタイルを整えてから、実際に書かれている論理を考えるんだ。

「どちらの主張にも同意するか分からない… 人間が生成した知識の中には、事実として正確で、フォーマットも整っているけど、概念的には非常に質が低いものをたくさん見てきた。悪いアイデアに高いレベルの磨きをかけるのは、基本的に詐欺師の手口だよ。ビジネスの世界では、質の高い仕事に関連するすべての磨きや飾りを使って、悪いアイデアや製品を着飾って成功を収める人たちや企業がいるんだ。」

AIのサインは、今や人々にとって認識しやすい。実際、こういった言い回しは単に認識できるだけでなく、明確に区別できる。<-- 俺がやったこと、分かる？これらの非常に明白な構造を見つけても、99%のAI生成テキストを見逃すかもしれない。なぜなら、それには手がかりがないから。でも、99%が生成されたことを知らないし、あなたが示したパターンの100%を見つけるから、AI生成のテキストがあなたの目を通過することはないと思ってしまう。

どちらの主張にも同意するか分からない… そうだね、これは重要じゃないと思う。「知識作業」の多くは、常に他の何かの代理だった。誤字やエラーの高品質は、アイロンがけされた白いシャツにネクタイを付けるのと同じように、尊敬のシグナルなんだ。「誰も深く読むことを期待していないテキストの壁」。基本的には、犠牲と従属の象徴的なデモンストレーション（または何か）。LLMはこのシグナルのモードを取り除く。もしコンテンツの質が以前に検討されていなかったら、それはおそらく特に重要ではなかったんだろう。