アメリカではこれがよく見られるの？ これはインド特有の問題に思える。

それよりひどいよ。弁護士やArs Technicaの話が出てくるのは、結果が公になっていて、ミスがひどいからだ。実際には、みんなに起こっている可能性が高いよ。

もう関係ないよ。LLMは、世界中で私たちが作り上げた腐敗した社会を明らかにしただけだね。

みんながどれだけ彼らに信頼を寄せているかに驚かされるよ。人間のように聞こえて、すごく権威のある自信に満ちたテキストを出力するから、無意識のうちに疑念を覆い隠しちゃうのかな？

重要じゃないよ。ほとんどの時間は正しいように見えるけど、時々微妙で見逃しやすい方法で間違っているプロセスは、基本的に人々をチェックしないように仕向ける機械みたいなもんだから、常に何かが見逃される。自動運転の車と同じで、間違いがあったら飛び込む必要があるけど、人間は運転しているときのように反応できないから、関与していないときはもっと遅くなる。誰も自分で運転していたときのように関与し続けることはできないんだ。LLMからの情報を「ただ」チェックすればいいって言うのはやめよう。それは必然的に人々がチェックしなくなって、何かが見逃されるプロセスに繋がる。みんなが結局そうなってしまうのに、それを人々のせいにするのは馬鹿げてるし、根本的な問題を解決することにはならないよ。

なんでこんなAIがいるの？常に人間にチェックさせないとダメなんて。ジャン＝リュック・ピカードがエンタープライズのコンピュータの出力を常に確認してたと思う？そんなことはなかったよね。もしAIが人間より優れてないなら、何の意味があるの？人間を使った方がマシじゃん。

この話、ほんとにバカバカしいよ。LLMは参考文献の検証を自動化できるんだから。もし誰かが弁護士、会計士、医者、教師、外科医、エンジニアなどで、GPT-5-extra-lowみたいな低品質のモデルを使って答えを吐き出してるなら、即座にクビにして資格を剥奪すべきだよ。今は簡単だけど、未来の問題はもっと深刻だよ。99.999%の未来のコンテンツは生成AIで作られることになる。FacebookやInstagram、TikTokみたいな非連続的でエンゲージメント重視のフィードを使ってる人たちにとって、今日消費してるコンテンツの50%以上は偽物だよ。そういうのが現代文化に広がると、偽コンテンツを出すべきでないところ（例えばニューヨークタイムズやウォールストリートジャーナル）から排除するのは永遠の戦いになるだろうね。未来の価値や利益率は、正しいデータにあるかもしれない。

今週、25%の引用が捏造されていて、残りの50%も間違っている科学論文の引用を追跡したんだ（著者はここにいるかもしれないけど）。ArXivの論文を引用して、（例えば）IJCLRに属するとして引用していた。これは弁護士だけの問題じゃないよ。

だから、LLMがどの職業でも人間を完全に置き換えることはないんだよね。機械に責任を持たせることはできないから。お金が絡むと、私がいろんなサポートチャネルで体験するチャットボットも、結局は人間の介入が必要になるし。真の一般知能があればこれらの問題を解決できるかもしれないけど、LLMはそのレベルにはまだ達してないと思う。確率的なオウムは世界を支配することはないよ。

彼らは危険を知らなかったとは言えないよね。LLMの幻覚については、ずっと話題にされてきたことで、 obscureな失敗モードじゃないから。AIの問題に関するほとんどの記事がこれに触れてるし。だから、裁判官は怠けてたか、無能か、その両方だと思う。