商業AIプロバイダーがチャットボットのインターフェースから人称代名詞を避けて擬人化を控えるようにする賢明な立法が必要だと思う。「ねえ、カスタマーサービスのチャットボット、私の注文の返金を手伝ってくれる？」悪い例:「もちろん、喜んでお手伝いします。注文の詳細を教えてください…」良い例:「はい、このコンピュータシステムが返金プロセスを開始できます。注文番号を入力してください。」

これらの概念は少し曖昧で手を振るような感じがするけど、これはa) 代替にはならないし、b) ずっと曖昧で根拠がない。

それは神経ネットワークに関してはほぼ確実ですね。

深層学習がMLの「デフォルト」になって以来、ずっとこういう状態ですね。2018年に「深層学習」のコースを受けたとき、アプローチの最も強調されていた点の一つは、それがどれだけ「ブラックボックス」であるか、そして深層ニューラルネットワークの出力を理解することがどれほど難しい（基本的に非自明なスケールでは不可能）かということでした。これは、より古典的な方法、例えば決定木や基本的な回帰と比べて、ますます極端になってきています。

大学の頃、初期の「ディープラーニング」のCSクラスを受けたんだけど、今はもうその分野はそんな名前じゃないかもね。でも、MLの一部で、今はAIとして再ブランド化されてるやつで、LLMとか画像生成、画像認識とかが含まれてる。どんな授業でも最初は混乱するけど、やってることの数学を理解するようになったら、視覚的な要素を使ってたくさんの反復を見せてくれたおかげで、科学がしっかりと根付いた感じがした。だから、みんなが何もわかってないとは言えないよ。そう感じるようになったのは、すごい盛り上がりがあって、実際には理解してない人たちが他の人に説明しようとした時からだと思うし、最先端のモデルは自分たちの手法を企業秘密にするためにかなり努力してるから、オープンモデルの禁止をロビー活動してまで数学を学ぶことを実質的に禁止しようとしてる。確かに、今の「AI」は、私がそのクラスを受けた時よりもずっと進化してるけど、原則は同じで、違うツールや追加のフィルター、アルゴリズムが加わってるし、特定のプロンプトに対して統計的に最も適切な進むべき道を決定するようになってる。

質問や定義のゲームは、私たち自身を理解する手助けになる限り興味深いと思う（私たちの認識された意識の神秘的な特性を説明するもの）や、AIモデルの性能や信頼性を向上させる手助けになる限り面白い。

「推論」だけが達成できることと、他の方法で近似したり模倣したりできないことの明確な境界が見えないので、この質問は単に意味がないか、関連性がないと思います。会話を始める人がいることが、別の人がその定義に進展をもたらす第一歩になるかもしれないので、こんな早い段階で質問全体を拒絶するのは変だと思います。一般的に、LLMツールが過去数年であまり変わらずに生産するサブオプティマルや悪い結果のいくつかの方法を見てきましたが、ツール自体は「少なくとも何か機能的なものが生まれた」という着地を助けるのがずっと上手くなっています。私の意見では、これの多くは「バックトラッキングを含むプロセスとしての推論」に関係しています。そして、最終的にそれに基づいて物事が形式化される可能性があり、それがそうであるかどうかによって、より多くの人が何を引き渡し、何を引き渡さないべきかを理解できるようになるでしょう。また、それらのことを補うためにより良いプロンプトハーネスをどう作るかも。

記事はあなたが言うほどつまらなくないと思います。「推論とは何か」ということではなく、実際に箱の中で何が起こっているのかを知っているのか、そして「推論の連鎖」が何が起こっていることを示しているのか、それとも私たちが理解していると信じ込ませるための擬人化されたフィクションに過ぎないのかということです。

この議論はちょっと内向的すぎると認めます。実際の機能性の問題ではなく、意味論の問題になってしまっていますね。ああ、あなたは科学者のマインドセットよりも投資家のマインドセットに近いんですね。結果が全てで、そこに至る過程はどうでもいいと。ちょっと「ほら、魔法だ！」みたいな匂いがしますね。