過去3年間で多くの予測システムやワークフローを構築してきた契約者として言えるのは、必要ないのにAIを入れてほしいという具体的なリクエストがよくあるってこと。そうすると、客観的に見てシステムが悪化して、遅くなり、コストも上がるのにね。AIの妄想は本当に存在するよ。

本当に理想的なシナリオは、LLMを使って決定論的システムを構築することだと思う。繰り返し行うことが分かっているタスクをLLMにやらせるのではなく、そのタスクを実行するプログラム（Pythonスクリプトとか）を作るように頼むべきだね。

管理職が、私たちの製品にLLMをどこで使えるかアイデアを出すようにプレッシャーをかけてきてる。チーム全体がこの理由で非常に抵抗を示しているよ。考えつくことは、どれも悪化させるだけだし、1-2%の失敗率を超えるのは許されないって言われてる。むしろ、達成するためにはもっと構造と基準が必要なんだ。

それは人がやるべきこととは真逆だね。論理的なワークフローをプログラムするという面倒な作業が、AIが私にとって役立つ唯一の理由なんだ。

今の人たちは、この記事[1]を警告の物語じゃなくて、夢を描いたものだと思ってるみたい。 [1] https://thedailywtf.com/articles/Classic-WTF-No-Quack

経験のない人や技術に詳しくない人とAIについて話すと、すごく混乱することが多い。彼らの「AI」利用ケースの多くは、実はこの単純なロジックのためのプログラムを書くことに気づいていないか、知らないだけなんだよね。

モデルは賢くなるから、これは問題にならないよ。

でも、数字は上がったの？CEOが投資家に見せるためにチェックボックスを押せるの？それが本当の価値だよね。

普通のツールや開発でも似たようなことを見かけてる。5年前なら簡単に解決できたことやシンプルなCLIが、今ではLLMの統合になってる。LLMを使って決定論的なツールを作る代わりに、LLMでそれを置き換えてるのが完全に逆転してる。なんでそんなことが進むと思ってる人がいるのか、特に会社の高い地位の人たちがそう思ってるのか分からない。いや、ただのLLMプロンプトで構成されたCIパイプラインなんていらないよ。確かに簡単だけど、高いし遅いし、予測できない方法で失敗する可能性がある。コードレビューのプロセスにLLMを使うのも同じこと。シンプルなリンティングルールだったのが、LLMでパスするようになって、リンティングルールを作るためにLLMを使うべきなのに、そっちの方が得意なのにね。

サポートフローにおける決定論的システムの置き換え でも問題なのは、彼らが「より良い」サポートを提供したいわけじゃなくて、「安い」サポートを提供したいってことだよね。大局を理解している訓練されたエージェントを想像してみて。今度は、AIを使って人間が簡単に関連性を判断できる知識を引き出すために人間に投資する会社を想像してみて、その知識を使って顧客をより良くサポートするんだ。今はAIが「サポート要員はいらない」って売り出されてるけど、「どうやってより良いサービスを提供できるか」っていう視点が欠けてる。多くの製品にとって、より良いサービスはあまり重要じゃないかも。安い製品が大体勝つからね。ほとんどの人は、より良いものにお金を払いたくないんだ。みんな同じ値段でより良いものを求めてるけど、企業はAIを適切に使う方法を考えるのに時間を投資してないと思う。