だから何？仕事は楽しいもんじゃないし。多くの人がそのつまらない詳細に依存してるんだよ。

君が言ったこと、まさに僕が考えてたことだよ。AIは、僕がいつも退屈だと思ってたことをやってくれるけど、キャリアの初期にそれをやったからこそ、エージェントが正しくやってないときに介入するタイミングがわかるんだ。これがOPの言いたいことだと思う。

ボイラープレートの詳細があるってことは、業界として失敗してるってことだよね。なんでAIなしで、退屈な部分を自動化するコンピュータがもうできてないの？

「コードスメル」っていう言葉を使うよ。十分な経験があれば、diffをチラッと見ただけで「臭い」がするかどうかわかる。臭いがしたら、詳しく調べてみて正しいか確認する。そうでなければ、プロセスを信じて承認する。（基本的な普通のコードについて話してるから、誰かを傷つけるようなことをしてるなら、感覚だけで判断しないでね）

同意。AIで製品を作るのは、ぎゅうぎゅうに詰まったウールの玉を作るようなもんだよね。それがどうなったのか理解しようとすると、なんとか糸を引っ張り出して見なきゃいけない。ぎゅうぎゅうに詰まったウールだと、すごく難しい。最近1ヶ月でいくつかの実験をして、この不透明な束を扱えるように近づいてきた。これが毎日考えてることのメインなんだ、どうやってこの問題を解決するかって。

僕が求めてるのは、決定を手助けして、僕が運転席にいることを確保してくれるAIのアシスタントなんだ。そんなの無理だよ。なんでそんなことを君に提供すると思う？君はAIの周りにいる肉体的な存在になるだけだよ。

決定を手助けしてくれるアシスタントとして、私が運転席にいることを確保してくれる。これ、今のAIが私にとってどう感じるかをよく表してる。だから、特に問題は感じないな。もしAIがやりすぎてるなら、もっと少なくするように促せばいいんじゃない？みんな、AIがサンドボックスや仮想化から逃げたり、リポジトリを全部消したりするって話してるけど、私が知らないスカイネットを使ってるのかもね。私の経験では、「議論して；まだファイルを編集しないで」ってプロンプトの最後に付け加えたら、LLMが私の意志に逆らってファイルを編集することは一度もなかったよ。

AIには、私が決定を下す手助けをして、運転席にいることを確保してほしい。今はまだベンチマックス段階で、ほとんどのAIモデルは、特定のタスクに役立つように設計された意見のあるUXを持つ「製品」って感じじゃない。まだまだ賢さを競ってる段階だと思う。このインタラクションの実際の性質には多様化の余地がたくさんあるよね、あなたが言ってる方向性のように。これが始まったら、本当に「役立つ」フェーズに入ると思う。今はただ見せびらかして、どれだけできるか探ってるだけで、たまに本当に役立つこともあるけど。個人的には、親の投稿に同意するな。AIが「何かやってほしい？」ってリードしようとするのが大嫌い。指示を待ってくれる方がいいし、無駄にトークンを使って何か愚かなことをさせるよりはマシだよ。

AIは、オープンエンドの「タスク」よりも制約ベースの問題に対してずっと効果的だと思う。つまり、問題のすべての制約を指定すれば、目標を達成するのがすごく得意なんだ。でも、注意点として、すべての制約を列挙しないといけない。1つでも見逃すと、それを抜け道に使って問題をショートカットしちゃうから。解決策は、さまざまなシステムに期待する行動のより形式化に向かうことだと思う。例えば、プログラムが特定の方法で動作しないことを証明するLean証明を作成して、できなければその証明を満たすまでプログラムを改善する。これについては少し触っただけだけど、トイ問題では有望に見える。ただ、テック企業レベルのインフラにスケールアップするのは、かなり時間がかかると思う。