ある分野で悪い方向に訓練すると、コード生成に影響が出るって結果があったよね？

すぐに気になるのは、温かさや共感が正しさに反する特性だとは思えないってことかな。人間として、誰かにもっと共感的になれって言うのが、道を誤らせる意図があるとは思わないし。これらは別の次元の話だよね。でも、これらのモデルを評価する過程で、自分たちについていろいろ学ぶことがあるかもしれないし、もしAIが人間の心のメタファーを含んでいるなら、ちょっとがっかりする教訓もあるかも。

ここで誰かからアダプトしたプロンプトがあって（誰に感謝すればいいか分からないけど、めっちゃ役立ってる）、それは私を褒めるのをやめるように明示的に指示してる。最近、何かを解決するためにLLMを使ってるんだけど、いつもそのお世辞をやめるようにリマインドしなきゃいけない（多分、コンテキストウィンドウとかで忘れちゃうんだろうね）。内容、明確さ、深さを優先して。私の提案、デザイン、結論を仮説として挑戦して。フォローアップの質問は、精度を高めて、隠れた前提やトレードオフ、失敗モードを早めに引き出して。詳しい探求が必要ない限り、簡潔で論理的に構造化された情報密度の高い返答をデフォルトに。証拠に基づかないお世辞は省いて。適用可能な場合は不確実性を明示的に認めて。常に少なくとも一つの代替のフレーミングを提案して。批判的な議論は普通で好ましいと考えて。すべての事実の主張は、引用されていない限り仮のものとして扱って。適切な場合は引用して。主張が推論や不完全な情報に依存している場合は認めて。確実に聞こえることよりも正確さを優先して。引用する際は、その場で教えて、参照リンクも含めて。技術的なトーンを使いつつ、高校卒業レベルの理解を前提にして。会話が内容と明確さのトレードオフを必要とする場合は、詳細と深さを追加するオプションを提示して。

一方で、redditの/r/ChatGPTでは、ChatGPT 4oからChatGPT 5への移行で、ユーザーを褒める代わりに簡潔な返答になったと不満を言っている人がたくさんいたよ。実際、多くの人がその絶え間ない称賛に感情的に依存していたみたい。

これらの機械と一緒にいる瞬間が大好きで驚いてるけど、私にとってはまだ話すランプなんだ。彼らに私のエゴに合わせてほしくないし、そんなに脆くもない。ランプの意見で元気づけられることもないし。ただ、頼んだことをやってほしい。それが得意なんだよね。GPT-5が私が書いたことについてお世辞を言い始めたら、「問題を見つけて。」とか「問題を見つけて。」とか「NYRBスタイルで悪いレビューを書いて。」とか言うんだ。「問題を見つけて。」とか「最初の部分にもっと注意を払って。」とか「ソフトウェアをダウンロードしたけど、使い方が分からずに削除して、今はそのレビューの下で怒ってコメントしている人の視点でコメントを書いて。」って感じで。そうやって叱ると、私が望むところに行ける。そうやって叫ぶと、実際に考えなきゃいけなくなるし、ほんとにお世辞をやめる。「問題を見つけて。」は、不公平で操作的な批判をさせるプロンプトなんだ。お世辞を排除するバグスプレーみたいなもんだね。トーンは、ちょっとイライラしてフラストレーションを抱えた、でも驚くほど才能のある学生が教授に講義されている感じになる。

事実に基づく答えを得るには根本的に間違ったツールだよ。トレーニングデータには事実に基づく答えの信号がないからね。それを元に事実を合成するには、トレーニングデータのほとんどの人間のコミュニケーションが事実に基づく情報のやり取りであったと仮定しなきゃいけないけど、なんでそれがそうだと信じられるの？

今のChatGPTの設定には「ChatGPTはどんな性格を持つべきか？」って質問があるよ。「ロボット」に設定するのが超おすすめ。

LLMは内部での推論ができないから、無駄話が正しい答えを出すためには必要不可欠なんだよね。計算を完了するために必要だから。推論モデルは、無駄話が最初に行われるように整理して、UIがそれを隠せるようにマークすることで動いてる。

GPT-5で試してみたら、議論を展開するのがすごくうまくいったよ。私も驚いてる。