彼は急いでるけど、彼の17億ドルの民兵とICEは、すぐにエル・シッドに支えられたライダーの後ろで戦うことになるだろう。彼は何度も脳卒中を起こしているみたいだ。ゴルフのじゃなくてね。でも、彼は完全にチャットボットになるから、戦うことになるよ。最初の故人のリーダー。幻覚を見ているチャットGPT大統領。
「私たちは一般的にLLMの幻覚がどのように機能するかを理解しています。AIモデルは、あなたが尋ねることに対してもっともらしい応答を生成しようとし、トレーニングデータを基にして何か正しそうなものを構築します。応答の実際の真実は、せいぜい二次的な考慮事項です。」
「しかし、ここ数ヶ月で、生成AIシステムが“幻覚”を見ているという盛り上がりの中で、現大統領もほぼ毎日同じことをしているという事実にはあまり注目していないことに気づきました。ドナルド・トランプが質問に対して全く無意味な答えを吐き出す様子を見れば見るほど、彼が初期のChatGPTのバージョンに似た方法で質問に答えている明確なパターンを認識し始めます。事実は重要ではなく、言語の選択はめちゃくちゃですが、すべては実際の知識や基礎的な事実の正確性に対する関心なしに、質問に対してもっともらしい答えを提示するように設計されています。」
「これは、実際の知識や政策理解に基づいている人の反応ではありません。むしろ、LLMがどのように機能するかそのものです:プロンプト(仕事の喪失に関する質問)を受け取り、いくつかのコアパラメータに基づいてテキストを生成します(責任を転嫁し、偉大さを主張する“システムプロンプト”)。」
「AI生成の特徴はすべてここにあります。 • 事実に裏付けられない自信満々の主張 • テーマとの緩やかな意味的つながりを保つ迷走する逸脱 • 前の応答へのパターンマッチング(“盗まれた”、“何十億ドル”) • 真実よりも良さそうに聞こえることを最適化すること。」