こんにちは、作者です。これについてはあえて少し曖昧にしておいたのは、このアプローチ全体を機能させるためのものだからです。LLMは次のトークンを予測します。数学コンペや深い戦略ゲームをプレイ中に次のトークンを予測しようとすると、もっと大きくて能力のあるモデルが非常に役立ちます。その次のトークンを正しく予測するためには、モデルは多くの未来の状態をモデル化する必要があります。たとえそれが二次的な（意図しない）効果であっても、実際に起こっているようです。これは基本的に、予測、理解、圧縮が同じものであるというイリヤ（とダリオ）の主張（深いウサギの穴）です。私の意見では、これは美しいアイデアですが、ビデオゲームにはそのほとんどが必要ないと思います。ビデオゲーム（一般的なゲームも含めて）は、キャラクターの行動が予測可能で、NPCが少しバカなときに輝きます（ほんの少しだけ）。すでに非常に良い小さなロールプレイモデルがある — Qwen 3.5 4B/9B/30B-A3B。一般的な推論にはほど遠いけど、非常に魅力的に行動したり書いたりできます。ロールプレイには優れているけど、推論には非常に弱い。少し推論を促すだけでいいんだよね…それが鍵。プレイヤーはすでに意図を示している：あのやつを攻撃しろ、あそこを見に行け、カバーしてくれ、光って金色の鍵を見つけろ、などなど。制約のある世界、制約のある行動のセット。モデルに膨大な未来の可能性を推論させるのではなく、主に次のようにマッピングさせることを求めています：プレイヤーの意図 + 現在の世界の状態 → 一連の信頼できる行動。で、「コンテキストをLLMに流す」というのは基本的にこういうこと。「あなたはXとしてロールプレイしています - あなたはYを経験しました - あなたはZを好き/嫌い（性向）です、あなたはアルファを覚えています、あなたのジャーナルにはデルタと書いてあります。プレイヤーがあなたにガンマをするように命令します。 - 「あなたはどう反応して、何をしますか？」 なんとなく機能してる（私が投稿した動画で見える通り）。大きなモデルの方がいいのは分かってるけど、すべてにそのモデルが必要なのかな？

新しいメディアはいつも人間の生態系を一瞬ぶっ壊すよね。

もうすぐオープンソースにする予定です :) コードはちょっと汚いけど（システムは3つの部分から成り立ってる。ゲームアダプター / ゲームと脳の間のウェブソケットブリッジ / 脳そのもの）現在、2台の異なる（ローカルの）マシンで動いています。Aleがこれをローカルで動かすためのものなんだけど、これが新しいアプローチなのか、誰かが「BERTを再発見した」って主張するのかちょっと気になってます（ただし、AleはBERTの10分の1のコストで動く）。

AIの進歩が少し「鈍化」して、ハードウェアモデルに変換するのが何が理にかなってるかがもう少し明確になったら、確実に何か出てくると思う。Appleがやってるようなニューラルエンジンや、高性能なAndroidフォンにすでにあるテンソルユニットみたいなものか、何か専用のものになるかも。今の世界的なキャパシティの問題を考えると、1〜5年くらいかな？でも、確実に10のAIクレジットを買って、AIクレジットが切れることなく100時間遊べる価格帯には達したと思う。基本的な会話とか、ゲーム用に微調整されたものなら、最先端のモデルは必要ないよね。

「これが数年後にコンソールゲームの実用的な道になるのか気になる。AIバブルが少し弾けて、技術のインフレ価格が普通に戻れば、そうなるかも。そうでなければ、あまりにも高くつく。」 それとも、巨人たちに財政的に挑戦するような他の進展があって、企業がローカルAIの使用のために構築するインセンティブを与えるかもね。