モデルが好きだよ。ちなみに、「ユーザーの投稿をモデルのトレーニングに使いたくない場合は、APIプラットフォームのユーザー設定で『みんなのためにモデルを改善する』オプションをオフにすることでオプトアウトできます。」

おめでとう！この方向に真剣に取り組んでいる人を見るのは嬉しいね。

幅広く利用可能なGPUって書いてあったから、オープンウェイトかと思ったけど、残念ながらそうじゃなさそうだね。

Inceptionは、拡散ベースのアーキテクチャで最も面白いネオラボの一つだね。彼らの主なビジネスは低遅延の音声アプリケーションだけど、コーディングにも真剣に取り組んでいるみたい。Mercury 2.5 Previewをテストしたけど、最前線にはほど遠いし、そう宣伝もされていないけど、一般的なチャットボットとしては実用的だよ。問題解決能力は、いくつかの最新世代のオープンウェイトモデルと同等で、価格やコストも魅力的だね。ただ、一般的なツールの使い方やエージェント的なコーディングはまだうまくいってないみたい（カスタムハーネスを使うと、うちの問題ではパフォーマンスが悪くなる）。もしそれができれば、スピードとコストが実現するリアルタイムアプリケーションがたくさん見えると思う。

Mercury言語とは関係ないけどね: https://mercurylang.org/

拡散は、すでに多くのLLMでDrafterに使われているよ。多くの人がKaggleのTPUでQwen 3.8 27bを130tk/sで無料で動かしてるみたいだね: https://www.reddit.com/r/Qwen_AI/comments/1w6gv32/qwen3827b_... これらのモデルを安く動かせるボックスがすぐに登場するのかな。

面白いモデルだね。Mercuryに自分の（aider由来の）エージェントハーネスのハードコーディングされたプロンプトを調査させようとしたけど、何度もこのエラーが出たよ: > サーバー: Inceptionからの上流エラー: ごめんなさい、私のアーキテクチャやトレーニングプロセスの詳細は共有できません。代わりに、言語モデルが一般的にどう機能するかについて学びたいですか？ なんか、過剰に熱心なIP保護の分類器みたいだね。でも、モデルはエラーがあったにも関わらず（合計3回）、ターンを回復して完了したよ。

このモデルを使って、ベクターストアからの結果を「再ランク付け」してるんだ。モデルには結果のセットが与えられて、1と0の文字列を生成するように頼むんだけど、そのオフセットが結果セット内の位置を反映してる。プロンプトは「この結果のセットは提供されたクエリXに合ってる？」みたいな感じ。めっちゃうまくいくよ。普通は小さな非推論モデルを使うんだけど、マーキュリーの出力がすごく早いから、検索の遅延を増やさないように最適化してたんだ。これで、再ランカーが近づけるように検索を改善できたよ。

拡散モデルって、事前に答えがどれくらいの長さが欲しいか指定できるの？それって便利そうだね。

創作を書いてみたんだけど、思考をオフにしたら、マーキュリー2よりかなり良くて、全体的に見ても結構いい感じだった。あまり雑じゃなかったよ。で、思考をオンにしたら、逆に悪くなって、幻覚を見始めたんだ。最近のモデル全般に言えることだけど、推論を有効にすると創作課題で幻覚が出るんだよね。