世界を動かす技術を、日本語で。

100倍安価なオープンモデルでGPT-5.6 Solを超えるリトリーバル

2026年8月6日原文(neon.com)

概要

  • Castform は企業のデータベース内に眠るデータを活用し、 RL後学習 でオープンソースモデルを最適化
  • Neon(Lakebase Postgres) と連携し、検索・データ変換のインフラ構築不要
  • 従来の Embedding検索 やRAGから エージェント型検索 への進化説明
  • RL後学習による コスト削減・性能向上、データセット自動生成の仕組み
  • Castform により、開発者が手軽に自社知識ベースをAIモデル化可能

CastformとNeonによるエージェント最適化の新潮流

  • 多くの企業では 最良のトレーニングデータ が既存データベース内で未活用状態
  • 生データを有用な形式へ変換し、エージェントが 効率的にデータ検索・更新 するには高度なインフラが必要
  • Castform をNeonに適用することで、これらの課題を一挙に解決
  • 優れたAIエージェント には「適切なデータ取得」と「最適な検索判断」の2要素が不可欠
    • Neon のSearch拡張機能が前者を、 Castform が後者を担当

Embedding検索からエージェント型検索への進化

  • 2022年頃、業界は Embedding検索 に注力し、RAGパイプラインが一般化
  • 2025年頃からは エージェント型(multi-hop)検索 が主流へ移行
    • モデルが 複数回の検索・計画ループ を実行し、複雑な問題を分解
  • これにより、 コスト・レイテンシー増大 (例:gpt-5.6-solで10秒以上、1リクエストあたり約0.03ドル)
  • 一方、 小規模オープンモデル は100分の1のコストだが、素の状態では能力が劣る
  • RL後学習 により、特定タスクではオープンモデルが高性能・低コストを実現

Castformが解決する課題

  • 多くの企業が「 トレーニングデータがない」「 ファインチューニングは難しい」と諦めがち
  • Castform は既存コーパスから自動でタスク生成し、RLループを管理
  • 例:社内ドキュメントから 質問・回答データセット を合成し、検索ツールと報酬関数を指定して学習
    • 報酬関数例:「正しい情報を取得・引用・回答できたか」を評価
  • RL後学習の流れ
    • タスク(例:質問応答)
    • エージェント実行環境(例:Lakebase Searchツール)
    • 報酬関数(例:正答判定)

Castformの技術的特徴とメリット

  • Lakebase Search と連携し、Neon上のPostgresに生データを保存
  • 合成データ生成→タスク化→RLトレーニング→本番推論まで一貫自動化
  • RL学習中は 大量の並列検索要求 にもNeonの自動スケールで柔軟対応
  • Neonのブランチ機能 で各ロールアウトごとに独立したDB状態を確保、状態リセット・再現も容易
  • トレーニング進捗や個別タスクの詳細観察 が可能な観測性を提供

Castformで実現できること

  • 企業独自の知識ベース をAIモデル化し、コスト効率よく運用
  • ファインチューニングや機械学習の専門知識不要 で、開発者が手軽に後学習を実施
  • スケーラブルかつ安全な環境 で、状態付きエージェントの大量トレーニングが可能

まとめ・始め方

  • Castform は、オープンソースモデルのRL後学習を誰でも簡単に実現する新しいプラットフォーム
  • 自社データを活用した 安価・高速・高性能なAIエージェント 開発をサポート
  • 詳細・導入はcastform.comを参照

Hackerたちの意見

こういう目的に特化したモデルには、たくさんの可能性があるよね。理想的には、ハーネスがサブエージェントを立ち上げて、特定のタスクに合わせたモデルにオフロードする感じかな。これは新しいアイデアじゃないのは分かってるけど、Claudeのコードが「explore」エージェントの仕事をhaikuに渡してるのを見て、特化型のLLMが開発されてるのが嬉しいな。

未来は、アプリケーションのライフサイクルやコードと密接に統合されたLLMを使ってアプリを作る人たちが増える気がする。検索にエージェントハーネスを使ってる人がいるって知らなかったけど、面白いアイデアだね。コンテキストの長さが短ければ、普通のエージェントコーディングのワークロードに比べて結構安く済むはずだよ。

あるよ!ChromaにはContext1があって、SIDにはSID-1があるし、自分でかなり良いパス@リコール@ndcg@などを使ってポストトレーニングするのがどれだけ簡単かに驚くと思うよ。最近、Hornetが面白いトークやブログをシェアしてるのもあるし。Neonがここで説明してるように、リトリーバルにエージェントを使うのは専らはしないと思うけど、ZeroEntropyがやってるような特注リトリーバルや再ランキングに、トップKの結果に対するエージェント操作を加えるのがうまくいくと思う(私の経験ではね)。

モデルはどんどん改善されてるけど、ファインチューニングって継続的な作業になって、メンテナンスの負担も増えちゃうんじゃない?

こういう目的特化型モデルにはたくさんの可能性があるよね。OpenAIとかも自分たちでやれるし、もしかしたらもうやってるかも?一般向けのインターフェースが、裏で小さなゴブリンたちに仕事を振ってる感じ。

Claudeのコードは「探査」エージェントの仕事をhaikuに渡すことでこれを実現してる。これはもう必ずしも正しくない。2.1.198 [0](7月1日リリース)からは、「内蔵の探査エージェントは、haikuで動くのではなく、メインセッションのモデル(opusに制限)を引き継ぐようになった」 [0] https://code.claude.com/docs/en/changelog#2-1-198

Claudeコードは「探求」エージェントの作業をhaikuに任せることで、これを実現しているんだ。専門モデルに任せるわけじゃなくて、親モデルに比べて軽い内部モデルに任せてるだけ。これだけでも、軽いモデルが親が必要とするデータをすべてキャッチできない問題が生じることがあるんだよね。アイデアとしては、一般的なモデルよりも優れた専門モデルを作ることなんだけど、強力な一般モデルに勝つ専門モデルは珍しいんだ。小さな専門モデルのアイデアについてあまり聞かないのには理由があって、大きくて強いモデルがタスクを同じくらいうまくこなすからなんだよね。もしタスクが専門化が役立つほど繰り返しのものであれば、他のモデルに任せるよりも、その繰り返しの性質に合わせてプログラムを書いた方がいい状況になることもあるし、メインの強力なモデルが(半)クリーンなデータを扱うことになるんだ。

これはまさにレオポルドが状況認識について話していることだね。

そうだね、だからモデルのルーティングが必要なんだ。

フロンティアモデルやベンチマークに対する過剰な執着があるね。ほとんどの作業はタスク特化型モデルによって行われるんだ。工場のフロアにPhDを置くことはないよ。

ちょっと関係ないけど、z.aiがdeepseek 4 flashにアクセスできることに気づいたよ。詳細な仕様を与えると、すごく良く動くのが信じられない。あんなに一発で結果が出るモデルは見たことがないし、gemma 4のスピードと効率にも感心してたからね。

Deepseek flash(特に最近のアップデート後)は、最も見落とされがちなモデルの一つだと思う。コストパフォーマンスが信じられないくらい良いし、安いコーディングのサブスクリプションでも利用できるよ。

Hacker Newsで議論の続きを見る