世界を動かす技術を、日本語で。

インクリング:私たちのオープンウェイトモデル

概要

  • Inkling は人間の意思と判断力を拡張するAIとして開発
  • 975Bパラメータ を持つMixture-of-Experts型トランスフォーマーモデル
  • マルチモーダル (テキスト・画像・音声)対応、1Mトークンのコンテキストウィンドウ
  • カスタマイズ・ファインチューニング が容易で、TinkerとPlaygroundで利用可能
  • 幅広い領域での 汎用性・信頼性・効率性 を重視した設計

Inkling:オープンウェイトのマルチモーダルAIモデル

  • Inkling は、人間の意思と判断力の拡張をミッションに掲げるAIプラットフォーム
  • 誰でもカスタマイズ可能なモデル、インタラクティブなAIシステム、独自研究の公開
  • 975Bパラメータ(41Bアクティブ)1Mトークン の広大なコンテキスト
  • 45兆トークン 分のテキスト・画像・音声・動画で事前学習
  • Inkling-Small (12Bアクティブパラメータ)も同時公開、コスト・レイテンシー重視の用途に対応
  • マルチモーダル推論 (テキスト・画像・音声)をネイティブにサポート
  • Tinker でのファインチューニング、 Playground による対話型の操作体験
  • 開発者によるカスタマイズ性・効率性・拡張性の提供

汎用性とカスタマイズ性

  • 幅広い領域 (推論・コーディング・指示追従・ファクトチェック・ビジョン・オーディオ)で性能を発揮
  • 専門特化ではなく、 柔軟なワークフロー適応 を重視
  • ベンチマークでは、 Nemotron 3 UltraGLM 5.2GPT 5.6 SolClaude Fable 5 などと比較し、バランスの良いスコアを記録
  • Design Arena のAgentic Web Devリーダーボードで上位評価
  • 一発生成 によるWebアプリ作成や、マルチページPDFの自動生成、マルチプレイヤーゲームの反復開発などのデモを公開

エージェント的コーディングとツール利用

  • エージェント的タスク遂行 とツール利用能力の強化
  • 複数のコーディング・エージェントハーネスで動作、ツールセット・スキーマのランダム化学習
  • 思考努力の制御 (effort設定)で性能とトークン効率のバランス調整が可能
  • コスト・レイテンシー を重視した設計、現実的な大規模運用に最適

マルチモーダル性能

  • 音声・画像・テキスト を同時に扱う真のマルチモーダル基盤モデル
  • dMelスペクトログラム による音声、 40x40パッチ による画像エンコーディング、軽量な埋め込み層
  • 音声認識・指示追従・録音内容の質疑応答・長尺音声推論
  • VoiceBench, MMAU, AudioMC 等で高評価
  • 画像理解・視覚的推論・数理図表の処理、 Pythonツール との連携でズーム・クロップ等も可能

エピステミクス(知識の信頼性)

  • キャリブレーション・指示追従・検閲耐性 の強化
  • 大規模な現実質問データで RL学習、適切な自信度表現
  • ForecastBench, Prophet Arena 等の予測ベンチマークで競合モデルと比較し高水準
  • 自動採点器 (ルーブリック・クレーム)によるRLで複雑な質問にも正確に対応
  • 信頼できるモデル として、現実世界の多様なドメインに適用可能

今後の展望と拡張性

  • Inklingファミリー として今後もモデルサイズ・機能を拡充予定
  • Tinker によるファインチューニングで多様なユースケースに最適化
  • 開発者・研究者・企業による 独自モデル構築 の基盤提供
  • オープンウェイト での公開により、コミュニティ主導のイノベーション促進

Hackerたちの意見

アメリカもDeepSeekやZ.aiみたいなのが必要だよね。多くの人(俺も含めて)は、他に選択肢がないからオープンな中国のモデルが勝つことを応援してる。Thinking Machinesがそれになるかも。

エージェントワークフローに関してはGLM 5.2ほど良くないけど、サイズは大きいね。競争は厳しくなるだろうな、スイッチのコストが超低いから。アメリカにはAllenAiもあるけど、まだこの規模のモデルは出してないし。新しい競争者が突然現れてうまくやることもあるから、競争力のあるモデルを作れるかどうかがカギだね。

そうかもしれないけど、オープンウェイトモデルを狙ってる会社がたくさんあるよね:Arcee、Reflection、Llama(Metaがクローズドソースとオープンソースのどちらに注力するかは未定)など。とはいえ、ファインチューニングAPIとオープンウェイトモデルがあれば、少なくともビジネスとして成り立つ可能性があるから興味深い。シナジーが完全にあるかはわからないけど(オープンウェイトモデルを持ってる人がQLoraやLoraだけでうまくファインチューニングできる理由は何だろう)、様子を見てみよう!

オープンウェイトモデルのビジネスモデルって何?

あんまり聞かないけど、arcee.aiがそれを目指してるみたいだね。今のオープンウェイトの提供内容はこれだよ: https://www.arcee.ai/open-source-catalog

Reflectionがそんな感じを目指してるんじゃない?

できれば、家のハードウェアで10tok/sより速く動かせる小さいモデル(<100B)をリリースしてほしいな。

これは指示に従うのが得意みたいだけど、コーディングに関しては他のモデルほど強くないね。でも、オープンウェイトモデルの多様性が増えるのはいいことだ!どんな「個性」なのか試してみる必要があるな。

強力な長文コンテキストのオープンウェイトモデルが出てきて嬉しいね。ここでの音声の強さから恩恵を受けるアプリケーションがたくさんあるし、z.aiや他の会社がビジュアルに取り組むまでの間、一般的なエージェントアプリケーションにはかなり強力かもしれない。ただ、いくつかの分野では弱点が見えるから、全てのモデルはちゃんとハーネスに取り付けて、自分が気にするタスクで適切に評価する必要があるね。

MiniMax M3とDeepSeek v4-Proは、非常に優れた長文コンテキストのオープンウェイトマルチモーダルモデルだよ。でも、長文コンテキストは罠だね。150k-200kのコンテキストを超えるとパフォーマンスが劇的に落ちるから。

大体、Nemotronよりは良いけど、GLMよりは劣るかな。これでアメリカのオープンウェイトモデルの中では一番ってことになるのかな?

Nemotron 3 Ultraのほぼ2倍のサイズだから、かなり良くなると思うけど、アクティブパラメータ数は41B対55Bでちょっと低いみたいだね。

Hacker Newsで議論の続きを見る