ハクソク

世界を動かす技術を、日本語で。

Qwen/Qwen3.8-2.4T-A95B

2026年8月13日原文(huggingface.co)

概要

  • Qwen3.8 は、Qwenシリーズで最も高性能なオープンモデル
  • vLLM、SGLang、TokenSpeed など主要フレームワークに対応
  • API経由や独自サーバー での利用が可能、推論パラメータも柔軟に設定
  • コーディングや長期的エージェントタスク で大幅な性能向上
  • 1Mトークンの長大なコンテキスト や思考制御機能など、多彩な新機能を搭載

Qwen3.8-Max 概要

  • Qwen3.8-Max は、Qwen3.8-2.4T-A95Bをベースにした公式バージョン
  • 視覚入力・非思考モード対応、1Mコンテキスト長、公式ツール内蔵 などの機能強化
  • Qwen Cloud によるAPIサービスで、インフラ管理不要なスケーラブルな推論環境を提供
  • Hugging Face Transformers形式 のモデル重み・設定ファイルを公開、主要推論エンジンで利用可能
  • Qwen3.5/3.6シリーズの普及 を受け、さらに進化した世代としてリリース

主な特徴・強化点

  • コーディング・プロフェッショナル業務・研究・長期エージェントタスク での性能向上
  • 自律的な計画立案と環境フィードバック処理 能力の強化
  • 人気開発ツールやハーネスとの互換性拡大 で既存スタックへの統合が容易
  • 推論深度調整（reasoning_effort）や思考履歴保持（preserve_thinking） など柔軟な思考制御
  • 262,144トークンのネイティブコンテキスト長 （最大1,010,000トークンまで拡張可能）

モデル仕様

  • 型 ：Causal Language Model
  • パラメータ数 ：総数2.4T（有効パラメータ95B）
  • 隠れ次元数 ：8192
  • トークン埋め込み数 ：248,320（パディング含む）
  • 層数 ：92
  • 構造 ：23 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE))
  • Gated DeltaNet ：V向け128ヘッド、QK向け16ヘッド、ヘッド次元128
  • Gated Attention ：Q向け64ヘッド、KV向け4ヘッド、ヘッド次元256
  • Mixture of Experts ：512エキスパート中11体がアクティブ（10ルーティング＋1共有）、中間次元2048
  • MTP（Multi-Token Prediction） ：複数ステップで学習
  • LM出力 ：248,320（パディング含む）

ベンチマーク結果（抜粋）

  • Coding Agent Terminal Bench 2.1 ：86.6
  • SWE-bench Pro ：67.7
  • DeepSWE 1.1 ：56.6
  • CoWorkBench ：74.8
  • WorkSpaceBench ：67.7
  • SkillsBench ：70.2
  • GPQA Diamond ：92.6
  • IFBench ：82.8
  • PLawBench ：73.2
  • HealthBench ：60.2
  • MRCR v2 256K ：92.9
  • 詳細は公式ブログや各種ベンチマーク解説参照

推論・API利用ガイド

  • API利用推奨 ：Qwen3.8はAPI経由での統合が推奨され、OpenAI互換SDKで利用可能
  • 主要推論エンジン ：SGLang、vLLM、TokenSpeed等で高効率・高スループットな推論が可能
  • 推論パラメータ例 ：
    • temperature=1.0
    • top_p=0.95
    • top_k=20
    • min_p=0.0
    • presence_penalty=0.0
    • repetition_penalty=1.0
  • reasoning_effort （推論深度）：xhigh（デフォルト）、medium、lowから選択
  • preserve_thinking ：デフォルトで有効、思考履歴保持
  • テキスト専用モデル ：Qwen3.8-2.4T-A95Bは思考モード必須、マルチモーダル非対応
  • 応答構造 ：毎回<think>…</think>で推論内容を明示、その後に回答

推奨設定・ベストプラクティス

  • 出力長確保 ：エージェントタスク最適化のため十分な出力長を設定
    • 推論内容：最大262,144トークン
    • 最終回答：最大131,072トークン
  • presence_penalty を0〜2で調整することで繰り返し抑制（高値は言語混在や性能低下に注意）
  • フレームワークによるパラメータ対応状況に注意

サンプルコード（OpenAI互換API）

from openai import OpenAI
client = OpenAI()
messages = [{"role": "user", "content": "Write a Python function to merge two sorted linked lists."}]
completion = client.chat.completions.create(
  model="Qwen/Qwen3.8-2.4T-A95B",
  messages=messages,
  extra_body={
    "chat_template_kwargs": {
      "enable_thinking": True,
      "preserve_thinking": True,
    },
  },
  reasoning_effort="xhigh",
  stream=True,
  stream_options={"include_usage": True},
)
# 応答ストリーム処理例

導入・運用のポイント

  • 最新フレームワークバージョンの利用推奨 ：性能・互換性最大化のため
  • 大規模ワークロードや本番用途 ：専用サービングエンジンの利用を推奨
  • APIキー・ベースURLの設定 ：OpenAI SDK利用時は環境変数等で設定

引用・参考情報

  • Qwen3.8-Max Overview、公式ブログ、各種ベンチマーク解説
  • Qwen Cloud 公式APIドキュメント
  • GitHubリポジトリ および公開レシピ

本ドキュメントはQwen3.8-Maxの主な特徴、導入方法、推論設定、ベンチマーク結果を簡潔にまとめたものです。

Hackerたちの意見

https://unsloth.ai/docs/models/qwen3.8 1bit量子モデルは驚異の397GBで、MOEごとに95Bのアクティブがあります。これで、普通の人が買えるマシンにOpus 4.5のパフォーマンスレベルが入るってことだし、使えるトークン/秒も出てる。フルロスレスモデルのBF16は4.9TBで動いてる。モデルカードによると、このモデルはOpus 4.8とFable 5の間に位置してるらしい。これも驚きだよね、7TBのRAM（コンテキスト + KVキャッシュ付き）のマシンを手に入れるのは中小企業でも可能な範囲だし。悪い点としては、オープンソース版はビジョン機能が削除されてて、コンテキストが250kに制限されてる。誰かがKimi 2.6のビジョンタワーを取り付けてビジョン機能を復活させるだろうけど、パフォーマンスは落ちるだろうね。ちなみに、Qwen 3.5 397bでコンテキストを600kに拡張してみたけど、480kまでは安定してた。Q3.8でも同じことができるか見てみたいな。あと、DSpark/DFlashのサポートはないみたい。MTPはあるから、TP速度は少しは向上するはず。

└

1bit量子モデルとフルモデルを比較するのは誤解を招くよ。正直言って、このモデルは家でいじれるけど、大きなMacが必要だね。4 Strix Halo/DGX Sparkを使って、1bit量子で？無理だね。ハードウェアに合ったサイズのモデルを使った方が、いい結果が出るよ。

└

Opus 4.5レベルのパフォーマンスは、deepseek-v4-flash-0731（0731は7月31日のアップデート）でもアクセスできるけど、これはかなり小さいよ。2x RTX pro 6000 blackwellで動かせるし、4xだとかなり快適に動くね。

└

モデルのサイズや量子化のロジックがよくわからないんだよね。例えば、100GBの統一メモリがあるとしたら、どのモデルが一番合ってるかどうやって判断すればいいの？2.4Tのモデルが入らないのはわかるけど、量子化の影響とか、200Gのモデルを90GBのメモリに合わせて量子化するべきなのか、それとも非量子化の90Gモデルを使うべきなのかが理解できない。

└

この種類の量子化での1ビット量子モデルって、役に立つのかな？

これってパラメータ数で見たら、史上最大のオープンウェイトモデルリリースなのかな？そうだと思う。

└

いや、Kimi k3は2.8Tパラメータだよ。これは2.4Tパラメータだけど、bf16でリリースされたから約5TBの重さがあるし、fp8バージョンだと約2.5TBになる。Kimi k3はQAT 4bitで発売されたから、約1.5TBの重さだね。

└

KIMI K3は、私の知る限りでは最大のオープンウェイトリリースだったよ。確か2.8T-A100Bだったはず。

これ、Kimi k3のライバルらしいよ。ちょっと重めだね、特にbf16とfp8だけリリースされたから。だから、発売時点ではk3よりも扱いにくいかも。q4にQATがないから、深いポケットを持った誰か（nvda？）が量子化しないといけないし、たくさんのキャリブレーションデータが必要だね。これで約1.3TBになるから、k3サイズくらいかな。ライセンスはk3に似てるけど、いくつかの注意点がある。内部使用や3.8-maxでの使用は無料で、かなりの改善が見られるよ。

└

Llama.cppは特別なトレーニングなしで量子化できるけど、最初に読むために特別なモデルアーキテクチャのサポートが必要かどうかはわからない。もしggufに変換できるなら、どのテンソルをターゲットにするかを知っていれば、今日中にフルテナリーボンサイ処理ができるよ。

└

生のパフォーマンスで最前線に達した今、中国のモデルが推論効率を改善するのを見たいな。

└

Unslothはすでに彼らの量子化に関するガイドを出してるよ。

Hacker Newsで議論の続きを見る