ハクソク

世界を動かす技術を、日本語で。

Qwen 3.8 27Bは優れていますが、考えすぎる傾向があります

2026年8月17日原文(simonwillison.net)

概要

  • Qwen 3.8 27B はAlibabaのQwen研究所による Apache 2ライセンス の27Bパラメータ視覚対応LLM
  • ローカル環境 （高性能ノートPCやDGX Spark）で動作可能なサイズと性能
  • 推論レベル 設定や長大なコンテキスト長対応など多彩な機能
  • 画像認識・コード生成 ・ツール操作に強み、ただし速度が課題
  • MTP最適化 などでさらなる高速化が期待される

Qwen 3.8 27Bの登場と特徴

  • 2026年8月16日 にリリースされた、Alibaba Qwen研究所の 27BパラメータLLM
  • Apache 2ライセンス で提供、商用利用も可能
  • Qwen 3.6 27B や Qwen 3.7-Plus を上回るベンチマーク性能
  • ローカルPC （例：128GB M5 Max MacBook Pro、NVIDIA DGX Spark）でも十分動作
  • LM Studio や llama-server など複数環境で運用可能
  • 17GBのQ4_K_M量子化ビルド で運用、省メモリ設計

推論レベル設定と動作体験

  • reasoning_effort （推論深度）を xhigh（デフォルト） ・medium・lowで選択可能
    • xhigh ：複雑なタスク向け（デフォルトだが一般PCには非推奨）
    • medium ：精度と速度のバランス
    • low ：速度・コスト最適化
  • デフォルト設定（xhigh） では、単純な問題でも大量のトークン消費・長時間推論となる傾向
    • 例：SVG生成で 21分・22,276トークン使用
    • context limit （8,192トークン）を最大値 262,144 に拡張することで問題解消
  • 推論オフ で大幅な高速化（例：同じSVG生成が約2分）

画像認識・バウンディングボックス機能

  • 画像内のオブジェクト検出（バウンディングボックス生成） が高精度
    • 0-1000スケールでの座標指定に対応
    • 生成したJSONを重ねて表示するツールも自動生成可能
      • 例：画像URL・JSON入力欄付きHTMLツールをワンプロンプトで生成
      • サンプル画像やデモシーンも自動追加（過剰設計傾向）

コーディングエージェント用途

  • 長大なコンテキスト ・ コード生成能力 ・ ツール呼び出し に対応
  • Piエージェント との組み合わせで、ローカルモデルでも十分なコーディング支援を実現
    • プロンプト例：「authの仕組みを説明して」
    • 出力例：JSONLをMarkdownに変換するPythonスクリプト自動生成

速度の課題と最適化

  • ローカル環境 での生成速度は 15-30トークン/秒 とやや遅め
    • APIモデル （OpenAI 5.6 Sol: 74トークン/秒、5.6 Luna: 184トークン/秒）に比べると劣る
  • Multi-Token Prediction（MTP） による推論高速化
    • llama.cpp のdraft-mtpサーバーで 72%の速度向上 を確認
    • 今後もさらなる高速化手法の登場が期待される

総評・今後の展望

  • 17GBファイル で多機能なLLMがローカルで動作するのは画期的進歩
  • パフォーマンス が唯一の課題だが、今後の最適化やハードウェア進化で解決可能性
  • オープンウェイト・長大コンテキスト・ツール連携・画像認識・コード生成 が一体化した汎用モデルとしての意義
  • さらなるモデル品質向上と高速化による、 ローカルLLMの実用化加速

Hackerたちの意見

密なモデルでの考えすぎの大きな問題は、明らかに速度の低下だよね。Qwen 35BA3Bから27Bに移行すると、俺の場合は約7〜8倍遅くなる（たぶん9倍くらい？）。これが無駄な思考トークンに対する忍耐力をかなり奪うんだ。新しいMuse 30Bモデルと比較したいんだけど、あれはすごく簡潔で、全く違う考え方をしてる（「待って」っていうのがない）し、実験した感じではトークン効率がすごく良くて、絶対的なトークン/秒はあまり関係なかった。

└

Muse Glimmerとの比較はいいアイデアだね。同じHTMLツールを使って、Glimmer 30BとQwen 3.8 27Bの両方にプロンプトを生成してみた。結果はこんな感じ：Qwen: https://gist.github.com/simonw/121ad098860028b2fab603fa12da1... - 17,576の推論トークンで、このHTML結果を出した: https://static.simonwillison.net/static/2026/qwen-over-think... Glimmer: https://gist.github.com/simonw/51e8ddb2ee597a5005fa63bd4927d... 1,021の推論トークンで、こちらのHTML: https://static.simonwillison.net/static/2026/glimmer-bbox.ht... - 見た目はイマイチだけど機能はしてる。どちらの場合も、URL https://static.simonwillison.net/static/2026/two-pelicans-on... を貼り付けて動作を確認してみて。両方のアプリは正しく動作して、要件を満たしてる。Qwenの方（デフォルトのxhigh推論設定を使った）はかなり過剰設計だね。Glimmerの方はLM Studioのデフォルトを使ってると思うけど、ちょっと過小設計だと言えるかも。奇妙なことに、Glimmerは他のドメインの画像では動かないんだ、例えば https://static.inaturalist.org/photos/714731804/large.jpg - CORSエラーが出るけど、画像を読み込んで幅と高さを検出するのにCORSは必要ないし、Qwenの方はそのURLを問題なく処理できる。Glimmerがこの不要な行を追加したからだね：img.crossOrigin = 'anonymous';

└

Glimmerの「考え」を読むのが大好き。少ない言葉で済むなら、なんでたくさん使うの？

└

Glimmerは3.6 27Bよりもバカだね。3.8と比べて速度を語っても意味がない。

既存のツールセットにモデルをポンと入れて動かしたい人には満足できないだろうけど、この考えすぎの問題には対処する方法がたくさんあると思う。例えば、後退することになるけど、{"reasoning_effort":"none"}を入れて、鼻先を引っ張ってみた：ユーザー：これを作るつもりです。計画を作成してくださいが、まだコードは書かないでください。エージェント：ユーザー：今、その計画に従ってコードを書いてください。他のチャットはなし。エージェント：これがJinjaテンプレートとかで解決できるかもしれないし、もしかしたらハックかもしれないけど、モデルを合理的に推論させることができるってことを示してる。

└

そうだね、「none」に設定すると思考の粒度を強制できるよ。例えば、最大3文ってリクエストにちゃんと従う。思考モードはプロンプト内の指示をオーバーライドすることが多い（他のモデルではそうだった）。もちろん、パフォーマンスには影響が出るかもしれないけど、簡単なタスクにはすごく効果的だよ。パイプラインや画像認識など、これがうまく機能するケースはたくさんあるしね。Qwen 3.8 27B の低思考ベンチマークも見てみたいな。

└

確かに、たくさんのモデルにはクセがあるし、透明なモデルの入れ替えは見たことないな。

Qwen 3.8 27Bは素晴らしいけど遅くてトークン効率が悪いのには同意するよ。俺のベンチマークでは、opus 4.6やcodex 5.3の性能に近い位置にある。3.6 27Bはベンチマークを完了できなかった。詳細は以下を見てね： https://gist.github.com/nharziro/aed0c364ce2f295a493494c6f1b...

└

消費者ハードウェアでホストできるローカルモデルのOpus 4.6のパフォーマンスは、すごい結果だね！！

俺にとって驚くべきことは、今やローカルモデルが約1年前の高性能モデルに匹敵する推論能力を持っていることだよ。このトレンドが続くことを願ってる。

└

一般的なクラウドインフラは自動バックアップや地域的冗長性、実質的に無限のスケーラビリティを提供するけど、クラウドLLMの価値提案はどんどん不安定になってるみたい。* 多くのビジネスはフロンティアレベルの知能なんて必要ないし。* 完全にステートレスだよ。ローカルLLMマシンが燃えたら？何も失われない。新しいのを買えばいい。

この llama.cpp のブランチには、kv キャッシュを壊さないようにテンプレートを修正したり、会話をディスクに保存して何日後でもすぐに再開できるようにしたりする機能の他に、ここで推論努力フラグも受け付けるようになってるよ。https://github.com/alainnothere/llama.cpp/tree/disk-cache-ev... テストしたけど、メッセージごとに推論努力を設定できるみたい。@xscott が言ってた「none」オプションには気づかなかったけど、試してみたけど変化は見られなかった。多分、値は xhigh、medium、low の3つだけだと思う。https://huggingface.co/Qwen/Qwen3.8-27B-FP8 で確認したけど、テストした結果、「自分に10百万語を話して何か見逃してないか確認する」って感じのことができて、その後に速いモデルに切り替えたりもできたよ。テストしたけど、一貫性を保ちながら思考の流れを追ってるのがわかる結果が出たよ。こちらで結果が見れるよ... https://github.com/alainnothere/llama.cpp/blob/disk-cache-ev...

Hacker Newsで議論の続きを見る