ハクソク

世界を動かす技術を、日本語で。

小型モデルが到着しました

2026年8月28日原文(calv.info)

概要

  • gpt-5.6-luna の登場で、高性能かつ低コストのAI利用が可能に
  • 従来の消費者向けAIサービスの普及が進まない主因は トークンコスト
  • 小型高速モデル の進化による新たなビジネスチャンス
  • 企業活動の大半は「迅速・安価・十分」なAIで対応可能
  • 今後、 業務最適化のための小型モデル の活用が加速

gpt-5.6-lunaの性能とコストメリット

  • gpt-5.6-luna は非常に高性能・高速なAIモデル
  • 平均 100 tps の処理速度、コードベースやメール、ナレッジベースの横断検索が可能
  • 最大の特長は 圧倒的なコストパフォーマンス
    • 複雑なリサーチでもAPI費用が数十セント程度
    • 数千件のメール検索でもコストはごくわずか
  • GLM 5.3 の登場で、より多様な選択肢が提供される状況
  • コーディング作業では Fable 5や5.6 Sol など高性能モデルを選びがち
    • そのため、小型高速モデルの進化を見逃しやすい現状

消費者向けAIサービスの成長を阻む要因

  • 投資家から「なぜ消費者向けAI企業が増えないのか」という疑問
  • その答えは トークンコスト
  • かつての大規模消費者アプリの成長戦略
    • 安価なウェブサイトの構築
    • ユーザー獲得（バイラル性重視）
    • 資金調達とスケール
    • 広告マーケットプレイスの構築
  • しかしAI搭載プロダクトでは、 リクエストごとに推論コストが発生
    • 必要資本が大幅増加
  • 例： 個人向けニュースサイト の構築
    • 従来モデル（Sonnetクラス）では1回あたり約$1
    • 月額$30の料金設定は消費者向けには困難
    • luna なら1回あたり約$0.10で実現可能

ビジネスシーンにおけるAIモデルの使い分け

  • Segment共同創業者の Peter との議論
    • 彼の経験から業務は2種類に分類
      • IQ180型業務 ：天才的な発想や新規解決策の創出
      • トークンスピュー型業務 ：迅速な対応・調整・進捗管理
  • Peterの業務の約95%が トークンスピュー型
    • 電話対応や関係者へのリマインド等が中心
  • 企業運営には IQ180型 の技術力も不可欠
    • しかし日々の大半は「迅速・安価・十分」な対応でカバー可能

「迅速・安価・十分」なモデルの今後

  • 研究・発見など 最先端モデル 需要は今後も拡大
  • しかし、日常業務の多くは 小型・高速・コスト効率重視モデル で十分
    • 例：社内外のコミュニケーション、タスク処理
  • 企業の「人的トークン」の多くがこの領域に費やされている現実
  • 今後の課題
    • 新しいハーネス
    • プロンプトインジェクション対策
    • ロール・権限管理
  • これらの課題解決により、 小型モデルのビジネス活用 が加速

まとめと今後の展望

  • 小型高速モデル の進化により、消費者・ビジネス双方でAI活用の裾野が拡大
  • 特にビジネス現場では「迅速・安価・十分」なAIが主流となる可能性
  • 実用化・安全性・運用設計 の課題を乗り越えれば、さらなる普及が期待

Hackerたちの意見

ここには明らかに最適化できることがたくさんあるけど、WSJやThe Economistが請求している金額を取るなら、同じくらいの価値を提供しないとね。最近の5年間で、ペンキが乾くのを見ている方がThe Economistを読むよりも価値があると思うわ。それはさておき、Lunaではいい結果が出たよ。レスポンスタイム（TPSじゃなくて）、コスト、異なる設定での人気モデルのパフォーマンスを考慮した比較について聞いてみたいな。そのチャートにはその一部が載ってるけど、例えばLuna MaxはTerra Mediumよりもお得なの？

フロンティアモデルを追いかけるのに夢中な人たちが、やっと小さなモデルがほとんどのタスクに「十分良い」って気づいたのが面白いね。大きな予算がない私たちは、ずいぶん前からこれに気づいてたけど。

└

その通り！Composer 2/2.5は素晴らしくて、安くて、速かった。みんながGPT 5.5とかに夢中になってる間に、私たちはコストを抑えてもっと速く仕事をしてたんだよね。

└

そうそう。今や、消費者向けハードウェアでローカルに動かせる32bパラメータモデルも、いくつかのワークフローには「十分良い」って感じだよね！

└

最近、Luna、Terra、Solをいじってみたけど、私がやってる仕事のタイプだと、SolもLunaと同じくらいトラブルが起きると思う。例えば、Solが過剰に仮定したり、間違った方向に進んだり、APIの探索のためにちょっとしたスクリプトを過剰に作り込んだり。これらは全部修正できるけど、トークンの無駄遣いになるから、Lunaにやってもらった方がいいかな。小さな作業のコース修正は安く済むしね。

└

ほとんどのタスクで 「ほとんど」という言葉がかなり重要だね。パーセンテージで言えば、典型的なソフトウェアエンジニアが会議やドキュメント作成をしていないときにやるタスクのほとんどは、ただのオートコンプリートみたいなものだから。だからつまらないし、みんなあまり話さないんだよね。人々はフロンティアモデルを追いかけるのに夢中で、深く挑戦的なアルゴリズム問題に一週間費やした記憶があるから、実装できない複雑なアルゴリズムをモデルに達成してほしいと思ってる。問題に一週間かけるのが、一時間で済むようになるのは生産性の大きな向上だよね。その一方で、10分を1分に短縮する生産性の向上は、あまり人の心を占めないんだよね。

└

いや、彼らは「ほとんど」のタスクには十分じゃないよ。

でも、「速くて安くて十分良い」モデルの需要は、もうすぐ爆発的に増えると思う。2024年初頭に、Guidanceというライブラリを使って7Bのローカルモデルで流れを作った時に、「啓示」を得たんだ。モデルがテスト用の擬似コードを受け取って、まずテストを書いて、私が承認したらコードを書き始めるって流れ。これは「思考」モデルが出る前の話だけど、そのライブラリを使って、必要な「プロンプト/指示」コンテキストでモデルを「ガイド」できて、完成に向かって動いているのが見えたんだ。「ああ、テストxが通らないのはblahだから、私は…」みたいな感じで。とにかく、その啓示は「たとえモデルが進化しなくても、これらを使う方法を見つけるのが楽しい」ってことだった。もちろん、それ以降モデルはかなり改善されたけど、その啓示は今でも適用できると思う。今、私たちは10〜20年前には魔法だと思われていたものにアクセスできている。まだ、接着剤やダクトテープ、祈りでシステムを組み合わせる方法を見つけて、新しいことができるのを発見している。今や「十分良い」段階はAPIモデルだけでなく、ローカルモデルにも来ていると思う。たとえ遅くても、たとえ使いにくくても、増え続けるタスクには十分対応できるし、何よりもそれらと一緒に作業するのがすごく楽しいよ。

└

同感。Mistral 7bは、ここ数年、テキストに必要な以上の性能を持ってる。もし1ショットでハーネスなしでやらなきゃいけないなら、同じくらいのパワーだし、大きな「良い」モデルはあまりにも多くの仮定をして、固くなりがちだから、もしかしたらMistral 7bの方が優れてるかも。何でもできるし、M3でもほぼ瞬時に動くよ。

└

私にとって、ほとんどのローカルモデルは、待てるものなら十分に機能すると思う。もっと早く欲しいなら、APIを通じてSOTAモデルに行くけど、3090を複数持ってるから、実験のためにホスティングモデルが必要だったことはあまりない。コードには最高だけど、NPCコントローラーのクリエイティビティには物足りなさがあるけど、テストには十分使えるから、ゲームを実際にプレイするまでトークンを無駄にしないようにしてる。だけど、プロトタイプを一発で作るならFable 5が最高だね。30分でプロトタイプを作れるし、ローカルのLLMに接続して、Claude CodeはインタラクションのテストやNPCのプロンプト調整が得意だから、より良い体験ができるよ。

└

彼らは急速に改善しているけど、あなたが言うように、改善しなくても。次のステージは、ハードウェア会社（アップルとかね）が、これらのローカルモデルに対応したハードウェアを製品に搭載することだね。これらの7Bモデルの改善を追跡するのが面白くなるだろう。数年後には、消費者の注目を集めて、また新しいスマートフォンやPCのスーパサイクルが生まれる転換点が来ると思う。

└

言語や曖昧さには微妙な何かがあって、彼らは超知能の自律型マシンになるようには設計されてないと思う。彼らの価値は、実際の知能を持った自律型マシン（私たち）が掘り起こして繋ぎ合わせる情報の貯蔵庫としてのものだよ。

Hacker Newsで議論の続きを見る