世界を動かす技術を、日本語で。

フリオーサ:H100sに対して3.5倍の効率

2026年1月15日原文(furiosa.ai)

概要

  • FuriosaAI による初のブランドサーバー「NXT RNGD Server」の紹介
  • AI推論 向けに最適化された高性能・省エネ設計
  • 標準的な データセンター環境 にシームレス導入可能
  • Furiosa SDKFuriosa LLM runtime をプリインストール
  • 2026年1月より 注文・問い合わせ受付 開始

NXT RNGD Server 概要

  • FuriosaAI初の ブランド製品 として提供されるターンキーAI推論サーバー
  • 独自の RNGDアクセラレータ を最大8基搭載可能な高性能設計
  • 主要な AIワークロード に最適化されたシステム構成
  • 既存データセンター環境に 追加工事不要 で導入可能
  • 実験から本番運用 への移行を迅速化する設計

主な技術仕様

  • 計算性能 :最大8基のRNGDアクセラレータ(サーバーあたり4 petaFLOPS FP8)、デュアルAMD EPYCプロセッサ搭載
    • BF16、FP8、INT8、INT4対応
  • メモリ :384 GB HBM3(12 TB/s帯域)、1 TB DDR5システムメモリ
  • ストレージ :2 × 960 GB NVMe M.2(OS用)、2 × 3.84 TB NVMe U.2(内部ストレージ用)
  • ネットワーク :1G管理NIC、2 × 25GデータNIC
  • 電源・冷却 :システム全体で3 kW、冗長2000 W Titanium PSU、空冷方式
  • セキュリティ・管理 :Secure Boot、TPM、BMCアテステーション、PCIe + I2Cのデュアル管理経路
  • ソフトウェア :Furiosa SDKおよびFuriosa LLM runtimeプリインストール、Kubernetes・Helm統合

実運用でのメリットと実績

  • 高い電力効率 により、TCO(総所有コスト)削減を実現
  • 既存のオンプレミスやクラウド データセンター で大規模AIを効率的に運用可能
  • 世界のデータセンターの 80%以上が空冷・8 kW/ラック以下 の現状に最適
  • 規制対応・セキュリティ重視 の企業向けに、全データをローカルインフラ上で安全管理
  • LG AI Research による導入実績
    • EXAONE 3.5 32Bモデルを4枚のRNGDカードで推論時、4Kコンテキストウィンドウで60トークン/秒、32Kで50トークン/秒達成
    • 電子、金融、通信、バイオテクノロジー分野での展開実績

AI導入の現実解としてのNXT RNGD Server

  • 2024年の 世界データセンター需要60GW、今後10年で3倍に増加予測
  • 液冷・10kW超 を要するGPUシステムに比べ、既存空冷施設でも導入可能な現実的ソリューション
  • プラグ&プレイ 設計により即時運用開始が可能
  • AI最適化シリコンと、OpenAI API対応のFuriosa LLM(vLLM互換)を統合
  • 将来性・効率性・エンタープライズ対応 を兼ね備えたAIインフラ実現

販売・問い合わせ

  • 2026年1月 より注文・問い合わせ受付開始
  • 詳細なデータシートや最新情報は公式サイトにて案内

Hackerたちの意見

なんか変なグラフだね。3x H100 PCI-Eと比較してるけど、そんな構成使ってる人いるのかな?アイソパワーで比較しようとしてるの?8台のH100のボックスと比べてほしいな。そっちの方が実際に買う人多いと思うし、トークンやワットを分けられるならそれでいいじゃん。

もっと現実的な構成って何?

彼らは同じ電力で比較しようとしてるの?そう、彼らは「ラック」を15kWと定義してるけど、3x H100 PCIeは1kWちょっと超えるだけなんだよね。だから、GPUがラックの電力使用量の10%未満だと仮定してるけど、それって怪しいくらい低いよね。

購入コストと冷却インフラのコストにもよるだろうね。これが3倍のH100ボックスと同じくらいのコストなら、顧客が現在買っているものと直接比較できなくても、フェアな比較になると思うよ。

これ、実際に何が動くの?ベンチマークのグラフがLlama 3.1 8bを指してるってことは、そのモデル用に手動で実装されてるってことだよね。新しいモデルや大きいモデルは動かせないんじゃない?なんでこんな古いモデルでベンチマーク取るのか理解できない。gpt-oss-120bとか、もっと新しいののベンチマーク見せてよ。

彼らのブログを見たら、実際にgpt-oss-120bを動かしてたよね。https://furiosa.ai/blog/serving-gpt-oss-120b-at-5-8-ms-tpot-... Llama 3の焦点は需要を反映してると思う。信じがたいかもしれないけど、多くの人はgpt-ossの存在すら知らないんだ。

こんなに多くの人が巨大なLLMモデルにだけ注目しているのは、AIアプリケーションのほんの一部(でもめちゃくちゃ儲かる)にしか目を向けてないってことだよね。

ワクワクしたけど、推論用だって知ってがっかり。あくびが出ちゃうね。TSMCがNVIDIAの競合に優先的にテープを提供するのは明らかに彼らの利益になると思う。顧客基盤が分散してる方が、価格が上がるからね。

半導体製造にちょっと関わった10年前の私の推測では、火山の下の洞窟にいる神秘的なグルがいて、どの顧客がどのノードにどの価格でアクセスできるかを決めてるんじゃないかな。

現在、推論が将来的にLLMの主要なコスト要因になる方向に進んでいるね。テスト時の計算は推論で大量のトークンを必要とするし、最前線モデルをサービスとして提供するのは利益が出ない。輸出制限がかかっていない人は、最前線モデルを訓練するためにGPUを集められるけど(実際、制限がかかっているDeepSeekでもできるし)、OpenAIなどと競えるサービスを提供するのはかなりコストがかかるだろうね。だから、推論での3倍の改善は決して軽視できないと思うよ。

現在のアーキテクチャでNvidiaは壁にぶつかってると思う。Intelが歴史的に様々なアーキテクチャでそうだったようにね。今の世代はパワーと冷却の要件が新しいデータセンターの建設を必要としてるから、推論の経済性が崩れちゃうよ(GPU + データセンター + 発電所 + 核融合研究部門 + データセンター用地のロビー活動 + 水権利 + ...)。Intelの時代は、AMDやCyrix、ARM、Appleなんかが新しいアーキテクチャを持ってきて、Intelの世代を明らかに超えてた。特に、Intelの世代の熱やパワーの限界を突破してたから(その時、Intelはチップ設計グループを解雇して、AMDから人を雇ってCoreを出したりしてた)。Nvidiaには実質的に競争相手がいないし、CUDAの堀を破った人はいないから、IntelやAMDもデータセンターのスペースで本当に競争してない。だから、Blackwellの多キロワットのパワー消費に対する競争圧力もないんだ。これが重要なのは、LLMがすごく便利で役立つツールだけど、AGIじゃないし、スケーリングの壁にぶつかってるから。例えば、Blackwellを使ったデータセンターの経済性を成り立たせるには、全経済がそれに依存することを前提にしないといけない。そうじゃないと、投資の数字が合わないんだ。LLMの使われ方と、実際に提供するサービスのコストとのギャップが大きすぎる。だから、これはプレスリリースだけど、推論用の新しいハードウェアアーキテクチャのようなものを見たら、特に新しい建物を建てたり核融合を解決する必要がないなら、いい兆候だと思う。LLMが好きだし、たくさんの価値を得てるけど、業界の財務状況は今は合わないよね。

これありがとう。今のAI経済に対する不安を言葉にしてくれた。

Hacker Newsで議論の続きを見る