世界を動かす技術を、日本語で。

Nvidiaの「Vera」ホワイトペーパーに問題が発生しています

概要

  • NVIDIAが自社初のサーバーCPU「Vera」とOlympusコアの詳細なホワイトペーパーを公開
  • Veraは88コア、Arm v9.2ベースの高性能設計が特徴
  • 独自技術の強調とx86批判が混在し、説明に誤解を招く部分も
  • 初期ベンチマークでは他社製品を上回る性能を示すが、検証範囲には制限あり
  • 技術的な優位性と実際の設計意図の違いに注意が必要

NVIDIA VeraとOlympusコアの技術解説

  • Vera はNVIDIA初のサーバー向けCPUで、 88コア のモノリシックダイを採用
  • コアは Arm v9.2 ベースの Olympus で、 10命令幅デコード、2分岐/サイクル対応
  • ニューラル分岐予測バリュープレディクションメモリリネーミング、大規模命令ウィンドウ搭載
  • SVEパイプ6本ロードパイプ4本ストアパイプ2本
  • L1データキャッシュ96KBプライベートL2キャッシュ2MB/コアシステムキャッシュ164MB
  • 3.4TB/sのコヒーレンシファブリック で全コア接続

Olympusコアの特徴と他社比較

  • バリュープレディクション は依存命令の待ち時間短縮に有効
    • AppleやAMDも実装例あり、Olympusはより広範囲で対応
  • グラフプリフェッチャ はIntelのData-Dependent Prefetcherと類似
    • Intelの実装より複雑なワークロードに強い可能性
  • ニューラル分岐予測 も過去にAMDで採用例あり
    • 現行の主流はTAGE型予測器

メモリサブシステムと消費電力

  • LPDDR5X を8チャネル搭載、 最大1.5TB容量1.2TB/s帯域
  • メモリサブシステム全体で 約50W消費 と高効率
  • EPYCやXeonに比べて交換性や拡張性は劣るが、基板面積と消費電力で有利

初期ベンチマーク結果

  • Phoronix による初期テストで、5GHz EPYC 9575Fより 10%高性能
  • Xeon 6980P比 1.55倍、Grace比 1.63倍 の性能
  • テスト範囲はNVIDIAが制限、プリプロダクション機で1日限定の実施
    • 周波数や消費電力の監視不可
  • より広範な評価は今後の市販機で必要

NVIDIAホワイトペーパーの議論点

  • x86 SMT(同時マルチスレッディング) への批判的説明に誤解を招く図
    • SMTではパイプライン資源を動的にシェアし、スループット最大化を図る
    • NVIDIAのSpatial Multithreadingは資源分離でQoSや遅延安定性向上を主張
    • 性能向上よりも 決定性・分離性・サービス品質 重視の設計
  • SMT復帰遅延 :Olympusコアはシングルスレッド復帰に 10,000サイクル 要する
    • ソフトウェア側でスレッド管理に注意が必要

NUMA構成とトポロジーの比較

  • Veraは ソケットごとに1つのNUMAドメイン を提供
  • x86(EPYCなど)は 最大32ドメイン まで細分化可能だが、設定次第で調整可能
    • NUMAノード数はユーザー設定であり、必然ではない
  • Veraはシンプルなトポロジーで運用容易、x86は物理局所性を活かす柔軟性
  • NoC構成 :VeraやXeonは均一なレイテンシ、EPYCはクラスタ内低遅延・間高遅延

ベンチマークとAI色の強調

  • SPEC CPU 2026から4種(CPython, GCC, LLVM, Cppcheck)を「エージェンティックベンチマーク」と称して選択
  • AI分野向けのアピールが強調されているが、汎用CPU評価としては限定的

このように、 Vera/Olympus は技術的に非常に先進的であり、初期性能も高い。一方で、NVIDIAのホワイトペーパーは設計の優位性を強調するあまり、他アーキテクチャへの批判や説明の過程で誤解を招く表現も見受けられる。今後はより中立的な検証や実機での評価が期待される。

Hackerたちの意見

これ、すごいね。まだ半分しか読んでないけど、チップの内部や提供されるものについての面白い議論がいっぱいあるよ。

競争があるのは嬉しいね。競争なしでは意味のある変化は生まれないから。でも、Nvidiaの露骨な虚偽には驚かないよ。何度も見てきたことだしね(スーパーチップとか、2年以上前の設計のやつ)。

今日の一般的なエージェントワークロード(コードのコンパイルやPythonの解釈)に近いSPECベンチマークをいくつか選んで、それを「エージェントベンチマーク」と呼ぶのは全然誤解を招くことじゃないと思うよ。エージェントのスケーリング特性を活かすためには、たくさんの「普通の」計算が必要だから、Nvidiaがこのチップを作ってる理由なんだ。

選ばれた4つのベンチマークはcppcheck、llvm、cpython、gccだね。[1] これらは基本的にコンパイラのベンチマークで、SPEC cpu2026の全てのコンパイラベンチマークでもある!これだとベンチマークの選定がちょっと怪しいと思うんだ。多様なワークロードを代表してるわけじゃないからね。エージェントでやるタスクの代表的なセットだとも思えないし。SPECベンチマークにはマルチメディアコーデックやロスレスデータ圧縮コーデック、sqlite(つまりデータベース)も含まれてるから、エージェントワークロードで簡単に使えるタスクのセットに入れるべきものだよ。コンパイラベンチマークだけを選ぶのは、またちょっと眉をひそめたくなるね。[1] 正直言って、gccとllvmがSPEC cpu2026に入ってるのにはちょっと驚いたよ。

ベンチマークはベンチマークだよね。それに基づいて決断を下すことができるけど、1年以上この業界にいる人なら、自分のワークロードに対してその数字が保証されるとは思わないはず。ベンチマーキングは難しい。重要なのは、自分のソフトウェアが自分のやり方で動いていること。ユニットテストや統合テストを実行しながらプロファイラーを使うことが多いけど、その結果が実際の使用状況を再現することはないってわかってる。プロファイリングは単なる代理で、プロダクションで全てをプロファイリングしたくないから、プロファイラーのコストがほぼゼロじゃない限りね。

じゃあ、これってAMDにとっては厳しいの?

AMDは2日後にもっと速いCPUを発表したよ。

オリンポスの存在意義は、GPUをオーケストレーションすることだよ。制御が多くてレイテンシに敏感なワークロードを処理して、ルービンを満たし、AI工場をボトルネックなしで動かすためにね。ツールの呼び出しやデータのマシャリングも含まれる。彼らはCPU市場には競争してないんだ。別の市場だから。

新しい時価総額や、金鉱の真っ只中で複雑なピッケルをほぼ独占的に作ってる恩恵を受けてるにもかかわらず、Nvidiaは顧客を誤解させるマーケティングの長い歴史があることを忘れちゃいけないよ。彼らの代表的な悪行にはこんなのがある:- VWの排出ガススキャンダルのデジタル版で、ドライバーがベンチマークされてるときにそれを感知して、より良い結果を出すためにレンダリングを変える - 実際には3.5GBしか使えないのに4GBのVRAMがあると売り込む(残りの0.5GBは異常に遅くて、使うとパフォーマンスが落ちる) - 表面的には似たようなスペックのカードでも、メモリバス幅が大きく異なることを隠すために意図的に誤解を招くネーミングを使う まあ、他にも似たような不誠実な決定がたくさんあるけど、はっきり言って、俺はNvidiaの大ファンで、彼らの製品は一般的に素晴らしいから使い続けてるよ。

彼らのテンソルコアのパフォーマンス数値「スパース性あり」を忘れちゃダメだよ。

その4GBのVRAMの話は時代を先取りしてる感じだね。CPUキャッシュは階層化されてるんだから、RAMもそうすればいいのに。8GBのDDR6と8GBのDDR5を搭載した未来のシステムが楽しみだな。「RAMにスワップする」ってのが流行るかも。

今日の「エージェント」な世界では、みんながセキュリティについて知ってたことをほとんど忘れちゃったみたいだね。この新しいCPUは価値の投機に全力を注いでる。素晴らしいね。もし「サイバー」モデルが投機攻撃をうまく利用できるようになったら、人々はこういう攻撃に対して弱い機器を求めるようになるかもね。

Hacker Newsで議論の続きを見る